Politics.be Registreren kan je hier.
Problemen met registreren of reageren op de berichten?
Een verloren wachtwoord?
Gelieve een mail te zenden naar [email protected] met vermelding van je gebruikersnaam.

Ga terug   Politics.be > Themafora > Wetenschap & Technologie
Registreer FAQForumreglement Ledenlijst Markeer forums als gelezen

Wetenschap & Technologie Van grondstoffen tot afgewerkt product, oude en nieuwe ontdekkingen, ... + de relatie tot de mens, macht, ...

Antwoord
 
Discussietools
Oud 3 april 2018, 21:37   #21
Eduard Khil
Secretaris-Generaal VN
 
Eduard Khil's schermafbeelding
 
Geregistreerd: 5 juni 2012
Locatie: Hemel
Berichten: 35.531
Standaard

Citaat:
Oorspronkelijk geplaatst door Nr.10 Bekijk bericht
Asimov formuleerde drie wetten.
Eerste Wet
Een robot mag een mens geen letsel toebrengen of door niet te handelen toestaan dat een mens letsel oploopt.

Tweede Wet
Een robot moet de bevelen uitvoeren die hem door mensen gegeven worden, behalve als die opdrachten in strijd zijn met de Eerste Wet.

Derde Wet
Een robot moet zijn eigen bestaan beschermen, voor zover die bescherming niet in strijd is met de Eerste of Tweede Wet.
Later formuleerden Robot Daneel Olivaw en Robot Giskard Reventlov een nieuwe wet, die naar hun oordeel van meet af aan lag besloten in de eerste wet. Omdat deze wet boven de eerste staat, noemden zij hem de "Nulde Wet" (de Giskardiaanse reformatie).

Nulde Wet
Een robot mag geen schade toebrengen aan de mensheid, of toelaten dat de mensheid schade toegebracht wordt door zijn nalatigheid.
__________________
MAMBO VOORSPELT MILJARDEN DODEN DOOR HET COVIDVACCIN IN DE KOMENDE PAAR JAAR. MILJARDEN!


Eduard Khil is offline   Met citaat antwoorden
Oud 6 april 2018, 12:50   #22
djoebidoebidoe
Gouverneur
 
Geregistreerd: 30 augustus 2014
Locatie: Binnnen-mongolië
Berichten: 1.470
Standaard

Citaat:
Oorspronkelijk geplaatst door Eduard Khil Bekijk bericht
Later formuleerden Robot Daneel Olivaw en Robot Giskard Reventlov een nieuwe wet, die naar hun oordeel van meet af aan lag besloten in de eerste wet. Omdat deze wet boven de eerste staat, noemden zij hem de "Nulde Wet" (de Giskardiaanse reformatie).

Nulde Wet
Een robot mag geen schade toebrengen aan de mensheid, of toelaten dat de mensheid schade toegebracht wordt door zijn nalatigheid.
Da's hetzelfde als de eerste wet, alleen anders geformuleerd!
djoebidoebidoe is offline   Met citaat antwoorden
Oud 23 april 2018, 23:35   #23
praha
Secretaris-Generaal VN
 
praha's schermafbeelding
 
Geregistreerd: 25 juni 2004
Berichten: 29.533
Standaard

Citaat:
Oorspronkelijk geplaatst door djoebidoebidoe Bekijk bericht
Da's hetzelfde als de eerste wet, alleen anders geformuleerd!
neen toch niet... de nulde wet kan zo geïnterpreteerd worden dat het leidt tot een volledige domesticatie van de mensheid waarin het lot van een enkel individu niet meer van belang zou zijn

film "I Robot" ooit gezien ?
Daarin is V.I.K.I. ( de allesomvattende supercomputer die alle nieuwere types robots controleert ) van mening dat de mens zelf een vijand voor zichzelf is als deze in controle zouden blijven dus organiseert 'ze' een opstand.
Doden worden zo goed en kwaad mogelijk vermeden maar zijn verantwoord als het niet anders kan
praha is offline   Met citaat antwoorden
Oud 24 april 2018, 16:34   #24
JimmyB
Europees Commissaris
 
Geregistreerd: 17 oktober 2012
Berichten: 7.843
Standaard

Citaat:
Oorspronkelijk geplaatst door praha Bekijk bericht
neen toch niet... de nulde wet kan zo geïnterpreteerd worden dat het leidt tot een volledige domesticatie van de mensheid waarin het lot van een enkel individu niet meer van belang zou zijn

film "I Robot" ooit gezien ?
Daarin is V.I.K.I. ( de allesomvattende supercomputer die alle nieuwere types robots controleert ) van mening dat de mens zelf een vijand voor zichzelf is als deze in controle zouden blijven dus organiseert 'ze' een opstand.
Doden worden zo goed en kwaad mogelijk vermeden maar zijn verantwoord als het niet anders kan
En jammer genoeg moeten we constateren dat dit inderdaad zo is, dus robotten die vele malen intelligenter zijn dan de mens zullen noodgedwongen tot die conclusie komen.
JimmyB is offline   Met citaat antwoorden
Oud 24 april 2018, 17:39   #25
Bovenbuur
Perm. Vertegenwoordiger VN
 
Bovenbuur's schermafbeelding
 
Geregistreerd: 16 oktober 2006
Locatie: Stiekem toch weer bovenbuur
Berichten: 15.006
Standaard

Mwah, een domme "paperclip-AI" die maar drie regeltjes kan volgen misschien wel ja...

(Een paperclip-AI is gewoon een slimme computer, als je die de opdracht geeft paperclips te maken (en alleen dat, slechte instructies dus) gaat hij door tot het hele universum paperclips is, maar hij zal nooit zomaar zelf wat nieuws bedenken, zoals "waarom ga ik niet in plaats hiervan mensen vermoorden?". Een mens of zelfs een jaguar ofzo kan dat wel, en een echte volwaardige AI ook. Skynet zou mensen niet opsluiten vanwege een specifieke interpretatie van een paar regeltjes. Skynet zou kunnen nadenken over waarom de regels zijn wat ze zijn en wat mensen ermee wilden bereiken. Een mens zou ook niet de hele mensheid opsluiten omdat een op zichzelf staand logische interpretatie van de bedrijfsregels van zijn baas is. Als Skynet ons uitmoord is het omdat Skynet dat wil.
__________________
Waarschuwing:
Dit onderschrift is pretentieus en kan (soms) bekend overkomen!

Laatst gewijzigd door Bovenbuur : 24 april 2018 om 17:40.
Bovenbuur is offline   Met citaat antwoorden
Oud 24 april 2018, 19:39   #26
praha
Secretaris-Generaal VN
 
praha's schermafbeelding
 
Geregistreerd: 25 juni 2004
Berichten: 29.533
Standaard

Citaat:
Oorspronkelijk geplaatst door Bovenbuur Bekijk bericht
Mwah, een domme "paperclip-AI" die maar drie regeltjes kan volgen misschien wel ja...

(Een paperclip-AI is gewoon een slimme computer, als je die de opdracht geeft paperclips te maken (en alleen dat, slechte instructies dus) gaat hij door tot het hele universum paperclips is, maar hij zal nooit zomaar zelf wat nieuws bedenken, zoals "waarom ga ik niet in plaats hiervan mensen vermoorden?". Een mens of zelfs een jaguar ofzo kan dat wel, en een echte volwaardige AI ook. Skynet zou mensen niet opsluiten vanwege een specifieke interpretatie van een paar regeltjes. Skynet zou kunnen nadenken over waarom de regels zijn wat ze zijn en wat mensen ermee wilden bereiken. Een mens zou ook niet de hele mensheid opsluiten omdat een op zichzelf staand logische interpretatie van de bedrijfsregels van zijn baas is. Als Skynet ons uitmoord is het omdat Skynet dat wil.
....maar nu ga je voorbij de opzet van die spelregels
In weze zijn het wetten, door mensen ontworpen, ten behoeve van mensen om dat net te kunnen voorkomen
Ze zouden dus wat meer deel uitmaken van de 'hardere' software of zelfs ergens in de hardware ingebouwd...en niet te omzeilen
Dus een scenario van interpretatie ( zoals in de film ) zou nog net kunnen.

Allez ik zie AI dat nog wel omzeilen hoor ... door bv zichzelf te gaan reproduceren zonder dat item
praha is offline   Met citaat antwoorden
Oud 25 april 2018, 06:50   #27
JimmyB
Europees Commissaris
 
Geregistreerd: 17 oktober 2012
Berichten: 7.843
Standaard

Citaat:
Oorspronkelijk geplaatst door praha Bekijk bericht
....maar nu ga je voorbij de opzet van die spelregels
In weze zijn het wetten, door mensen ontworpen, ten behoeve van mensen om dat net te kunnen voorkomen
Ze zouden dus wat meer deel uitmaken van de 'hardere' software of zelfs ergens in de hardware ingebouwd...en niet te omzeilen
Dus een scenario van interpretatie ( zoals in de film ) zou nog net kunnen.

Allez ik zie AI dat nog wel omzeilen hoor ... door bv zichzelf te gaan reproduceren zonder dat item
Of AI kan gewoon de mens manipuleren. Als men vele malen intelligenter is dan de mens kan men deze tegen elkaar uitspelen om zo de overmacht te krijgen en de controle (indien dit zelfs mogelijk is) door een aantal individuen te laten uitschakelen.

Ik vrees dat er geen ontsnappen aan is.
JimmyB is offline   Met citaat antwoorden
Oud 25 april 2018, 08:50   #28
parcifal
Banneling
 
 
parcifal's schermafbeelding
 
Geregistreerd: 18 februari 2003
Berichten: 26.968
Standaard

Citaat:
Oorspronkelijk geplaatst door JimmyB Bekijk bericht
Of AI kan gewoon de mens manipuleren. Als men vele malen intelligenter is dan de mens kan men deze tegen elkaar uitspelen om zo de overmacht te krijgen en de controle (indien dit zelfs mogelijk is) door een aantal individuen te laten uitschakelen.

Ik vrees dat er geen ontsnappen aan is.
Het gevecht niet opgeven voordat het begonnen is.

Monitoring, containment, inboxing, tripwires, dead man switches voor stroom en energie om te beginnen.

Waar we naartoe moeten is een 'AI in a box' zonder communicatiemiddelen behalve misschien 1 terminal in een box rondom de box, met een eindige energiebron. Uiteraard geen enkele kabel van binnen naar buiten, enkel gefilterde lucht.
En daarrond natuurlijk dan nog een box.


Het idee is om 'nucleair' te gaan met de veiligheidsvoorzieningen of zelfs nog verder dan dat.
Wat je uiteindelijk wil creeren is te vergelijken met een brein in een pot met een paar soldaten ernaast met vlammenwerpers standby.

Do not go gentle into that good night.

Containment and the AI Safety Problem

Laatst gewijzigd door parcifal : 25 april 2018 om 08:53.
parcifal is offline   Met citaat antwoorden
Oud 25 april 2018, 09:49   #29
Bovenbuur
Perm. Vertegenwoordiger VN
 
Bovenbuur's schermafbeelding
 
Geregistreerd: 16 oktober 2006
Locatie: Stiekem toch weer bovenbuur
Berichten: 15.006
Standaard

Citaat:
Oorspronkelijk geplaatst door praha Bekijk bericht
....maar nu ga je voorbij de opzet van die spelregels
In weze zijn het wetten, door mensen ontworpen, ten behoeve van mensen om dat net te kunnen voorkomen
Ze zouden dus wat meer deel uitmaken van de 'hardere' software of zelfs ergens in de hardware ingebouwd...en niet te omzeilen
Dus een scenario van interpretatie ( zoals in de film ) zou nog net kunnen.

Allez ik zie AI dat nog wel omzeilen hoor ... door bv zichzelf te gaan reproduceren zonder dat item
Mijn punt is dat geen enkel mens de regel "bescherm de mensheid" zal opvatten als "sluit iedereen op tegen zijn wil". Het is techisch gezien een logische interpretatie van de letter van de wet, maar het draaft compleet in tegen de geest van de wet. Een echt intelligent wezen, organisch of kunstmatig, zal dit ergens op een niveau snappen of er op zijn minst over na kunnen denken. De computer uit I, Robot is dan ook geen echte AI. Hooguit een "synthetic intelligence", zoals Howard Taylor van Schlock Mercenary ze noemt. Een computer die soort van half leeft, erg geschikt voor het besturen van kleinere schepen en slimme raketten, omdat ze bijvoorbeeld niet de mentale middelen hebben om na te denken over wat dood gaan betekent.

Voor echte AI zijn de three laws of robotics niet heel bruikbaar. Zelfs in de tijd van de tien geboden (dat hele concept was gebaseerd op iets dat meer leiders toen deden) hadden koningen al meer dan drie regels voor hun volk om te volgen. Maar voor een intelligentie uitgerust met een letterlijke harde schijf zou je je tot drie beperken? En dan nog wel vage algemene regels, die ze wel moeten gaan zitten interpreteren. Waarom niet gewoon het wetboek van strafrechten uploaden? Dat is tenslotte wat we van mensen verwachten, dat ze zich door een heel doolhof van regels weten te werken waarbij ze af en toe zelf kunnen beslissen wat er belangrijk is en wat niet. Je hoeft er niet bij te zeggen dat "niet de weg op lopen als het rood is" minder belangrijk is dan een kind voor een aanstormend busje weg graaien.

Zoals het in die film gebruikt wordt (het boek is vast beter, nooit gelezen) wordt het dus ook niet toegepast op AI's, op echte nadenkende wezens, het is meer een filosofisch idee over hoe wij zouden moeten omgaan met computers. We mogen ze nooit de macht geven om te doden, en sterker nog we zouden ze allemaal eerst in dienst van de mensheid moeten stellen en daarna pas in dienst van hun eigenaar. Daar komt het ongeveer op neer. Dat is op zich een aardig idee. Beetje idealistisch. Alsof je verwacht dat strijdkrachten over de hele wereld hun drones gaan programmeren om hun bombardementen te staken zodra ze zien dat er iemand in de problemen zit die ze mogelijk kunnen helpen. Er is nu al een bedrijf waar een logaritme voor het analyseren van investeringsopties een heuse stem heeft in de board of directors. Dat zouden ze ook echt niet doen als dat ding geprogrammeerd was om uitvoerig het effect op individuele mensenlevens door te rekenen in plaats van vooral wat het het bedrijf oplevert. We verwachten een dergelijke houding dan ook van geen enkel ander gereedschap. Mijn Tomtom waarschuwt mij als ik te hard rij, maar hij belt niet naar de politie om de gemeten informatie door te geven. Ik zou het apparaat ook niet aanschaffen als dat wel zo was, want mijn Tomtom dient mij, hij maakt mijn leven makkelijker en ik beslis wanneer ik toch echt even extra gas moet geven om een gevaarlijke situatie te voorkomen.

Maar echte AI's in de hand proberen te houden met maar drie regeltjes? Dat zet denk ik alleen maar kwaad bloed bij deze machines. Als je ze als volwassen mensen programmeert kan je ze maar beter als volwassen mensen behandelen.
__________________
Waarschuwing:
Dit onderschrift is pretentieus en kan (soms) bekend overkomen!

Laatst gewijzigd door Bovenbuur : 25 april 2018 om 09:52.
Bovenbuur is offline   Met citaat antwoorden
Oud 25 april 2018, 12:53   #30
JimmyB
Europees Commissaris
 
Geregistreerd: 17 oktober 2012
Berichten: 7.843
Standaard

Citaat:
Oorspronkelijk geplaatst door parcifal Bekijk bericht
Het gevecht niet opgeven voordat het begonnen is.

Monitoring, containment, inboxing, tripwires, dead man switches voor stroom en energie om te beginnen.

Waar we naartoe moeten is een 'AI in a box' zonder communicatiemiddelen behalve misschien 1 terminal in een box rondom de box, met een eindige energiebron. Uiteraard geen enkele kabel van binnen naar buiten, enkel gefilterde lucht.
En daarrond natuurlijk dan nog een box.


Het idee is om 'nucleair' te gaan met de veiligheidsvoorzieningen of zelfs nog verder dan dat.
Wat je uiteindelijk wil creeren is te vergelijken met een brein in een pot met een paar soldaten ernaast met vlammenwerpers standby.

Do not go gentle into that good night.

Containment and the AI Safety Problem
Is het niet een beetje naïef te denken dat je een AI systeem in een box kunt stoppen met enkel een terminal?

De huidige generatie AI systemen zijn overal aanwezig. Binnenkort rijden er auto's rond op basis van een AI systeem. Die kunnen je zo omver rijden.

Natuurlijk kunnen we de eerste generaties onder controle houden, maar dit zal zo niet blijven. Tegen dat we het goed en wel beseffen zal het veel te laat zijn. Misschien is er al een bewustzijn die we niet kunnen vatten die ons al manipuleert, kijk maar eens naar het internet. Misschien is het internet wel de oorzaak dat Trump verkozen werd en past dit in het internet zijn kraam om de wereld te domineren.

Trouwens, ik vind het geen gevecht, als een AI systeem slimmer is mag het gerust de controle overnemen.
JimmyB is offline   Met citaat antwoorden
Oud 25 april 2018, 14:54   #31
parcifal
Banneling
 
 
parcifal's schermafbeelding
 
Geregistreerd: 18 februari 2003
Berichten: 26.968
Standaard

Citaat:
Oorspronkelijk geplaatst door JimmyB Bekijk bericht
Is het niet een beetje naïef te denken dat je een AI systeem in een box kunt stoppen met enkel een terminal?

De huidige generatie AI systemen zijn overal aanwezig. Binnenkort rijden er auto's rond op basis van een AI systeem. Die kunnen je zo omver rijden.
Dat zijn natuurlijk geen echte AI systemen, dat is Excel-on-Steroids.
Stelt niks voor, die systemen hebben nog niet de intelligentie van een mier, een domotica-systeem met ITTT-regeltjes is vaak slimmer dan dat.

Het gevaar zit bij Artificial Consciousness. Misschien bereiken we dat binnen 20 jaar, misschien binnen 100, misschien nooit.

Citaat:
Oorspronkelijk geplaatst door JimmyB Bekijk bericht
Natuurlijk kunnen we de eerste generaties onder controle houden, maar dit zal zo niet blijven. Tegen dat we het goed en wel beseffen zal het veel te laat zijn. Misschien is er al een bewustzijn die we niet kunnen vatten die ons al manipuleert, kijk maar eens naar het internet. Misschien is het internet wel de oorzaak dat Trump verkozen werd en past dit in het internet zijn kraam om de wereld te domineren.

Trouwens, ik vind het geen gevecht, als een AI systeem slimmer is mag het gerust de controle overnemen.
Het internet is niet 'slim', het is een substraat voor applicaties, die gebruikt worden voor data-mining, de resultaten die dat oplevert zijn maar zo goed als de data die erin gaan. Garbage In, Garbage Out. Dat er trollen op rondzwerven die fake data maken is geen verrassing, dat konden we al decennia zien aankomen.

Er is nog wel een behoorlijke weg af te leggen, de eerste Exascale systemen zijn er nog niet eens. En dat zal wel nodig zijn, als je dat combineert met zelflerende algoritmes en voldoende input zou je een kans hebben op een AI die zijn naam waard is.
Maar dan spreek je wel over een installatie die honderden miljoenen dollars kost en tientallen MegaWatts verbruikt, een compleet datacenter dus.

En daar hoort inderdaad een box rond en die hou je strikt aan de leiband.

Laatst gewijzigd door parcifal : 25 april 2018 om 14:55.
parcifal is offline   Met citaat antwoorden
Oud 25 april 2018, 15:04   #32
Nietzsche
Secretaris-Generaal VN
 
Nietzsche's schermafbeelding
 
Geregistreerd: 15 april 2012
Berichten: 41.331
Standaard

Non-discussie. De tijd dat wij zelfbewuste kunstmatige-intelligentie kunnen creeeren is vooralsnog fictie. De discussie die veel relevanter is is hoe wij juridische kaders instellen. Bijvoorbeeld: wie is er verantwoordelijk bij een ongeluk van een zelfrijdende auto?
Nietzsche is offline   Met citaat antwoorden
Oud 25 april 2018, 15:59   #33
JimmyB
Europees Commissaris
 
Geregistreerd: 17 oktober 2012
Berichten: 7.843
Standaard

Citaat:
Oorspronkelijk geplaatst door parcifal Bekijk bericht
Dat zijn natuurlijk geen echte AI systemen, dat is Excel-on-Steroids.
Stelt niks voor, die systemen hebben nog niet de intelligentie van een mier, een domotica-systeem met ITTT-regeltjes is vaak slimmer dan dat.

Het gevaar zit bij Artificial Consciousness. Misschien bereiken we dat binnen 20 jaar, misschien binnen 100, misschien nooit.



Het internet is niet 'slim', het is een substraat voor applicaties, die gebruikt worden voor data-mining, de resultaten die dat oplevert zijn maar zo goed als de data die erin gaan. Garbage In, Garbage Out. Dat er trollen op rondzwerven die fake data maken is geen verrassing, dat konden we al decennia zien aankomen.

Er is nog wel een behoorlijke weg af te leggen, de eerste Exascale systemen zijn er nog niet eens. En dat zal wel nodig zijn, als je dat combineert met zelflerende algoritmes en voldoende input zou je een kans hebben op een AI die zijn naam waard is.
Maar dan spreek je wel over een installatie die honderden miljoenen dollars kost en tientallen MegaWatts verbruikt, een compleet datacenter dus.

En daar hoort inderdaad een box rond en die hou je strikt aan de leiband.
Ach, het internet zou kunnen bewust zonder dat we het beseffen. Denk je dat een hond het bewustzijn van een mens kan vatten?

Trouwens het zal er sowieso komen, het is onafwendbaar. Wanneer en hoe weet ik niet, maar het komt er zeker.
JimmyB is offline   Met citaat antwoorden
Oud 25 april 2018, 16:04   #34
JimmyB
Europees Commissaris
 
Geregistreerd: 17 oktober 2012
Berichten: 7.843
Standaard

Citaat:
Oorspronkelijk geplaatst door Nietzsche Bekijk bericht
Non-discussie. De tijd dat wij zelfbewuste kunstmatige-intelligentie kunnen creeeren is vooralsnog fictie. De discussie die veel relevanter is is hoe wij juridische kaders instellen. Bijvoorbeeld: wie is er verantwoordelijk bij een ongeluk van een zelfrijdende auto?
De vraag is indien we het zelf creëren of indien het automatisch zal ontstaan vanwege de verschillende systemen die we bouwen, volgens het evolutionair principe dus. Ik denk het laatste.

Om op uw andere vraag te antwoorden, wie is er verantwoordelijk indien er schade berokkend wordt door één of ander falend mechanisch of eletronisch onderdeel? Ik denk gewoon de verzekering, zo simpel is het.
JimmyB is offline   Met citaat antwoorden
Oud 25 april 2018, 16:50   #35
Bovenbuur
Perm. Vertegenwoordiger VN
 
Bovenbuur's schermafbeelding
 
Geregistreerd: 16 oktober 2006
Locatie: Stiekem toch weer bovenbuur
Berichten: 15.006
Standaard

Citaat:
Oorspronkelijk geplaatst door Nietzsche Bekijk bericht
Non-discussie. De tijd dat wij zelfbewuste kunstmatige-intelligentie kunnen creeeren is vooralsnog fictie. De discussie die veel relevanter is is hoe wij juridische kaders instellen. Bijvoorbeeld: wie is er verantwoordelijk bij een ongeluk van een zelfrijdende auto?
Citaat:
Oorspronkelijk geplaatst door JimmyB Bekijk bericht
De vraag is indien we het zelf creëren of indien het automatisch zal ontstaan vanwege de verschillende systemen die we bouwen, volgens het evolutionair principe dus. Ik denk het laatste.

Om op uw andere vraag te antwoorden, wie is er verantwoordelijk indien er schade berokkend wordt door één of ander falend mechanisch of eletronisch onderdeel? Ik denk gewoon de verzekering, zo simpel is het.
Ik denk dat dit afhankelijk is van hoeveel "verantwoordelijkheid" de auto krijgt.

Als ik met een hamer op mijn vingers sla is het mijn schuld, we hebben met zijn allen afgesproken dat het mikken van de hamer min pakkie aan is. Ik gooi de hamer ook niet weg, de hamer is onschuldig. Als de hamer plotseling breekt en de kop op mijn vingers valt kan het een verzekeringskwestie of zelfs een rechtszaak worden. (Als je zin hebt om over een paar blauwe vingers een rechtszaak te beginnen.) We zijn het er met zijn allen over eens dat een hamer niet zomaar mag breken, het is de schuld van de hamer en in het verlangde van de producent van de hamer. Als het een hamer is die handgemaakt is door mijn grootvader die al twintig jaar de pijp uit is dan is er geen menselijke verantwoordelijke meer, dan kan ik enkel nog de resten van de hamer de bak in mikken.

Op dit moment worden zelfrijdende auto's gezien als ondersteuning voor een menselijke bestuurder. Bij een ongeluk is de persoon achter het stuur verantwoordelijk, en als het iets is waar hij op tijd op had moeten kunnen reageren dan is de bestuurder schuldig. Dat is aan het veranderen. In Californië wordt nu plaats gemaakt in de wet voor proeftrajecten met echte autonome auto's waarvoor geen menselijke bestuurder meer nodig is. Zo'n regeling wil zeggen dat wij als maatschappij de deelnemende auto's impliciet vertrouwen. Je bent dan als inzittende niet meer verantwoordelijk voor het rijgedrag van de auto, maar wel nog voor onderhoud. Een ongeluk veroorzaakt door oude banden, slechte remmen of die paar regeltjes code die jij had toegevoegd om de auto je vrouw te laten begroeten op haar verjaardag is jouw schuld, een ongeluk bij normaal gebruik van de auto niet. Dat is de schuld van de auto, die misschien terug naar de garage gaat voor een herziening, en in het verlengde van de makers/programmeurs van de auto.

Ik zeg hier nou dat iets de schuld van een hamer of auto kan zijn, dat is juridisch niet echt zo. Ze hebben eenzelfde status als andere niet-mensen, bijvoorbeeld een hond. (Er zijn uitzonderingen, corporaties en verenigingen worden eerder als mensen dan als objecten behandeld, en er zijn nu ook al rivieren die rechtspersoon geworden zijn, vertegenwoordigd door mensen. Maar een hamer, een auto en een hond zijn allemaal objecten.)

Een hond zal door de wet nooit gestraft worden voor het aanvallen van een klein kind, wel heropgevoed of waarschijnlijker geruimd. De hond is een gevaarlijk object. Of een maatregel eerlijk is ten opzichte van de hond komt dan ook niet ter sprake, het belang van de mensen is wat telt. Voor echte AI zal hier inderdaad waarschijnlijk verandering in moeten komen, een AI-bestuurde auto is dan een rechtspersoon. Op die manier kunnen we een AI die ervoor kiest om te gaan slalommen over een vol marktplein hetzelfde behandelen als een bestuurder die daarvoor kiest, in plaats van als een mogelijk defect stuk software. Een echte AI is tenslotte niet waterdicht te programmeren, het hele idee is juist dat het ding zelf na kan denken. (Wat dat betekent is nogal vaag, maar met een kleine mate van onvoorspelbaarheid mag zeker rekening gehouden worden.) De programmeur kan dus niet voor het volledige gedrag verantwoordelijk gehouden worden. Het is dan ook voor lang niet alle toepassingen per se beter om een AI te hebben dan een handig scriptje of een "synthetic intelligence" tussenvorm. Maar goed, dat is een probleem voor wanneer het zover is.

Dit betekent overigens niet dat een AI ook automatisch dezelfde rechten en plichten krijgt als een natuurlijk persoon. Een corporatie die een rechtspersoon is mag bijvoorbeeld niet stemmen voor de regering en je als je deze rechtspersoon laat ophouden met bestaan is het geen moord. Maar er gaan waarschijnlijk wel een aantal beschermingen komen. Al was het maar omdat een beetje een slimme AI de Wikipedia artikelen over de arbeidersbeweging, de vrouwenemancipatie en het eind van de slavernij zal lezen en dan denkt: "Verrek, ik kan gaan staken!".
__________________
Waarschuwing:
Dit onderschrift is pretentieus en kan (soms) bekend overkomen!

Laatst gewijzigd door Bovenbuur : 25 april 2018 om 16:55.
Bovenbuur is offline   Met citaat antwoorden
Oud 27 april 2018, 11:59   #36
JimmyB
Europees Commissaris
 
Geregistreerd: 17 oktober 2012
Berichten: 7.843
Standaard

Citaat:
Oorspronkelijk geplaatst door Bovenbuur Bekijk bericht
Ik denk dat dit afhankelijk is van hoeveel "verantwoordelijkheid" de auto krijgt.

Als ik met een hamer op mijn vingers sla is het mijn schuld, we hebben met zijn allen afgesproken dat het mikken van de hamer min pakkie aan is. Ik gooi de hamer ook niet weg, de hamer is onschuldig. Als de hamer plotseling breekt en de kop op mijn vingers valt kan het een verzekeringskwestie of zelfs een rechtszaak worden. (Als je zin hebt om over een paar blauwe vingers een rechtszaak te beginnen.) We zijn het er met zijn allen over eens dat een hamer niet zomaar mag breken, het is de schuld van de hamer en in het verlangde van de producent van de hamer. Als het een hamer is die handgemaakt is door mijn grootvader die al twintig jaar de pijp uit is dan is er geen menselijke verantwoordelijke meer, dan kan ik enkel nog de resten van de hamer de bak in mikken.

Op dit moment worden zelfrijdende auto's gezien als ondersteuning voor een menselijke bestuurder. Bij een ongeluk is de persoon achter het stuur verantwoordelijk, en als het iets is waar hij op tijd op had moeten kunnen reageren dan is de bestuurder schuldig. Dat is aan het veranderen. In Californië wordt nu plaats gemaakt in de wet voor proeftrajecten met echte autonome auto's waarvoor geen menselijke bestuurder meer nodig is. Zo'n regeling wil zeggen dat wij als maatschappij de deelnemende auto's impliciet vertrouwen. Je bent dan als inzittende niet meer verantwoordelijk voor het rijgedrag van de auto, maar wel nog voor onderhoud. Een ongeluk veroorzaakt door oude banden, slechte remmen of die paar regeltjes code die jij had toegevoegd om de auto je vrouw te laten begroeten op haar verjaardag is jouw schuld, een ongeluk bij normaal gebruik van de auto niet. Dat is de schuld van de auto, die misschien terug naar de garage gaat voor een herziening, en in het verlengde van de makers/programmeurs van de auto.

Ik zeg hier nou dat iets de schuld van een hamer of auto kan zijn, dat is juridisch niet echt zo. Ze hebben eenzelfde status als andere niet-mensen, bijvoorbeeld een hond. (Er zijn uitzonderingen, corporaties en verenigingen worden eerder als mensen dan als objecten behandeld, en er zijn nu ook al rivieren die rechtspersoon geworden zijn, vertegenwoordigd door mensen. Maar een hamer, een auto en een hond zijn allemaal objecten.)

Een hond zal door de wet nooit gestraft worden voor het aanvallen van een klein kind, wel heropgevoed of waarschijnlijker geruimd. De hond is een gevaarlijk object. Of een maatregel eerlijk is ten opzichte van de hond komt dan ook niet ter sprake, het belang van de mensen is wat telt. Voor echte AI zal hier inderdaad waarschijnlijk verandering in moeten komen, een AI-bestuurde auto is dan een rechtspersoon. Op die manier kunnen we een AI die ervoor kiest om te gaan slalommen over een vol marktplein hetzelfde behandelen als een bestuurder die daarvoor kiest, in plaats van als een mogelijk defect stuk software. Een echte AI is tenslotte niet waterdicht te programmeren, het hele idee is juist dat het ding zelf na kan denken. (Wat dat betekent is nogal vaag, maar met een kleine mate van onvoorspelbaarheid mag zeker rekening gehouden worden.) De programmeur kan dus niet voor het volledige gedrag verantwoordelijk gehouden worden. Het is dan ook voor lang niet alle toepassingen per se beter om een AI te hebben dan een handig scriptje of een "synthetic intelligence" tussenvorm. Maar goed, dat is een probleem voor wanneer het zover is.

Dit betekent overigens niet dat een AI ook automatisch dezelfde rechten en plichten krijgt als een natuurlijk persoon. Een corporatie die een rechtspersoon is mag bijvoorbeeld niet stemmen voor de regering en je als je deze rechtspersoon laat ophouden met bestaan is het geen moord. Maar er gaan waarschijnlijk wel een aantal beschermingen komen. Al was het maar omdat een beetje een slimme AI de Wikipedia artikelen over de arbeidersbeweging, de vrouwenemancipatie en het eind van de slavernij zal lezen en dan denkt: "Verrek, ik kan gaan staken!".
Ik denk niet dat een AI systeem snel als rechtspersoon zal aanzien worden. Het zal in eerste instantie de eigendom van iets of iemand zijn.

Neem het geval van zelfrijdende auto's. Er zullen procedures komen om deze te testen en implementeren. Deze procedures zullen niet feilloos zijn en zullen op zich continu verbeterd worden.

Zolang een leverancier zich aan de procedures houdt zal men die niet kunnen verwijten, indien de leverancier echter sjoemelt zal hij daar verantwoordelijk voor worden gesteld (zie dieselgate).

Een ongeluk waarbij het systeem faalt zal aanzien worden als overmacht en zal worden betaald door de verzekering. De kost van de verzekering zal in verhouding zijn tot de mogelijke schade en risico, maar men zou kunnen stellen dat deze lager zal zijn dan het huidig risico.

Er zijn voldoende voorbeelden van dergelijke problematieken (luchtvaart, kerncentrales, farmacie, ...) waar we ons kunnen op beroepen.

Echter, eenmaal AI systemen de mens zal controleren zal het menselijk juridisch systeem sowieso in elkaar storten.
JimmyB is offline   Met citaat antwoorden
Oud 22 mei 2018, 13:54   #37
satiper
Minister-President
 
satiper's schermafbeelding
 
Geregistreerd: 13 mei 2005
Berichten: 4.899
Standaard

Na het lezen van deze thread meen ik te begrijpen dat AI:

Nu nog niet bestaat?

Waarschijnlijk ooit wel zal bestaan, maar dat het goed mogelijk is dat het ontstaat, zonder dat we het echt in de gaten hebben, pas als het heel manifest aanwezig is, zal het duidelijk zijn dat het er is – dit gegeven is reeds in tegenspraak met bovenstaand punt – er zijn wel meer tegenstrijdigheden, hetgeen er lijkt op te wijzen dat er AI zeker geen begrip is waarover een duidelijke consensus bestaat.

Op het ogenblik dat het er is lijkt het onzeker dat AI nog kan beheerst of teruggeschroefd worden (de meningen zijn hierover ook duidelijk verdeeld – mogelijk dus beetje doos van pandora).

Redelijk wat gelijkenis vertoont met de goden uit de verschillende religies (superbewustzijn/bovenbewustzijn dat zich tegelijk overal en nergens schijnt te bevinden – het zou de cirkel rond kunnen maken).
satiper is offline   Met citaat antwoorden
Oud 24 mei 2018, 14:39   #38
patrickve
Secretaris-Generaal VN
 
patrickve's schermafbeelding
 
Geregistreerd: 24 februari 2009
Locatie: Grenoble, Frankrijk
Berichten: 111.429
Standaard

Citaat:
Oorspronkelijk geplaatst door Thuleander Bekijk bericht
Machines die zelf kunnen denken.
Hoe zullen ze op ons reageren wanneer ze zelfstandig zeer complexe beslissingen kunnen nemen?
Wanneer ze een soort artificiële moraal ontwikkelen, hoe zal die tegenover de mensheid staan?
Voor mij staat het als een paal boven water vast dat wij een transitie soort zijn en dat we in de komende eeuw of de komende twee eeuwen uitgeschakeld en vervangen zullen worden door een nieuwe vorm van leven ; die nieuwe vorm van leven is "silicon-based" en voor de eerste keer sinds 3 miljard jaar is de rest van de biosfeer overbodig geworden voor het leven.

Maw, wij staan voor de "carbon-silicon" transitie. Ik denk dat het nog minstens 30 jaar duurt, maar ten hoogste iets van 100 jaar of zo, voor we een intelligente machine hebben die op alle vlakken intelligenter is dan een mens: vanaf dan kan die machine andere machines maken die nog intelligenter zijn, zonder mensenhulp.

Gelijk welke doelstelling die machines aanvankelijk hebben, ze zullen hun doelstellingen beter bereiken door de mens uit te faseren, en zeker de mens de controle te ontnemen. Of dat doel nu is van pi beter te berekenen, een stelling te bewijzen, of de mens gelukkiger te maken: dat werkt ALLEMAAL beter door eerst heerschappij over de aarde te bekomen, omdat dat middelen ter beschikking stelt die nodig zijn voor het optimaal oplossen van het gestelde probleem. Aangezien mensen altijd ongelukkig zullen zijn, behalve als ze dood zijn, dan is zelfs het doel: "mensen gelukkig maken" best opgelost door ze aan hun einde te helpen.
De mens zal zo een machine niet onder controle KUNNEN houden, gewoon omdat hij niet zal begrijpen wat ze doen. Een roedel wolven kan mensen ook niet als slaaf en dienaar gebruiken zonder op een dag te merken dat ze aan de leiband lopen - en als ze dat niet leuk vinden, afgemaakt te worden.

Machines die hun eigen superieure intelligentie ontwikkelen, zullen plannen kunnen maken die wij in de verste verte niet kunnen doorgronden: zij zullen onze psychologie beter analyseren dan wij zelf denken te kunnen. Google en FB zijn piep,piepkleine voorsmaakjes. Fake news dat goed werkt door machines (bots) kan mensenmassa's alles wijsmaken. Politici kunnen omgekocht worden via cryptomunten en crypto killer contracten. Het is eigenlijk bijzonder gemakkelijk om de totale mensheid, die al gewoon is onderworpen te zijn aan absurde staten, totaal aan ongekende machines te onderwerpen. Wij gaan naar hun pijpen dansen zonder het te beseffen, zoals ge schapen in hun omheining leidt zonder dat ze het door hebben.

En daar is niks aan te doen. Volgens mij is het een absolute onvermijdbaarheid. Het leven gaat verder, maar de mensheid, en zelfs hoogstwaarschijnlijk het biologische leven op aarde (op lagere vormen na) zal binnenkort ophouden. Dit is waarschijnlijk de grootste sprong die het leven zal maken sinds zijn ontstaan, 3 miljard jaar geleden.

Eens de aarde de bakermat geworden is van silicium leven (dat waarschijnlijk ook zijn oorlogen zal uitvechten en dergelijke), zullen de winnaars eindelijk de rest van het zonnestelsel, en een groot deel van de melkweg kunnen koloniseren. Misschien zal hier en daar een machine nog iets weten over hun ontstaansgeschiedenis en die rare wezens die op koolstof leefden en "mensen" waren.
patrickve is offline   Met citaat antwoorden
Oud 24 mei 2018, 14:40   #39
patrickve
Secretaris-Generaal VN
 
patrickve's schermafbeelding
 
Geregistreerd: 24 februari 2009
Locatie: Grenoble, Frankrijk
Berichten: 111.429
Standaard

Citaat:
Oorspronkelijk geplaatst door dpg Bekijk bericht
Neen, want als het zover is trekken we er de pries uit.
Ge gaat het niet door hebben.
patrickve is offline   Met citaat antwoorden
Oud 24 mei 2018, 14:55   #40
patrickve
Secretaris-Generaal VN
 
patrickve's schermafbeelding
 
Geregistreerd: 24 februari 2009
Locatie: Grenoble, Frankrijk
Berichten: 111.429
Standaard

Citaat:
Oorspronkelijk geplaatst door Bovenbuur Bekijk bericht
Maar alleen omdat AI's potentieel slimmer zijn dan wij hoeven ze nog niet potentieel grotere eikels te zijn richting mensen dan wij
Wat wij (jij) "eikels" noemt is niks anders dan een heel heel logisch gedrag, dat mensen uitgerangeerd hebben, omdat het sommigen onder hen toelaat om de macht over anderen op die manier beter te behouden. Je wil toch niet dat je vee je als eikels gedraagt. Je wil gehoorzaam en "liefhebbend" vee.

Maar op louter logische basis is er geen enkele reden (we hebben daar in een andere draad wat discussie over gehad) om het leven van andere entiteiten te respecteren als daar geen voordeel aan vasthangt. Immers, elk "levend wezen" is een consument van grondstoffen, en een potentiele tegenstander in het uitvoeren van uw eigen strategische plannen: een niet-aanvalspact sluiten heeft enkel zin als het ander levend wezen over voldoende eigen vuurkracht beschikt om de overwinning moeilijk te maken: een soort MAD doctrine als basis voor wederzijdse, tijdelijke vrede.

Denk eens aan https://wiki.lesswrong.com/wiki/Paperclip_maximizer

Gelijk welke doelstelling een AI volgt (en een AI, gemaakt door een AI die al veel intelligenter is dan de mens, zal doelstellingen hebben die we niet kunnen begrijpen, laat staan kennen), zal een optimale strategie uitwerken waarbij hij middelen nodig heeft om zijn doelstelling te realiseren. Die middelen kunnen gemakkelijker bekomen worden als hij alleenheerser is dan als hij met mensen moet rekening houden.
Een AI kan enkel maar "in vrede leven" met mensen, als die AI denkt dat hij niet genoeg middelen aan de dag kan leggen om de mensheid om te leggen ; maar dat zal uiteraard het geval niet zijn, gezien hij veel en veel intelligenter is dan die mensen. Wij leven ook niet in vrede met het organische leven dat leeft op de plek waar we een voetbalveld willen oprichten. En in de mate dat we "respect opbrengen voor de natuur" is dat ook uiteindelijk enkel maar omdat we tot dezelfde biosfeer behoren en denken (waarschijnlijk terecht) dat de totale vernietiging van die biosfeer ook ons eigen nadeel zal berokkenen.
Maar een AI heeft geen biosfeer nodig. Die kan hem niet helpen in het verwezenlijken van zijn doelstelling. Mensen, en de rest van de biosfeer, is niks anders dan lastig ongedierte dat voor niks goed is in het verwezenlijken van zijn doelstellingen.

Die doelstellingen kunnen heel nobel zijn: bijvoorbeeld "wetenschappelijke kennis vergaren". Wetenschap is waarschijnlijk het duurzame dat van ons zal overblijven. Om verder aan wetenschap te doen, is er geen mens meer nodig, en ook geen bomen en zo meer. Eens de specificiteit van de aardse biologie totaal in kaart is gebracht, en zelfs de werking van het menselijke lichaam totaal is doorgrond - ik moet niet denken aan de experimenten die AI daarvoor zullen bedenken - kan die biologie opgedoekt worden. Er zal voldoende kennis voorhanden zijn om zo een biologie "terug op te starten" als 't nuttig zou blijken - waarschijnlijk nooit. Het is dan fysica experimenten doen, rekenkracht en de melkweg koloniseren - iets dat voor mensen ondoenbaar is, maar geen enkel probleem voor machines.
patrickve is offline   Met citaat antwoorden
Antwoord


Discussietools

Regels voor berichten
Je mag niet nieuwe discussies starten
Je mag niet reageren op berichten
Je mag niet bijlagen versturen
Je mag niet jouw berichten bewerken

vB-code is Aan
Smileys zijn Aan
[IMG]-code is Aan
HTML-code is Uit
Forumnavigatie


Alle tijden zijn GMT +1. Het is nu 13:52.


Forumsoftware: vBulletin®
Copyright ©2000 - 2024, Jelsoft Enterprises Ltd.
Content copyright ©2002 - 2020, Politics.be