Citaat:
Oorspronkelijk geplaatst door praha
....maar nu ga je voorbij de opzet van die spelregels
In weze zijn het wetten, door mensen ontworpen, ten behoeve van mensen om dat net te kunnen voorkomen
Ze zouden dus wat meer deel uitmaken van de 'hardere' software of zelfs ergens in de hardware ingebouwd...en niet te omzeilen
Dus een scenario van interpretatie ( zoals in de film ) zou nog net kunnen.
Allez ik zie AI dat nog wel omzeilen hoor ... door bv zichzelf te gaan reproduceren zonder dat item
|
Mijn punt is dat geen enkel mens de regel "bescherm de mensheid" zal opvatten als "sluit iedereen op tegen zijn wil". Het is techisch gezien een logische interpretatie van de letter van de wet, maar het draaft compleet in tegen de geest van de wet. Een echt intelligent wezen, organisch of kunstmatig, zal dit ergens op een niveau snappen of er op zijn minst over na kunnen denken. De computer uit I, Robot is dan ook geen echte AI. Hooguit een "synthetic intelligence", zoals Howard Taylor van Schlock Mercenary ze noemt. Een computer die soort van half leeft, erg geschikt voor het besturen van kleinere schepen en slimme raketten, omdat ze bijvoorbeeld niet de mentale middelen hebben om na te denken over wat dood gaan betekent.
Voor echte AI zijn de three laws of robotics niet heel bruikbaar. Zelfs in de tijd van de tien geboden (dat hele concept was gebaseerd op iets dat meer leiders toen deden) hadden koningen al meer dan drie regels voor hun volk om te volgen. Maar voor een intelligentie uitgerust met een letterlijke harde schijf zou je je tot drie beperken? En dan nog wel vage algemene regels, die ze wel moeten gaan zitten interpreteren. Waarom niet gewoon het wetboek van strafrechten uploaden? Dat is tenslotte wat we van mensen verwachten, dat ze zich door een heel doolhof van regels weten te werken waarbij ze af en toe zelf kunnen beslissen wat er belangrijk is en wat niet. Je hoeft er niet bij te zeggen dat "niet de weg op lopen als het rood is" minder belangrijk is dan een kind voor een aanstormend busje weg graaien.
Zoals het in die film gebruikt wordt (het boek is vast beter, nooit gelezen) wordt het dus ook niet toegepast op AI's, op echte nadenkende wezens, het is meer een filosofisch idee over hoe wij zouden moeten omgaan met computers. We mogen ze nooit de macht geven om te doden, en sterker nog we zouden ze allemaal eerst in dienst van de mensheid moeten stellen en daarna pas in dienst van hun eigenaar. Daar komt het ongeveer op neer. Dat is op zich een aardig idee. Beetje idealistisch. Alsof je verwacht dat strijdkrachten over de hele wereld hun drones gaan programmeren om hun bombardementen te staken zodra ze zien dat er iemand in de problemen zit die ze mogelijk kunnen helpen. Er is nu al een bedrijf waar een logaritme voor het analyseren van investeringsopties een heuse stem heeft in de
board of directors. Dat zouden ze ook echt niet doen als dat ding geprogrammeerd was om uitvoerig het effect op individuele mensenlevens door te rekenen in plaats van vooral wat het het bedrijf oplevert. We verwachten een dergelijke houding dan ook van geen enkel ander gereedschap. Mijn Tomtom waarschuwt mij als ik te hard rij, maar hij belt niet naar de politie om de gemeten informatie door te geven. Ik zou het apparaat ook niet aanschaffen als dat wel zo was, want mijn Tomtom dient mij, hij maakt mijn leven makkelijker en ik beslis wanneer ik toch echt even extra gas moet geven om een gevaarlijke situatie te voorkomen.
Maar echte AI's in de hand proberen te houden met maar drie regeltjes? Dat zet denk ik alleen maar kwaad bloed bij deze machines. Als je ze als volwassen mensen programmeert kan je ze maar beter als volwassen mensen behandelen.