Citaat:
Oorspronkelijk geplaatst door Bovenbuur
Mwah, een domme "paperclip-AI" die maar drie regeltjes kan volgen misschien wel ja...
(Een paperclip-AI is gewoon een slimme computer, als je die de opdracht geeft paperclips te maken (en alleen dat, slechte instructies dus) gaat hij door tot het hele universum paperclips is, maar hij zal nooit zomaar zelf wat nieuws bedenken, zoals "waarom ga ik niet in plaats hiervan mensen vermoorden?". Een mens of zelfs een jaguar ofzo kan dat wel, en een echte volwaardige AI ook. Skynet zou mensen niet opsluiten vanwege een specifieke interpretatie van een paar regeltjes. Skynet zou kunnen nadenken over waarom de regels zijn wat ze zijn en wat mensen ermee wilden bereiken. Een mens zou ook niet de hele mensheid opsluiten omdat een op zichzelf staand logische interpretatie van de bedrijfsregels van zijn baas is. Als Skynet ons uitmoord is het omdat Skynet dat wil.
|
....maar nu ga je voorbij de opzet van die spelregels
In weze zijn het wetten, door mensen ontworpen, ten behoeve van mensen om dat net te kunnen voorkomen
Ze zouden dus wat meer deel uitmaken van de 'hardere' software of zelfs ergens in de hardware ingebouwd...en niet te omzeilen
Dus een scenario van interpretatie ( zoals in de film ) zou nog net kunnen.
Allez ik zie AI dat nog wel omzeilen hoor ... door bv zichzelf te gaan reproduceren zonder dat item