Citaat:
Oorspronkelijk geplaatst door fox
Je mag nog een kill switch voorzien, maar zo een echte AI zal onvermijdelijk slimmer worden dan ons mensen, wat meteen betekent dat "hij" zijn eigen kill switch wel zal kunnen ontmantelen.
|
Je kan zo'n kill switch ook veranderen tot een 'dead man's switch' he.
Dat wil zeggen dat je het volledige substraat waarbinnen een sterke AI leeft afhankelijk maakt van positieve menselijke (re)acties elke zoveel uur/dagen.
1 gemiste positieve feedback : de bijl erin. (figuurlijk.)
deze AI mag nog zo slim zijn, hij kan zich niet materialiseren uit het niets zou ik toch denken.