Citaat:
Oorspronkelijk geplaatst door morte-vivante
met dat nadeel dat niemand eigenlijk de processen achter deep learning begrijpt. Ja, de algoritmen zijn gecreerd door mensen, maar niemand die begrijpt wat de stappen zijn (de reden zo je wil) dat AI tot een bepaalde conclusie/besluit komt. We zijn dus niet in staat om te begrijpen wat AI nu exact doet, en hoe het tot een bepaalde conclusie komt.
https://www.technologyreview.com/s/6...e-heart-of-ai/
we zijn intelligentie aan het creëren, zonder te begrijpen hoe het doet wat het doet. Als dat geen alarmbellen doet afgaan... |
Niet alle AI is door mensen gecreerd, er is als AI die door AI zelfs is ontworpen.
En er word al jaren gewaarschuwd voor AI.
Er zijn zelfs al films gemaakt over wat er fout kan gaan.
Te beginnen met computers die toevallig gehacht worden tot computers die de volledige controle overnemen en zelfs geweld inzetten om de mens te controleren. Van War games tot Terminator.
I, robot is nog zo'n film die bedoelt is om de mens te waarschuwen.
Citaat:
|
Oorspronkelijk geplaatst door Voltian
Alarmbellen omdat we niet weten of de output "juist" is, of omdat we we er geen controle over hebben?
|
Alarmbellen omdat we eigenlijk niets weten over wat en hoe.
AI is nog steeds een programma en in dat programma kan een fout optreden, net zoals in de hersens van sommige mensen en het gewelddadig maken tegenover de mens.
Er zijn al vliegtuigen neergestort door ingrijpen van AI tijdens een technische foutmelding terwijl er geen fout was.
Binnen bedrijven gebeuren er regelmatig technische ongelukjes omdat er en censor een foutieve melding geeft en de AI reageerd op die foutmelding, terwijl het de censor is die faalt.
AI bestaat uit niets anders dan 0 en 1, en het minste dat er één van die 0 of 1 word verandert verandert alles.
Daarnaast is AI iets dat voor iedereen toegankelijk is, want het is allemaal verbonden via kabel of radiogolven en kan dus door alles en iedereen beïnvloed worden.
En nee, men kan het niet beveiligen, want de enige beveiliging tegen hacken of storingen is de boel afkoppelen van het net.