Citaat:
Oorspronkelijk geplaatst door JimmyB
Is het niet een beetje naïef te denken dat je een AI systeem in een box kunt stoppen met enkel een terminal?
De huidige generatie AI systemen zijn overal aanwezig. Binnenkort rijden er auto's rond op basis van een AI systeem. Die kunnen je zo omver rijden.
|
Dat zijn natuurlijk geen echte AI systemen, dat is Excel-on-Steroids.
Stelt niks voor, die systemen hebben nog niet de intelligentie van een mier, een domotica-systeem met ITTT-regeltjes is vaak slimmer dan dat.
Het gevaar zit bij Artificial Consciousness. Misschien bereiken we dat binnen 20 jaar, misschien binnen 100, misschien nooit.
Citaat:
Oorspronkelijk geplaatst door JimmyB
Natuurlijk kunnen we de eerste generaties onder controle houden, maar dit zal zo niet blijven. Tegen dat we het goed en wel beseffen zal het veel te laat zijn. Misschien is er al een bewustzijn die we niet kunnen vatten die ons al manipuleert, kijk maar eens naar het internet. Misschien is het internet wel de oorzaak dat Trump verkozen werd en past dit in het internet zijn kraam om de wereld te domineren.
Trouwens, ik vind het geen gevecht, als een AI systeem slimmer is mag het gerust de controle overnemen.
|
Het internet is niet 'slim', het is een substraat voor applicaties, die gebruikt worden voor data-mining, de resultaten die dat oplevert zijn maar zo goed als de data die erin gaan. Garbage In, Garbage Out. Dat er trollen op rondzwerven die fake data maken is geen verrassing, dat konden we al decennia zien aankomen.
Er is nog wel een behoorlijke weg af te leggen, de eerste Exascale systemen zijn er nog niet eens. En dat zal wel nodig zijn, als je dat combineert met zelflerende algoritmes en voldoende input zou je een kans hebben op een AI die zijn naam waard is.
Maar dan spreek je wel over een installatie die honderden miljoenen dollars kost en tientallen MegaWatts verbruikt, een compleet datacenter dus.
En daar hoort inderdaad een box rond en die hou je strikt aan de leiband.