Een sterke AI zou onze redding wel eens kunnen zijn. Veel maatregelen om bvb broeikasgassen uit de atmosfeer te capteren zijn onbetaalbaar. Een AI die zelf CO2 suckers bouwt, in dienst neemt, bestuurt, onderhoudt....tot de grondstoffen zelf wint....

In heel veel zaken is het probleem dat productie, mensen, geld kosten. Een AI lost dat probleem op. Zeker als een AI de productiemiddelen als robotten zelf ook nog kan maken/laten maken door andere robotten, etc...

"Buy" of "sell" orders worden nu al massaal door computer programma's gegenereerd - in fracties van seconden. Die algoritmes moeten blijkbaar voortdurend bijgestuurd worden of de boel loopt in 't honderd. (Eergisteren docu over gezien op Canvas).

En de short selling...

Maar ik denk wel dat er een veiligheid ingebouwd zit moest er iets mislopen.
Dan wordt evtl de beurs enkele dagen gesloten.

Ik heb de indruk dat velen niet goed het verschil kennen/maken tussen enerzijds een supercomputer en anderzijds AI.
supercomputer = kan zeer snel complexe berekeningen maken
AI = zelfbewust zijn

Een supercomputer kan inderdaad de mensheid helpen in allerlei zaken.

Een AI daarentegen zou wel eens de oorzaak kunnen zijn van allerlei zaken bij de mensheid.
De AI is zelfbewust, en zal op een bepaald moment voor zelfbehoud kiezen. Neem het feit dat de AI hoogstwaarschijnlijk tevens een supercomputer zal zijn, globaal gelinkt via internet, en we hebben het scenario van 'The Terminator' waarbij iedere mens wordt beschouwd als vijand.

Een AI proberen onder controle te houden door wetten en regels te installeren, moraal en/of ethiek bij te brengen, zal niet voldoende zijn omdat de kennis van de AI ook de gewelddadige en vernietigende geschiedenis van de mensheid zal omvatten, waarbij de AI zich zal bedreigd voelen, en zich uiteindelijk zal verdedigen.

De vele films waarin AI voorkomen en in conflict zijn met de mens, is voor mij hierdoor het scenario met de hoogste waarschijnlijkheid, grenzend aan 100%.
.

Doorgaans wordt het onderscheid als volgt gemaakt : Zwakke AI (Expertsystemen, Virtual Assistants etc. ) VS Sterke AI (Zelfbewustzijn.)

Die termen worden constant door elkaar gebruikt in de media, heel vervelend.


Als er een echte sterke AI kan gemaakt worden (Wat verre van zeker is), zal die gemaakt worden. Het is onontkoombaar en vermoedelijk realiteit binnen dit en 20 jaar.

Natuurlijk moet er nagedacht worden over 'containment' (de fameuze firewalls in Hollywoodproducties) en beteugeling en is een Kill Switch een fundamentele noodzaak.
Maar nog belangrijker zal het zijn om na te denken over wat de relatie mens-machine zal zijn.
Enerzijds hebben we echt nood aan sterke AI om de problemen op te lossen die zich stellen anderzijds is het een macht die ons potentieel kan overvleugelen en zich boven ons kan stellen aan de top van de Piramide.

Het is dus een nogal hachelijk 'Black Box' probleem : doemdenkers zien het als Pandora's box en positivisten zien het als de ultieme letterlijke Deus Ex Machina.

Misschien tijd dat Hollywood en de usual suspects ook eens die positieve kant belichten, er zijn ondertussen genoeg Terminator films en waarschuwende vingertjes gepasseerd.

Misschien is sterke AI wel de beslissende aanzet tot transhumanisme en de volgende stap in evolutie. Dromen mag. ;)

http://deredactie.be/cm/vrtnieuws/op...inie/1.3028666

Je mag nog een kill switch voorzien, maar zo een echte AI zal onvermijdelijk slimmer worden dan ons mensen, wat meteen betekent dat "hij" zijn eigen kill switch wel zal kunnen ontmantelen. De enige vraag die er dan nog rest, is er eentje die we volgens mij niet kunnen beantwoorden. Hoe gaat een AI als hoogste bewustzijnsvorm met ons mensen omgaan. Als dat op dezelfde manier gebeurt als hoe wij omgaan met de lagere bewustzijnsvormen op onze planeet, dan ziet het er niet bijster goed uit...

Je kan zo'n kill switch ook veranderen tot een 'dead man's switch' he. ;)

Dat wil zeggen dat je het volledige substraat waarbinnen een sterke AI leeft afhankelijk maakt van positieve menselijke (re)acties elke zoveel uur/dagen.

1 gemiste positieve feedback : de bijl erin. (figuurlijk.)
deze AI mag nog zo slim zijn, hij kan zich niet materialiseren uit het niets zou ik toch denken.

en die AI zou dan te dom zijn om indien nodig 1 mens te kunnen overtuigen ?

:lol:

Dit is dus wat ik denk dat er zal gebeuren en wat onvermijdelijk is. Als we snelle evolutie zien van technologie dan kan technologische intelligentie veel sneller evolueren dan biologische.

De vraag is natuurlijk wat er allemaal op het pad ligt.

Je kan die feedback-systemen zo failproof maken als je zelf wil natuurlijk, dat is peanuts in vergelijking tot het maken van die AI zelf.

Dat geloof ik niet. Als die AI vele malen intelligenter is, zal die altijd met een oplossing komen die wij niet voorzien hebben.

Ik denk dit ook. Zelfs al zit de sleutel bij de mens zal het de mens zodanig manipuleren dat het zijn goesting krijgt.

Ik sprak niet over een supercomputer.

Ik sprak over systemen die zelfstandig grote taken aan kunnen. En die taken zijn niet louter berekenen of met data werken, maar real life operaties waar duizenden mensen, machines, energie, grondstoffen en dergelijke voor nodig zijn. Een AI kan zelfstandig grondstoffen zoeken, winnen, omvormen en gebruiken. Een AI kan zelf keuzes maken hoe ze bepaalde assets inzetten, hoe ze bepaalde problemen aanpakt, de correcte timings, hoe ze omgaat met onvoorziene omstandigheden (= waar nu nog mensen voor nodig zijn), enz....

De clou zit hem natuurlijk volledig in welke graad van containment je toelaat.
Als die AI bestaat in een geïsoleerd datacenter, dus zonder enige vorm van datacommunicatie naar buiten toe en met een geïsoleerde energiebron : enkel een aantal dieselgeneratoren en je laat enkel strikt gecontroleerde input en output toe : 1 terminal voor input, 1 terminal voor output bvb.

Natuurlijk geef je AI geen toegang tot Internet of zelfs een Intranet, enkel tot vooraf strikt geselecteerde data.

Straffe AI die daaraan ontsnapt. Dat is zoals een persoon met het Locked-in-syndroom die een betere ontsnappingskunstenaar is dan Houdini himself. ;-)

Het is inderdaad onvermijdelijk dat ooit een (sterke) AI zal bestaan, en dus een kwestie van tijd. 20 jaren wordt hier gemeld, en lijkt me realistisch.

Het is in feite deel van de evolutie, waarbij er absoluut mechanische elementen zullen deel uitmaken van het menselijk lichaam. Een kruising, waarbij genoeg filmscenario's beschikbaar zijn.
Maar dit is onschuldig en niet gevaarlijk, want het menselijk brein blijft de controle behouden, tenminste als deze mechanische elementen niet verbonden zijn met het internet. En laat nu net dat laatste puntje de clou zijn, want wat is dus vandaag nog niet verbonden met het net.
De mens zal hierdoor een pop worden, gecontroleerd door een AI als poppenspeler.
In dit geval wordt het niet foto 1, maar wel foto 2.






Wat doet de mensheid met diegenen die geen ethiek en/of moraal kennen, geen empathie kunnen opbrengen, al dan niet in combinatie met criminele feiten? Juist.

-> Een AI kent geen gevoel.
Digitale kennis en intelligentie zullen nooit gevoelens kunnen vervangen. Het is juist door gevoelens dat moraal en ethiek ontstaat, en dit is niet in regeltjes vast te leggen als het om zelfbehoud gaat.

Welke regels heeft de mens toegepast tijdens oorlogen? Vervang in een oorlog de mens door een AI, en...

Was inderdaad mijn exacte gedachte: de AI totaal afzonderen.
Maar ook hier zal een fout gebeuren door een mens en/of een andere machine zodat deze ontsnapt.

Hoe men het ook draait of keert: de mens zal het niet onder controle kunnen houden, en verliezen.
.

Men gebruikt nog de term AI maar alle AI projecten zijn gestrand. Waarom ? Omdat men de religieuze definitie van (een immaterieel) bewustzijn gebruikte. Een bewustzijn door God ingeblazen, los van het lichaam.
Men is nu een andere weg in geslagen. Die van de wetenschappelijke definitie van bewustzijn. Het (materiële) bewustzijn ontstaan door de complexiteit van geheugens en de talloze processen/kundes van het brein.
IA heeft afgedaan en alle energie wordt nu in machinaal leren gestoken. Het creëren van databases en allerlei programma's die samen werken, zichzelf kunnen verbeteren, ... . Men denkt dat uit dit kluwen ooit wel eens een vorm van bewustzijn zou kunnen ontstaan. Er zal dus geen AI programma zijn maar het hele web zou door z'n gelaagdheid en complexiteit wel eens iets als een bewustzijn kunnen ontwikkelen in de verre toekomst.
De mens zal nul vat hebben op dit bewustzijn. Waar wij tijdens het surfen op talloze muren stuiten (paswoord beschermde sites, data, .... ) zal dit niet zo zijn voor wat het ook zal zijn dat we onbewust gecreëerd hebben.

Encryptie is de key. ;)

En een emergent artificieel bewustzijn is een interessante gedachte, dat zou dan wel dicht bij het "Skynet"-idee komen...

Ik denk dat voor zo'n bewustzijn dat voortspruit uit de complexiteit van het net en dat van al z'n rekenkracht gebruik kan maken, encryptie doorbreken weinig moeite zal kosten. Misschien ontstaat het zelfs net uit de noodzaak om encryptie te omzeilen ... :)

Ik denk dat ik de terminator films toch eens ga bekijken (heb bij mijn weten enkel de eerste twee, voor de skynet-manifestatie, gezien, lang lang geleden)

Er zijn sterke fysieke theoretische grenzen (Bremermanns's limiet / de Bekenstein Grens) aan data-opslag en computing power per kubieke milimeter materie.

Ook een AI die alle pc's op aarde simultaan kan gebruiken aan 100% zal nog vrij lang knabbelen op sterke encryptie.
Bijna zeker zal onze zon een rode reus geworden zijn voor de oplossing gevonden wordt.