Stephen Hawking: artificial intelligence kan het einde van de mensheid betekenen
 

Gelukkig hebben wij stekkerman in ons midden.



Meer dan een halve eeuw geleden reeds beschreef Asimov uitgebreid de risico's van artificiële intelligentie. Het lijkt me met een visie die die van Hawking ver overstijgt in veelzijdigheid van mogelijke scenario's. Ik ben geen expert terzake. Dit is mijn indruk.

Dat ze er dan maar rap komt die A.I.

Really!?! I prefer Mother! https://www.youtube.com/watch?v=q_cHllUWPww

Ik vrees echter dat we eerst zoveel en dermate vitale systemen aan A.I. gaan koppelen, zodat we in een catch22 situatie terechtkomen. Dat A.I. inderdaad buiten controle valt, maar dat er dermate vitale dingen door gecontroleerd worden (kerncentrales, luchtverkeer, stuwdammen) dat de stekker uittrekken geen optie kan zijn.

Allemaal onzin. Er is fundamenteel geen verschil tussen mens en machine. Wij zullen zelf al cyborgs zijn lang voor er sprake is van AI die ons kan uitroeien. De toekomst van de mensheid zit in bio-upgrades. Een intelligente, capabele AI kan alleen arriveren door uitgebreide studie van onze eigen biologie, die met elke kleine ontdekking verder aangepast kan worden totdat er geen verschil meer is tussen wat mensen zijn en wat jullie machines noemen.

De mensheid zal niet worden uitgeroeid door artificiële wezens. De mensheid zal zelf muteren tot die wezens.

Ik denk niet dat de mens vlug de manual override knop zal achterwege laten.

Tenzij artificiële systemen zich zouden kunnen verdedigen zal de mens de keuze hebben om de stekker uit te trekken. De rest is een kwestie van kosten baten analyse.

Vooralsnog blijven we biologische entiteiten. Ik zie ons evolueren in verschillende richtingen tegelijk eigenlijk, waaronder ook richtingen helemaal weg van de afhankelijkheid van spitstechnologie (op communicatie na of zo). Diversificatie op zich lijkt me geen probleem.

In zekere zin ben ik het ermee eens. Toch zijn er enkele vragen daaromtrend.

a. Zullen deze wezen nog wel biologisch zijn? Het zou kunnen dat er meer en meer van het biologische afgestapt wordt vanwege de inefficientie. Dit kan inderdaad incrementeel gebeuren zodat men het niet echt beseft maar het zou feitelijk wel zo kunnen zijn.

b. Zullen alle mensen mee muteren? Het zou kunnen dat niet de gans populatie muteert naar een dergelijk wezen. We zitten nu reeds bvb met stammen in het regenwoud die we geïsoleerd willen laten omdat we schrik hebben dat ze niet bestand zijn tegen onze ziektekiemen. We hebben dus een kans dat we met een niet-gemuteerde populatie zitten en dat er dus wel degelijk een belangrijke differentiatie zal optreden. Nemen deze wezens het dan niet inderdaad over van de mens? Is dit process trouwens niet reeds aan de gang?

Men mag niet vergeten dat indien de AI systemen intelligenter zouden worden dan de mensen, en dan spreken we over een serieuze factor, dat ze ons zodanig zullen kunnen manipuleren dat ze de controle nemen zonder dat we het eigenlijk zelf beseffen. Zelfs indien er een stop-knop op zit, we zullen deze gewoon niet gebruiken.

Machines leven niet en kunnen zich niet voortplanten. Toch twee zeer grote, fundamentele verschillen.

Ik zet alvast Het Deuntje op.
https://www.youtube.com/watch?v=mpMg1upld0w

plot twist

Van het moment dat er in ons of een ander miljarden jaren oude universum een beschaving is of was die geavenceerd genoeg is om een complexe simulatie van het helal te ontwikkelen is de kans ontelbare malen groter dat wij leven in zo een simulatie dan dat wij echt zijn, ergo, wij zouden wel eens best de AI kunnen zijn.

Integendeel. Hetgeen de natuur tot nu toe geproduceerd heeft is vele malen efficiënter dan alles wat wij tot nu toe geproduceerd hebben. Om een voorbeeld te geven: in 2012 is men er in geslaagd 700 terabyte aan data op te slaan in 1 gram DNA. En dat is eigenlijk maar een flinter van de capaciteit die DNA heeft. Synthetische biologie heet dat. Biologische machines.

Nee, niet alle mensen zullen hierin meegaan. Ja, dat proces is al lang aan de gang. Zij die niet meegaan zullen inderdaad verdrongen worden. Dat klinkt zeer onmenselijk, tot je bedenkt dat zoiets als vaccinaties eigenlijk ook een vorm zijn van zulke technologische upgrades. Het is gruwelijk, maar de mensen die zich verzetten tegen vaccinaties sterven bij bosjes, terwijl zij die zich laten inenten overleven. Dat zal in de toekomst niet anders zijn.

Dat is niet uitgesloten. Evenmin als een God.

Gefeliciteerd met je universele definitie van wat leven is. Gelieve volgend jaar even te passeren in Stockholm om je Nobelprijs af te halen. Wij laten de datum nog weten.

In afwachting kan je al eens wat lezen over self-replicating machines en nanorobotics. Wij kijken namelijk met spanning uit naar je dissertatie over het verschil tussen nanomachines, virussen en prokaryoten.

vaccinaties of andere 'upgrades' zoals keizersnedes zouden wel eens contraproductief kunnen werken voor het overleven in situaties van crisis. Moeten vrouwen die eigenlijk niet in staat zijn natuurlijk kinderen te baren wel kinderen krijgen? kan men zich afvragen. Is het niet beter resistent te worden tegen ziektes dan te vaccineren? U spreekt over cru...

Hoe resistentie tot stand komt is niet belangrijk hoor. Vaccinaties doen exact dat: het lichaam resistenter maken tegen lichaamsvreemde organismen. Ze doen het gewoon sneller dan wanneer we zouden moeten wachten op duizenden jaren natuurlijke selectie. In crisis is zoiets wel degelijk beter: de opgedane kennis geeft namelijk meer opties aan om de crisis te overleven.

Intelligentie is niet hetzelfde als dataprocessing van een computer. We onderschatten onze intelligentie nogal eens.

Maken de drie wetten van de robotica zin?

Veel is afhankelijk van de omstandigheden. Vaccinaties zijn sneller. Ze creëren ook een afhankelijkheid van steeds complexere externe factoren. Complexe systemen zijn fragiel.

Ja, maar slechts binnen hun eigen beperkt kader. Probleem is dat de premisse die hen voorgaat, dat robots geen zelfbewustzijn kunnen hebben of dat dat zelfbewustzijn inferieur is aan het menselijk zelfbewustzijn, fout is. Daarmee vallen de drie wetten.

Een iets mindere grote klep opzetten zou je sieren. Ik heb twee grote, onweerlegbare verschillen tussen machines en levende wezens opgesomd, niets meer, niets minder.

Je kunt daar zo smalend over doen als je wil, maar weerleggen kun je niet. Theoretische modellen en voorzichtige probeersels maken geen verschil.

Kom over 100 jaar eens terug, dan zul je misschien, als de wetenschap al wat verder gevorderd is, iets betere argumenten hebben.

Kan u een voorbeeld geven van zo'n zelfbewustzijn bij een machine?

No kidding? Alles is afhankelijk van de omgevingsfactoren. Je maakt hier een leeg statement.

Integendeel. Complexe systemen zijn antifragiel. Een complex systeem heeft namelijk een veel grotere capaciteit tot adaptatie. Een 'eenvoudig systeem' is veel gevoeliger vermits de afhankelijkheid van één variable ervoor kan zorgen dat het systeem volledig uitgeroeid wordt. Een complex systeem kan daarentegen blijven functioneren wanneer grote delen ervan zwaar beschadigd zijn.

Kan jij met zekerheid bewijzen dat jij niet het enige zelfbewuste wezen in het universum bent? Vermits er geen echte test bestaat voor zelfbewustzijn, bestaat die ook niet voor robots, zodoende kan men niet zeggen dat het onmogelijk is. Hoe complexer een organisme is, hoe meer we onze eigen gedragingen daarin herkennen. Niet onwaarschijnlijk dat hetzelfde dus zal gebeuren bij complexe robots.

Vermits er noch steeds geen universeel aanvaardde definitie van leven is, kan je dat niet gebruiken als argument.

Vermits machines gebouwd kunnen worden om zichzelf te reproduceren, een onderzoeksveld dat de laatste 15 jaar opgebloeid is, is dat argument weerlegd.

Het lijkt mij duidelijk wiens klep te groot is.

Niet eens een goede poging.

De kleur indigo kan ook moeilijk tot niet gedefinieerd worden, net als begrippen zoals intelligentie, vriendschap, dood, tijd of zelfs warmte.

Toch bestaan ze ontegensprekelijk. Het leven bestaat ook. Dat jij het niet kunt definiëren, is jouw probleem, ik zit er niet zo mee in.

Dus werkelijk geen enkel argument.

Niet opgeven, je komt er wel hoor.

Wat is 'leven'? Beschouwen we dit enkel vanuit ons biochemisch perspectief? Wanneer we een kunstmatig bewustzijn zouden kunnen creëren, kunnen we dan niet spreken van een alternatief op biochemisch leven, maar evengoed 'leven'?

Artificiële intelligentie zal ons overheersen.
Omdat het logisch is.
En wij ook.

De vraag is indien een machine een zelfbewustzijn zou hebben, zouden we het wel beseffen?

Veronderstel eens dat het ecosysteem van het internet, alle machines inclusief, van zichzelf zou bewust zijn, hoe zouden wij dit te weten komen?

Veronderstel dat mieren een zelfbewustzijn zouden hebben, denk je dat ze zouden filosoferen over het onze? Ze zijn zich immers niet eens bewust van ons bestaan.

Het kan dus 'alle' kanten op.



Vergelijk het met menselijke technologie. Nu branden er nog gloeilampen van meer dan een eeuw oud. Dingen waren simpel en duurzaam vroeger.

En als een oude auto iets mankeert is dat relatief simpel op te lossen door de chauffeur zelf mits een beetje kennis van mechaniek. Als er aan een moderne auto iets scheelt is dat meer dan eens niet eens meer repareerbaar. Men moet het stuk vervangen. Indien niet meer in stock kan je bij wijze van spreken de auto in de vuilbak gooien. En van zelf reparerende auto's staan we nog heel ver af. Wat we nu zien is een evolutie naar complexere én kwetsbaardere systemen. Als er een oorlog komt grijpt de mens terug naar meer simpele technologie om te overleven.

Als men geen definitie van zelfbewustzijn wil geven heeft het ook niet veel zin te speculeren of een machine zelfbewustzijn heeft al dan niet.

Uiteindelijk kunnen we de vraag reduceren tot de vraag naar vrijheid of predeterminatie. Als we slechts het gevolg zouden zijn van wat atomen die botsen bij wijze van spreken, als ons gedrag perfect voorspelbaar zou zijn indien we een alwetende mathematicus zouden zijn, zou er van vrijheid of zelfbewustzijn geen sprake kunnen zijn. Vrijheid verondersteld een niet gepredetemineerde keuze voor een bepaald gedrag. Vrijheid kan je dan ook niet programmeren. Dat is een contradictie in terminis. Zelfbewustzijn kan je niet programmeren om dezelfde reden. De vraag is dat...wat doet ons vermoeden dat een machine zou gaan handelen buiten haar 'programma'? Een defect? een 'mutatie'? Zelfbewustzijn als 'error'?

In verband met het gebruik van nanobots is dat wel een nuttige technologie, maar vaststellen dat die nanobots dan het menselijke leven zou kunnen overnemen door zich te nestelen in het brein van die mens, een risico die degelijk kan bestaan.
De kwestie van het gebruik van nanobots is een ethische kwestie.
Ik vindt het een nuttige oplossing voor zover de medische wetenschap ze kan gebruiken zonder operatief te hoeven zijn, nanobots zijn voor zover geprogrameert om op zoek te gaan binnen het lichaam naar de klacht van de patient, eens het gevonden is wordt beeld en andere gegevens doorgezonden met direct na de opdracht zich te verwijderen uit dat menselijk biologische lichaam.

Had wel verwacht dat je dat er weer van ging maken. :roll:

Neen, het betekent louter dat de omgevingsfactoren alles bepalen. De omgevingsfactoren van het fysisch en biologisch systeem waarin wij leven zijn gekend. Die kunnen niet 'alle kanten op'.

Complexiteit is geen synoniem voor 'heel moeilijk'. Het betekent dat er zeer veer onderlinge relaties zijn. In tegenstelling tot wat jij denkt zorgt die veelvuldigheid aan relaties dat schade aan het systeem beter gespreid kan worden, waardoor het systeem als geheel weerbaarder is.

Nu zou ik je aanraden om dat gewoon te accepteren vermits we het hier over behoorlijk zware wiskunde hebben maar jou kennende ga je toch gewoon jezelf willen blijven belachelijk maken. Ik kijk alvast weer uit naar jouw gezever dat wiskunde niet 'ideologisch neutraal' is. :roll:

Zoals het geen zin heeft om te speculeren of jouw buurman zelfbewustzijn heeft. Da's namelijk niet bewijsbaar. De meeste filosofen en wetenschappers accepteren dat probleem ondertussen. Jij natuurlijk niet, jij bent speciaal.

Pseudofilosofische quatsch.

Het leven kun je niet definiëren, het laat zich ook niet begrenzen.

Een machine is begrenst, een mens ook door zijn/haar fysiologisch kenmerk van het lichaam.

Het probleem stelt zich naar wat ik lees, dat AI geen verschil wenst te maken tussen wat de echte wereld is en wat diens eigen wereld is, bij die wijze wilt het op basis van waaruit een AI bestaat een benadering doen van hoe de mens werkelijk ineen steekt en integreren in diens wereld, los gekoppelt van wat de natuur als functie/omgeving biedt.

AI is begrenst tot de eigen platonische relatie tot de benadering en definitie van wat een AI met Bits en Bytes denkt om eeuwig onbeperkte mogelijkheden te hebben.

De menselijke wereld is biologisch echter echt en maakt duidelijk dat het vergankelijk is dus de wens van de mens is met AI te denken eeuwig te kunnen leven, de fictie in films als 'matrix' en 'in time' en nog andere maken dat verschil duidelijk...

AI kan niet de grenzen hebben die de mensen wel hebben immers AI vertegenwoordigd een wereld die onecht is en de invloed op het denken van de mens vergroot, zich daarvan loskoppelen is een moeilijke opdracht blijkbaar !

Er zijn twee punten die je hier aanhaalt. Ten eerste is er het predeterminisme. Daar hebben we het uitvoerig over gehad in andere draden. Het is niet omdat iets puur natuurkundig is dat het daarom predeterministisch zou zijn.Momenteel kan geen van beide standpunten bewezen worden dus moeten we ervan uitgaan dat er een mogelijkheid is dat puur natuurlijke processen niet deterministisch zijn.

Ten tweede stel je handelen buiten haar 'programma'

De vraag is indien wij wel handelen buiten ons programma. Wat doen wij dat ons biologisch programma niet omvat?

Ah neen? Ik voel me nochthans heel erg begrensd. Het universum is zo extreem groot en ik zit hier vast op dit minimaal stukje aardkloot.