Stephen Hawking: artificial intelligence kan het einde van de mensheid betekenen

[kiko]

Oorspronkelijk geplaatst door Troubadour

Gefeliciteerd met je universele definitie van wat leven is. Gelieve volgend jaar even te passeren in Stockholm om je Nobelprijs af te halen. Wij laten de datum nog weten.

In afwachting kan je al eens wat lezen over self-replicating machines en nanorobotics. Wij kijken namelijk met spanning uit naar je dissertatie over het verschil tussen nanomachines, virussen en prokaryoten.

Een iets mindere grote klep opzetten zou je sieren. Ik heb twee grote, onweerlegbare verschillen tussen machines en levende wezens opgesomd, niets meer, niets minder.

Je kunt daar zo smalend over doen als je wil, maar weerleggen kun je niet. Theoretische modellen en voorzichtige probeersels maken geen verschil.

Kom over 100 jaar eens terug, dan zul je misschien, als de wetenschap al wat verder gevorderd is, iets betere argumenten hebben.

[Johan Bollen]

Oorspronkelijk geplaatst door Troubadour

Ja, maar slechts binnen hun eigen beperkt kader. Probleem is dat de premisse die hen voorgaat, dat robots geen zelfbewustzijn kunnen hebben of dat dat zelfbewustzijn inferieur is aan het menselijk zelfbewustzijn, fout is. Daarmee vallen de drie wetten.

Kan u een voorbeeld geven van zo'n zelfbewustzijn bij een machine?

[Troubadour]

Oorspronkelijk geplaatst door Johan Bollen

Veel is afhankelijk van de omstandigheden.

No kidding? Alles is afhankelijk van de omgevingsfactoren. Je maakt hier een leeg statement.

Oorspronkelijk geplaatst door Johan Bollen

Ze creëren ook een afhankelijkheid van steeds complexere externe factoren. Complexe systemen zijn fragiel.

Integendeel. Complexe systemen zijn antifragiel. Een complex systeem heeft namelijk een veel grotere capaciteit tot adaptatie. Een 'eenvoudig systeem' is veel gevoeliger vermits de afhankelijkheid van één variable ervoor kan zorgen dat het systeem volledig uitgeroeid wordt. Een complex systeem kan daarentegen blijven functioneren wanneer grote delen ervan zwaar beschadigd zijn.

[Troubadour]

Oorspronkelijk geplaatst door Johan Bollen

Kan u een voorbeeld geven van zo'n zelfbewustzijn bij een machine?

Kan jij met zekerheid bewijzen dat jij niet het enige zelfbewuste wezen in het universum bent? Vermits er geen echte test bestaat voor zelfbewustzijn, bestaat die ook niet voor robots, zodoende kan men niet zeggen dat het onmogelijk is. Hoe complexer een organisme is, hoe meer we onze eigen gedragingen daarin herkennen. Niet onwaarschijnlijk dat hetzelfde dus zal gebeuren bij complexe robots.

[Troubadour]

Oorspronkelijk geplaatst door kiko

Een iets mindere grote klep opzetten zou je sieren. Ik heb twee grote, onweerlegbare verschillen tussen machines en levende wezens opgesomd, niets meer, niets minder.

Vermits er noch steeds geen universeel aanvaardde definitie van leven is, kan je dat niet gebruiken als argument.

Vermits machines gebouwd kunnen worden om zichzelf te reproduceren, een onderzoeksveld dat de laatste 15 jaar opgebloeid is, is dat argument weerlegd.

Het lijkt mij duidelijk wiens klep te groot is.

[kiko]

Oorspronkelijk geplaatst door Troubadour

Vermits er noch steeds geen universeel aanvaardde definitie van leven is, kan je dat niet gebruiken als argument.

Niet eens een goede poging.

De kleur indigo kan ook moeilijk tot niet gedefinieerd worden, net als begrippen zoals intelligentie, vriendschap, dood, tijd of zelfs warmte.

Toch bestaan ze ontegensprekelijk. Het leven bestaat ook. Dat jij het niet kunt definiëren, is jouw probleem, ik zit er niet zo mee in.

[Troubadour]

[kiko]

Dus werkelijk geen enkel argument.

Niet opgeven, je komt er wel hoor.

[Het Verzet]

Wat is 'leven'? Beschouwen we dit enkel vanuit ons biochemisch perspectief? Wanneer we een kunstmatig bewustzijn zouden kunnen creëren, kunnen we dan niet spreken van een alternatief op biochemisch leven, maar evengoed 'leven'?

[Mambo]

Artificiële intelligentie zal ons overheersen.
Omdat het logisch is.
En wij ook.

[JimmyB]

Oorspronkelijk geplaatst door Johan Bollen

Kan u een voorbeeld geven van zo'n zelfbewustzijn bij een machine?

De vraag is indien een machine een zelfbewustzijn zou hebben, zouden we het wel beseffen?

Veronderstel eens dat het ecosysteem van het internet, alle machines inclusief, van zichzelf zou bewust zijn, hoe zouden wij dit te weten komen?

Veronderstel dat mieren een zelfbewustzijn zouden hebben, denk je dat ze zouden filosoferen over het onze? Ze zijn zich immers niet eens bewust van ons bestaan.

[Johan Bollen]

Oorspronkelijk geplaatst door Troubadour

No kidding? Alles is afhankelijk van de omgevingsfactoren. Je maakt hier een leeg statement.

Het kan dus 'alle' kanten op.

Integendeel. Complexe systemen zijn antifragiel. Een complex systeem heeft namelijk een veel grotere capaciteit tot adaptatie. Een 'eenvoudig systeem' is veel gevoeliger vermits de afhankelijkheid van één variable ervoor kan zorgen dat het systeem volledig uitgeroeid wordt. Een complex systeem kan daarentegen blijven functioneren wanneer grote delen ervan zwaar beschadigd zijn.

Vergelijk het met menselijke technologie. Nu branden er nog gloeilampen van meer dan een eeuw oud. Dingen waren simpel en duurzaam vroeger.

En als een oude auto iets mankeert is dat relatief simpel op te lossen door de chauffeur zelf mits een beetje kennis van mechaniek. Als er aan een moderne auto iets scheelt is dat meer dan eens niet eens meer repareerbaar. Men moet het stuk vervangen. Indien niet meer in stock kan je bij wijze van spreken de auto in de vuilbak gooien. En van zelf reparerende auto's staan we nog heel ver af. Wat we nu zien is een evolutie naar complexere én kwetsbaardere systemen. Als er een oorlog komt grijpt de mens terug naar meer simpele technologie om te overleven.

[Johan Bollen]

Oorspronkelijk geplaatst door JimmyB

De vraag is indien een machine een zelfbewustzijn zou hebben, zouden we het wel beseffen?

Veronderstel eens dat het ecosysteem van het internet, alle machines inclusief, van zichzelf zou bewust zijn, hoe zouden wij dit te weten komen?

Veronderstel dat mieren een zelfbewustzijn zouden hebben, denk je dat ze zouden filosoferen over het onze? Ze zijn zich immers niet eens bewust van ons bestaan.

Als men geen definitie van zelfbewustzijn wil geven heeft het ook niet veel zin te speculeren of een machine zelfbewustzijn heeft al dan niet.

Uiteindelijk kunnen we de vraag reduceren tot de vraag naar vrijheid of predeterminatie. Als we slechts het gevolg zouden zijn van wat atomen die botsen bij wijze van spreken, als ons gedrag perfect voorspelbaar zou zijn indien we een alwetende mathematicus zouden zijn, zou er van vrijheid of zelfbewustzijn geen sprake kunnen zijn. Vrijheid verondersteld een niet gepredetemineerde keuze voor een bepaald gedrag. Vrijheid kan je dan ook niet programmeren. Dat is een contradictie in terminis. Zelfbewustzijn kan je niet programmeren om dezelfde reden. De vraag is dat...wat doet ons vermoeden dat een machine zou gaan handelen buiten haar 'programma'? Een defect? een 'mutatie'? Zelfbewustzijn als 'error'?

[Kristof Piessens]

Oorspronkelijk geplaatst door Troubadour

Gefeliciteerd met je universele definitie van wat leven is. Gelieve volgend jaar even te passeren in Stockholm om je Nobelprijs af te halen. Wij laten de datum nog weten.

In afwachting kan je al eens wat lezen over self-replicating machines en nanorobotics. Wij kijken namelijk met spanning uit naar je dissertatie over het verschil tussen nanomachines, virussen en prokaryoten.

In verband met het gebruik van nanobots is dat wel een nuttige technologie, maar vaststellen dat die nanobots dan het menselijke leven zou kunnen overnemen door zich te nestelen in het brein van die mens, een risico die degelijk kan bestaan.
De kwestie van het gebruik van nanobots is een ethische kwestie.
Ik vindt het een nuttige oplossing voor zover de medische wetenschap ze kan gebruiken zonder operatief te hoeven zijn, nanobots zijn voor zover geprogrameert om op zoek te gaan binnen het lichaam naar de klacht van de patient, eens het gevonden is wordt beeld en andere gegevens doorgezonden met direct na de opdracht zich te verwijderen uit dat menselijk biologische lichaam.

[Troubadour]

Oorspronkelijk geplaatst door Johan Bollen

Het kan dus 'alle' kanten op.

Had wel verwacht dat je dat er weer van ging maken.

Neen, het betekent louter dat de omgevingsfactoren alles bepalen. De omgevingsfactoren van het fysisch en biologisch systeem waarin wij leven zijn gekend. Die kunnen niet 'alle kanten op'.

Oorspronkelijk geplaatst door Johan Bollen

Vergelijk het met menselijke technologie. Nu branden er nog gloeilampen van meer dan een eeuw oud. Dingen waren simpel en duurzaam vroeger.

En als een oude auto iets mankeert is dat relatief simpel op te lossen door de chauffeur zelf mits een beetje kennis van mechaniek. Als er aan een moderne auto iets scheelt is dat meer dan eens niet eens meer repareerbaar. Men moet het stuk vervangen. Indien niet meer in stock kan je bij wijze van spreken de auto in de vuilbak gooien. En van zelf reparerende auto's staan we nog heel ver af. Wat we nu zien is een evolutie naar complexere én kwetsbaardere systemen. Als er een oorlog komt grijpt de mens terug naar meer simpele technologie om te overleven.

Complexiteit is geen synoniem voor 'heel moeilijk'. Het betekent dat er zeer veer onderlinge relaties zijn. In tegenstelling tot wat jij denkt zorgt die veelvuldigheid aan relaties dat schade aan het systeem beter gespreid kan worden, waardoor het systeem als geheel weerbaarder is.

Nu zou ik je aanraden om dat gewoon te accepteren vermits we het hier over behoorlijk zware wiskunde hebben maar jou kennende ga je toch gewoon jezelf willen blijven belachelijk maken. Ik kijk alvast weer uit naar jouw gezever dat wiskunde niet 'ideologisch neutraal' is.

[Troubadour]

Oorspronkelijk geplaatst door Johan Bollen

Als men geen definitie van zelfbewustzijn wil geven heeft het ook niet veel zin te speculeren of een machine zelfbewustzijn heeft al dan niet.

Zoals het geen zin heeft om te speculeren of jouw buurman zelfbewustzijn heeft. Da's namelijk niet bewijsbaar. De meeste filosofen en wetenschappers accepteren dat probleem ondertussen. Jij natuurlijk niet, jij bent speciaal.

Oorspronkelijk geplaatst door Johan Bollen

Uiteindelijk kunnen we de vraag reduceren tot de vraag naar vrijheid of predeterminatie. Als we slechts het gevolg zouden zijn van wat atomen die botsen bij wijze van spreken, als ons gedrag perfect voorspelbaar zou zijn indien we een alwetende mathematicus zouden zijn, zou er van vrijheid of zelfbewustzijn geen sprake kunnen zijn. Vrijheid verondersteld een niet gepredetemineerde keuze voor een bepaald gedrag. Vrijheid kan je dan ook niet programmeren. Dat is een contradictie in terminis. Zelfbewustzijn kan je niet programmeren om dezelfde reden. De vraag is dat...wat doet ons vermoeden dat een machine zou gaan handelen buiten haar 'programma'? Een defect? een 'mutatie'? Zelfbewustzijn als 'error'?

Pseudofilosofische quatsch.

[Kristof Piessens]

Het leven kun je niet definiëren, het laat zich ook niet begrenzen.

Een machine is begrenst, een mens ook door zijn/haar fysiologisch kenmerk van het lichaam.

Het probleem stelt zich naar wat ik lees, dat AI geen verschil wenst te maken tussen wat de echte wereld is en wat diens eigen wereld is, bij die wijze wilt het op basis van waaruit een AI bestaat een benadering doen van hoe de mens werkelijk ineen steekt en integreren in diens wereld, los gekoppelt van wat de natuur als functie/omgeving biedt.

AI is begrenst tot de eigen platonische relatie tot de benadering en definitie van wat een AI met Bits en Bytes denkt om eeuwig onbeperkte mogelijkheden te hebben.

De menselijke wereld is biologisch echter echt en maakt duidelijk dat het vergankelijk is dus de wens van de mens is met AI te denken eeuwig te kunnen leven, de fictie in films als 'matrix' en 'in time' en nog andere maken dat verschil duidelijk...

AI kan niet de grenzen hebben die de mensen wel hebben immers AI vertegenwoordigd een wereld die onecht is en de invloed op het denken van de mens vergroot, zich daarvan loskoppelen is een moeilijke opdracht blijkbaar !

[JimmyB]

Oorspronkelijk geplaatst door Johan Bollen

Als men geen definitie van zelfbewustzijn wil geven heeft het ook niet veel zin te speculeren of een machine zelfbewustzijn heeft al dan niet.

Uiteindelijk kunnen we de vraag reduceren tot de vraag naar vrijheid of predeterminatie. Als we slechts het gevolg zouden zijn van wat atomen die botsen bij wijze van spreken, als ons gedrag perfect voorspelbaar zou zijn indien we een alwetende mathematicus zouden zijn, zou er van vrijheid of zelfbewustzijn geen sprake kunnen zijn. Vrijheid verondersteld een niet gepredetemineerde keuze voor een bepaald gedrag. Vrijheid kan je dan ook niet programmeren. Dat is een contradictie in terminis. Zelfbewustzijn kan je niet programmeren om dezelfde reden. De vraag is dat...wat doet ons vermoeden dat een machine zou gaan handelen buiten haar 'programma'? Een defect? een 'mutatie'? Zelfbewustzijn als 'error'?

Er zijn twee punten die je hier aanhaalt. Ten eerste is er het predeterminisme. Daar hebben we het uitvoerig over gehad in andere draden. Het is niet omdat iets puur natuurkundig is dat het daarom predeterministisch zou zijn.Momenteel kan geen van beide standpunten bewezen worden dus moeten we ervan uitgaan dat er een mogelijkheid is dat puur natuurlijke processen niet deterministisch zijn.

Ten tweede stel je handelen buiten haar 'programma'

De vraag is indien wij wel handelen buiten ons programma. Wat doen wij dat ons biologisch programma niet omvat?

[JimmyB]

Oorspronkelijk geplaatst door Kristof Piessens

Het leven kun je niet definiëren, het laat zich ook niet begrenzen.

Ah neen? Ik voel me nochthans heel erg begrensd. Het universum is zo extreem groot en ik zit hier vast op dit minimaal stukje aardkloot.

[Het Verzet]

http://motherboard.vice.com/read/the...lligent-robots