Stephen Hawking: artificial intelligence kan het einde van de mensheid betekenen

[mvd]

Prof Stephen Hawking, one of Britain's pre-eminent scientists, has said that efforts to create thinking machines pose a threat to our very existence.

He told the BBC:"The development of full artificial intelligence could spell the end of the human race."

His warning came in response to a question about a revamp of the technology he uses to communicate, which involves a basic form of AI.

But others are less gloomy about AI's prospects.

The theoretical physicist, who has the motor neurone disease amyotrophic lateral sclerosis (ALS), is using a new system developed by Intel to speak.

Machine learning experts from the British company Swiftkey were also involved in its creation. Their technology, already employed as a smartphone keyboard app, learns how the professor thinks and suggests the words he might want to use next.

Prof Hawking says the primitive forms of artificial intelligence developed so far have already proved very useful, but he fears the consequences of creating something that can match or surpass humans.

HAL 2001
Stanley Kubrick's film 2001 and its murderous computer HAL encapsulate many people's fears of how AI could pose a threat to human life
"It would take off on its own, and re-design itself at an ever increasing rate," he said.

Celverbot
Cleverbot is software that is designed to chat like a human would
"Humans, who are limited by slow biological evolution, couldn't compete, and would be superseded."

But others are less pessimistic.

"I believe we will remain in charge of the technology for a decently long time and the potential of it to solve many of the world problems will be realised," said Rollo Carpenter, creator of Cleverbot.

Cleverbot's software learns from its past conversations, and has gained high scores in the Turing test, fooling a high proportion of people into believing they are talking to a human.

Rise of the robots
Mr Carpenter says we are a long way from having the computing power or developing the algorithms needed to achieve full artificial intelligence, but believes it will come in the next few decades.

"We cannot quite know what will happen if a machine exceeds our own intelligence, so we can't know if we'll be infinitely helped by it, or ignored by it and sidelined, or conceivably destroyed by it," he says.

But he is betting that AI is going to be a positive force.

Prof Hawking is not alone in fearing for the future.

In the short term, there are concerns that clever machines capable of undertaking tasks done by humans until now will swiftly destroy millions of jobs.

Elon Musk
Elon Musk, chief executive of rocket-maker Space X, also fears artificial intelligence
In the longer term, the technology entrepreneur Elon Musk has warned that AI is "our biggest existential threat".

Robotic voice
In his BBC interview, Prof Hawking also talks of the benefits and dangers of the internet.

He quotes the director of GCHQ's warning about the net becoming the command centre for terrorists: "More must be done by the internet companies to counter the threat, but the difficulty is to do this without sacrificing freedom and privacy."

He has, however, been an enthusiastic early adopter of all kinds of communication technologies and is looking forward to being able to write much faster with his new system.

Prof Stephen Hawking and Rory Cellan-Jones
Prof Hawking is using new software to speak, but has opted to keep the same voice
But one aspect of his own tech - his computer generated voice - has not changed in the latest update.

Prof Hawking concedes that it's slightly robotic, but insists he didn't want a more natural voice.

"It has become my trademark, and I wouldn't change it for a more natural voice with a British accent," he said.

"I'm told that children who need a computer voice, want one like mine."

http://www.bbc.com/news/technology-30290540

[Johan Bollen]

Gelukkig hebben wij stekkerman in ons midden.



Meer dan een halve eeuw geleden reeds beschreef Asimov uitgebreid de risico's van artificiële intelligentie. Het lijkt me met een visie die die van Hawking ver overstijgt in veelzijdigheid van mogelijke scenario's. Ik ben geen expert terzake. Dit is mijn indruk.

[AsGardSGO]

Dat ze er dan maar rap komt die A.I.

[Indomitable]

"I'm told that children who need a computer voice, want one like mine."

Really!?! I prefer Mother! https://www.youtube.com/watch?v=q_cHllUWPww

[driewerf]

Oorspronkelijk geplaatst door Johan Bollen

Gelukkig hebben wij stekkerman in ons midden.



Meer dan een halve eeuw geleden reeds beschreef Asimov uitgebreid de risico's van artificiële intelligentie. Het lijkt me met een visie die die van Hawking ver overstijgt in veelzijdigheid van mogelijke scenario's. Ik ben geen expert terzake. Dit is mijn indruk.

Ik vrees echter dat we eerst zoveel en dermate vitale systemen aan A.I. gaan koppelen, zodat we in een catch22 situatie terechtkomen. Dat A.I. inderdaad buiten controle valt, maar dat er dermate vitale dingen door gecontroleerd worden (kerncentrales, luchtverkeer, stuwdammen) dat de stekker uittrekken geen optie kan zijn.

[Troubadour]

Allemaal onzin. Er is fundamenteel geen verschil tussen mens en machine. Wij zullen zelf al cyborgs zijn lang voor er sprake is van AI die ons kan uitroeien. De toekomst van de mensheid zit in bio-upgrades. Een intelligente, capabele AI kan alleen arriveren door uitgebreide studie van onze eigen biologie, die met elke kleine ontdekking verder aangepast kan worden totdat er geen verschil meer is tussen wat mensen zijn en wat jullie machines noemen.

De mensheid zal niet worden uitgeroeid door artificiële wezens. De mensheid zal zelf muteren tot die wezens.

[Johan Bollen]

Oorspronkelijk geplaatst door driewerf

Ik vrees echter dat we eerst zoveel en dermate vitale systemen aan A.I. gaan koppelen, zodat we in een catch22 situatie terechtkomen. Dat A.I. inderdaad buiten controle valt, maar dat er dermate vitale dingen door gecontroleerd worden (kerncentrales, luchtverkeer, stuwdammen) dat de stekker uittrekken geen optie kan zijn.

Ik denk niet dat de mens vlug de manual override knop zal achterwege laten.

Tenzij artificiële systemen zich zouden kunnen verdedigen zal de mens de keuze hebben om de stekker uit te trekken. De rest is een kwestie van kosten baten analyse.

Vooralsnog blijven we biologische entiteiten. Ik zie ons evolueren in verschillende richtingen tegelijk eigenlijk, waaronder ook richtingen helemaal weg van de afhankelijkheid van spitstechnologie (op communicatie na of zo). Diversificatie op zich lijkt me geen probleem.

[JimmyB]

Oorspronkelijk geplaatst door Troubadour

Allemaal onzin. Er is fundamenteel geen verschil tussen mens en machine. Wij zullen zelf al cyborgs zijn lang voor er sprake is van AI die ons kan uitroeien. De toekomst van de mensheid zit in bio-upgrades. Een intelligente, capabele AI kan alleen arriveren door uitgebreide studie van onze eigen biologie, die met elke kleine ontdekking verder aangepast kan worden totdat er geen verschil meer is tussen wat mensen zijn en wat jullie machines noemen.

De mensheid zal niet worden uitgeroeid door artificiële wezens. De mensheid zal zelf muteren tot die wezens.

In zekere zin ben ik het ermee eens. Toch zijn er enkele vragen daaromtrend.

a. Zullen deze wezen nog wel biologisch zijn? Het zou kunnen dat er meer en meer van het biologische afgestapt wordt vanwege de inefficientie. Dit kan inderdaad incrementeel gebeuren zodat men het niet echt beseft maar het zou feitelijk wel zo kunnen zijn.

b. Zullen alle mensen mee muteren? Het zou kunnen dat niet de gans populatie muteert naar een dergelijk wezen. We zitten nu reeds bvb met stammen in het regenwoud die we geïsoleerd willen laten omdat we schrik hebben dat ze niet bestand zijn tegen onze ziektekiemen. We hebben dus een kans dat we met een niet-gemuteerde populatie zitten en dat er dus wel degelijk een belangrijke differentiatie zal optreden. Nemen deze wezens het dan niet inderdaad over van de mens? Is dit process trouwens niet reeds aan de gang?

[JimmyB]

Oorspronkelijk geplaatst door Johan Bollen

Ik denk niet dat de mens vlug de manual override knop zal achterwege laten.

Tenzij artificiële systemen zich zouden kunnen verdedigen zal de mens de keuze hebben om de stekker uit te trekken. De rest is een kwestie van kosten baten analyse.

Vooralsnog blijven we biologische entiteiten. Ik zie ons evolueren in verschillende richtingen tegelijk eigenlijk, waaronder ook richtingen helemaal weg van de afhankelijkheid van spitstechnologie (op communicatie na of zo). Diversificatie op zich lijkt me geen probleem.

Men mag niet vergeten dat indien de AI systemen intelligenter zouden worden dan de mensen, en dan spreken we over een serieuze factor, dat ze ons zodanig zullen kunnen manipuleren dat ze de controle nemen zonder dat we het eigenlijk zelf beseffen. Zelfs indien er een stop-knop op zit, we zullen deze gewoon niet gebruiken.

[kiko]

Oorspronkelijk geplaatst door Troubadour

Allemaal onzin. Er is fundamenteel geen verschil tussen mens en machine.

Machines leven niet en kunnen zich niet voortplanten. Toch twee zeer grote, fundamentele verschillen.

[Thuleander]

Ik zet alvast Het Deuntje op.
https://www.youtube.com/watch?v=mpMg1upld0w

[Johnny Blaze]

plot twist

Van het moment dat er in ons of een ander miljarden jaren oude universum een beschaving is of was die geavenceerd genoeg is om een complexe simulatie van het helal te ontwikkelen is de kans ontelbare malen groter dat wij leven in zo een simulatie dan dat wij echt zijn, ergo, wij zouden wel eens best de AI kunnen zijn.

[Troubadour]

Oorspronkelijk geplaatst door JimmyB

a. Zullen deze wezen nog wel biologisch zijn? Het zou kunnen dat er meer en meer van het biologische afgestapt wordt vanwege de inefficientie.

Integendeel. Hetgeen de natuur tot nu toe geproduceerd heeft is vele malen efficiënter dan alles wat wij tot nu toe geproduceerd hebben. Om een voorbeeld te geven: in 2012 is men er in geslaagd 700 terabyte aan data op te slaan in 1 gram DNA. En dat is eigenlijk maar een flinter van de capaciteit die DNA heeft. Synthetische biologie heet dat. Biologische machines.

Oorspronkelijk geplaatst door JimmyB

b. Zullen alle mensen mee muteren? Het zou kunnen dat niet de gans populatie muteert naar een dergelijk wezen. We zitten nu reeds bvb met stammen in het regenwoud die we geïsoleerd willen laten omdat we schrik hebben dat ze niet bestand zijn tegen onze ziektekiemen. We hebben dus een kans dat we met een niet-gemuteerde populatie zitten en dat er dus wel degelijk een belangrijke differentiatie zal optreden. Nemen deze wezens het dan niet inderdaad over van de mens? Is dit process trouwens niet reeds aan de gang?

Nee, niet alle mensen zullen hierin meegaan. Ja, dat proces is al lang aan de gang. Zij die niet meegaan zullen inderdaad verdrongen worden. Dat klinkt zeer onmenselijk, tot je bedenkt dat zoiets als vaccinaties eigenlijk ook een vorm zijn van zulke technologische upgrades. Het is gruwelijk, maar de mensen die zich verzetten tegen vaccinaties sterven bij bosjes, terwijl zij die zich laten inenten overleven. Dat zal in de toekomst niet anders zijn.

[Johan Bollen]

Oorspronkelijk geplaatst door Johnny Blaze

plot twist

Van het moment dat er in ons of een ander miljarden jaren oude universum een beschaving is of was die geavenceerd genoeg is om een complexe simulatie van het helal te ontwikkelen is de kans ontelbare malen groter dat wij leven in zo een simulatie dan dat wij echt zijn, ergo, wij zouden wel eens best de AI kunnen zijn.

Dat is niet uitgesloten. Evenmin als een God.

[Troubadour]

Oorspronkelijk geplaatst door kiko

Machines leven niet en kunnen zich niet voortplanten. Toch twee zeer grote, fundamentele verschillen.

Gefeliciteerd met je universele definitie van wat leven is. Gelieve volgend jaar even te passeren in Stockholm om je Nobelprijs af te halen. Wij laten de datum nog weten.

In afwachting kan je al eens wat lezen over self-replicating machines en nanorobotics. Wij kijken namelijk met spanning uit naar je dissertatie over het verschil tussen nanomachines, virussen en prokaryoten.

[Johan Bollen]

Oorspronkelijk geplaatst door Troubadour

Het is gruwelijk, maar de mensen die zich verzetten tegen vaccinaties sterven bij bosjes, terwijl zij die zich laten inenten overleven. Dat zal in de toekomst niet anders zijn.

vaccinaties of andere 'upgrades' zoals keizersnedes zouden wel eens contraproductief kunnen werken voor het overleven in situaties van crisis. Moeten vrouwen die eigenlijk niet in staat zijn natuurlijk kinderen te baren wel kinderen krijgen? kan men zich afvragen. Is het niet beter resistent te worden tegen ziektes dan te vaccineren? U spreekt over cru...

[Troubadour]

Oorspronkelijk geplaatst door Johan Bollen

vaccinaties of andere 'upgrades' zoals keizersnedes zouden wel eens contraproductief kunnen werken voor het overleven in situaties van crisis. Moeten vrouwen die eigenlijk niet in staat zijn natuurlijk kinderen te baren wel kinderen krijgen? kan men zich afvragen. Is het niet beter resistent te worden tegen ziektes dan te vaccineren? U spreekt over cru...

Hoe resistentie tot stand komt is niet belangrijk hoor. Vaccinaties doen exact dat: het lichaam resistenter maken tegen lichaamsvreemde organismen. Ze doen het gewoon sneller dan wanneer we zouden moeten wachten op duizenden jaren natuurlijke selectie. In crisis is zoiets wel degelijk beter: de opgedane kennis geeft namelijk meer opties aan om de crisis te overleven.

[Johan Bollen]

Oorspronkelijk geplaatst door JimmyB

Men mag niet vergeten dat indien de AI systemen intelligenter zouden worden dan de mensen, en dan spreken we over een serieuze factor, dat ze ons zodanig zullen kunnen manipuleren dat ze de controle nemen zonder dat we het eigenlijk zelf beseffen. Zelfs indien er een stop-knop op zit, we zullen deze gewoon niet gebruiken.

Intelligentie is niet hetzelfde als dataprocessing van een computer. We onderschatten onze intelligentie nogal eens.

Maken de drie wetten van de robotica zin?

[Johan Bollen]

Oorspronkelijk geplaatst door Troubadour

Hoe resistentie tot stand komt is niet belangrijk hoor. Vaccinaties doen exact dat: het lichaam resistenter maken tegen lichaamsvreemde organismen. Ze doen het gewoon sneller dan wanneer we zouden moeten wachten op duizenden jaren natuurlijke selectie. In crisis is zoiets wel degelijk beter: de opgedane kennis geeft namelijk meer opties aan om de crisis te overleven.

Veel is afhankelijk van de omstandigheden. Vaccinaties zijn sneller. Ze creëren ook een afhankelijkheid van steeds complexere externe factoren. Complexe systemen zijn fragiel.

[Troubadour]

Oorspronkelijk geplaatst door Johan Bollen

Maken de drie wetten van de robotica zin?

Ja, maar slechts binnen hun eigen beperkt kader. Probleem is dat de premisse die hen voorgaat, dat robots geen zelfbewustzijn kunnen hebben of dat dat zelfbewustzijn inferieur is aan het menselijk zelfbewustzijn, fout is. Daarmee vallen de drie wetten.