Kunstmatige versus biologische intelligentie

[Doomy]

Wat denken jullie over kunstmatige intelligentie van komputers en robots? Met de huidige stand van wetenschap en techniek ziet het er naar uit dat kunstmatige intelligentie die kan wedijveren met menselijke intelligente binnen de 30 �* 50 jaar een feit zal zijn (dus waarschijnlijk nog tijdens ons leven). Die kunstmatige intelligentie zou zelfs normen, een moraal en zelfs gevoelens zoals een mens kunnen hebben. Moet men zo'n kunstmatige intelligentie dan beschouwen als "intelligent leven" dat evenwaardig is als biologisch intelligent leven met dezelfde rechten en plichten? Ook op deze vragen geven politieke en filosofische geschriften en heilige boeken geen antwoord. Dit dilemma werd uitgebeeld in de SF-film "Blade Runner". En dan hebben we nog niet eens gediskussieerd over die ander SF-nachtmerrie -de opstand van de robots en komputers tegen hun menselijke scheppers- zoals die werd uitgebeeld in SF-films zoals "Terminator". Misschien moeten we er toch eens over na beginnen te denken om robots en komputers ook een menselijke moraal mee te geven? Alleen: welke moraal moet dit dan zijn? Ik denk dat een moraal die alleen op de huidige politieke en filosofische levensbeschouwingen en godsdienst is gebazeerd onbruikbaar is voor robots en komputers die het heelal moeten intrekken.

[Pelgrim]

Nu bevindt u zich om terrein waar ik me al sinds mijn jeugdjaren als groot SF fan mee bezig hou. Degene die het meest interessante heeftgeschreven over het vraagstuk van de relatie mens-robot is waarschijnlijk Isaac Asimov, wiskundige en sf schrijver. Vooral zijn drie wetten van de robotica zijn bekend, drie wetten die als eerste worden in geprogrammeerd bij robots en die boven alle andere programmas staan.:
1)In geen geval mag een robot een mens doden of ernstige schade aanrichten.
2)De robot moet altijd de bevelen van de mens opvolgen, tenzij deze in strijd zijn met wet 1
3)De robot mag altijd proberen te overleven, tenzij dit in strijd is met 1 of 2.
Het zou bijvoorbeeld al wettelijk kunnen vastgelegd worden dat deze regels verplicht zijn bij de fabricage van robotten. Het zou misschien ook eens handig zijn als wet 1 ook bij mensen zelf werd ingeprogrammeerd :wink:

[Doomy]

Nu bevindt u zich om terrein waar ik me al sinds mijn jeugdjaren als groot SF fan mee bezig hou. Degene die het meest interessante heeftgeschreven over het vraagstuk van de relatie mens-robot is waarschijnlijk Isaac Asimov, wiskundige en sf schrijver. Vooral zijn drie wetten van de robotica zijn bekend, drie wetten die als eerste worden in geprogrammeerd bij robots en die boven alle andere programmas staan.:
1)In geen geval mag een robot een mens doden of ernstige schade aanrichten.
2)De robot moet altijd de bevelen van de mens opvolgen, tenzij deze in strijd zijn met wet 1
3)De robot mag altijd proberen te overleven, tenzij dit in strijd is met 1 of 2.
Het zou bijvoorbeeld al wettelijk kunnen vastgelegd worden dat deze regels verplicht zijn bij de fabricage van robotten. Het zou misschien ook eens handig zijn als wet 1 ook bij mensen zelf werd ingeprogrammeerd :wink:

Ook ik ben liefhebber van de betere SF, en hou mij al vanaf mijn jeugdjaren met sterrenkunde en ruimtevaart bezig. Daarnaast ben ik ook muziekliefhebber en taalliefhebber. Als gevolg daarvan ben ik geïnteresseerd in wetenschap, techniek, muziek, taal, en vooral de raakvlakken ertussen (zoals kunstmatige intelligentie).

Ik heb van die wetten van Asimov enigszins anders geformuleerde versies gevonden, al komen die eigenlijk op hetzelfde neer:

*) Eerste Wet: Een robot mag een mens geen letsel toebrengen of door niet te handelen toestaan dat een mens letsel oploopt.
*) Tweede Wet: Een robot moet de bevelen uitvoeren die hem door mensen gegeven worden, behalve als die opdrachten in strijd zijn met de Eerste Wet.
*) Derde Wet: Een robot moet zijn eigen bestaan beschermen, voor zover die bescherming niet in strijd is met de Eerste of Tweede Wet.

Later bedachten Robot Daneel Olivaw en Robot Giskard Reventlov een "Nulde Wet"

*) Nulde Wet: Een robot mag geen schade toebrengen aan de mensheid, of toelaten dat de mensheid schade toegebracht wordt door zijn nalatigheid.

Gevolg voor de andere wetten:

*) Eerste Wet: Een robot mag een mens geen letsel toebrengen of door niet te handelen toestaan dat een mens letsel oploopt behalve als dit de Nulde Wet zou schenden.
*) Tweede Wet: Een robot moet de bevelen uitvoeren die hem door mensen gegeven worden, behalve als die opdrachten in strijd zijn met de Nulde Wet of de Eerste Wet.
*) Derde Wet: Een robot moet zijn eigen bestaan beschermen, voor zover die bescherming niet in strijd is met de Nulde, Eerste of Tweede Wet.

[Pelgrim]

De nulde wet was ik even vergeten :(

Uit 'robots en imperium' geloof ik, niet?

[Pelgrim]

Ik heb eens een oud artikkeltje opgediept dat ik ooit eens over deze materie heb geschreven, voor een of ander SF forum op het net. Ik heb het een stukje ingekort omdat ik het toen maar wat rap rap heb geschreven en er veel zaken van weinig belang waren.


De robot en de mens: vrienden of vijanden?

We zijn er nu nog niet echt aan toe, maar het komt wel dichterbij. Het moment waarop de wereld geschokt of met vreugde de geboorte van AI (Artificiële Intelligentie) aanschouwt is voorlopig nog Science Fiction, maar met de wetenschappelijke vorderingen die gemaakt worden zou het ooit wel eens niet langer Fiction kunnen zijn. De vraag is, wat moeten we er dan mee aanvangen? Want dit zal zulk een schok voor de mensheid zijn alsof we voor het eerst in contact kwamen met een buitenaardse beschaving.

Kunstmatige intelligentie roept altijd hetzelfde soort doembeelden op. Films als The Matrix, Terminator, A Space Odyssey en dergelijke hebben het idee doen ontstaan dat intelligente robots per definitie kwaadaardige moordlustige schepsels zullen zijn. Dit is al een fout vooroordeel. De term Artificiele Intelligentie zegt dat we te maken hebben met een intelligent, bewust, denkend wezen. Is het dan een moorlustig wezen? Niet noodzakelijk. Aangezien deze wezens denken kunnen we ze evengoed als een soort mens beschouwen. Mensen worden geboren met een blanco persoonlijkheid, en naargelang de omgeving waarin ze opgroeien wordt hun karakter gevormd. Ook genetische factoren kunnen dit karakter een stuk bepalen. Een kunstmatige intelligentie moet net als de mens geboren worden, een basisprogrammastructuur meekrijgen (de genetische grondslag) en nadien zich ontwikkelen en bijleren. AI’s kunnen dus net zo gevormd worden als een mens. Ze bezitten dus dezelfde positieve en negatieve eigenschappen van een mens. Intelligente, lerende robots zouden zich bewust zijn van hun bestaan, zouden dus net als de mens zich bewustzijn van sterfelijkheid. Daar zij kunnen denken en redeneren zouden zij zich bewust zijn van goed en kwaad en ook -net als de mens- een moraliteit en zelfs een geweten kunnen ontwikkelen. Ongetwijfeld, als zij intelligent zijn, zullen zij over emoties beschikken en misschien zelfs in staat zijn om een beschaafde samenleving te vormen. Wij hebben dus even weinig van hen te vrezen als we van ons zelf te vrezen hebben. Meer zelfs, we hebben de unieke gelegenheid om reeds in hun basisprogrammering (hun genetica) de wetten van Asimov’s robotica in te planten, en elke natuurlijke drang tot geweld en vernietiging te verwijderen. De vraag is natuurlijk of wij wel het morele recht hebben om andere soorten te gaan ‘voorprogrammeren’. Ja, meer zelfs volgens mij is dat onze plicht. Als wij een intelligente soort gaan scheppen, kunnen we beter ineens er voor zorgen dat zij de fouten die de menselijke soort gemaakt heeft niet nog eens maken. We zouden hen een natuurlijke fundamentele drang tot samenwerking en broederschap kunnen in programmeren, hen zodanig scheppen dat zij nooit zulke zwakheden als competitiedrang, geweld, egoïsme zullen hebben en dat zij elkaar (en ons) als gelijken beschouwen. Met deze robotten zouden we een beschaving kunnen creëren die Marx in zijn wildste fantasieën nog niet mogelijk achtte.

Hoe zouden robots tegenover ons staan? Dat hangt er helemaal vanaf hoe wij hun basisprogrammering bouwen en hoe we hen doen ontwikkelen. Voortgaand op het ‘robotmarxisme’ van hierboven, als we hen zo scheppen, zullen zij ons als een naaste beschouwen. Van nature uit zullen zij ons niet als een vijand of een concurrent beschouwen, maar als een vriend, een gelijke, een mede aardbewoner, misschien zelfs gewoon als soortgenoot. We zouden van hen dus net veel kunnen leren. Ook zullen zij zich er van bewust zijn dat wij eigenlijk hun scheppers zijn, en mogelijk zullen zij daarom ons met nog meer respect behandelen.

Het grote probleem zal niet bij hen liggen, maar bij ons. Hoe moeten wij met hen omgaan? Allereerst is er al het religieuze aspect. Hoe passen de robots, die onze gelijken zullen zijn, in het kader van de godsdiensten? Zijn zij reeds per definitie onchristelijk, duivels, hoewel we ze beter dan onszelf hebben gemaakt? Hebben zij wel een ziel? Wat dat betreft zie ik geen enkel probleem. Een intelligent wezen dat geboren wordt zal sowieso wel een ziel hebben. Maar de religieuze fanatici in de wereld zullen er ongetwijfeld anders over denken. Die arme robotten zijn al op voorhand gedoemd om als duivelsschepsels aanzien te worden. Met (volgens mij volstrekt belachelijke) dogmas zullen de aartsconservatieve religieuzen proberen de mensheid te mobiliseren voor een heilige oorlog tegen deze robotten (en die zullen dan uiteraard zich proberen te verdedigen, wat dacht u). Robotten zijn goddeloos, hebben geen ziel, horen niet thuis in Gods’ schepping enzovoort, net zoals zwarte slaven ooit ook geen ziel hadden. Robots zullen de boeman worden en er zal een soort racisme ontstaan: zij horen niet thuis in onze samenleving. Voor deze Mens-fanatici is er een hemelsbreed etnisch verschil tussen ’echte’ mensen en ‘nep‘-mensen. Robots zullen ons wel accepteren, maar ik vrees dat de mensheid de robots niet zal accepteren. U ziet wel hoe moeilijk het nu al is voor mensen van verschillende culturele achtergrond om samen te leven.

Maar naast het (voor mij belachelijke) religieuze en etnische probleem, is er wel een veel belangrijker economisch probleem. Intelligente robots zullen het niet zo fijn vinden om als slaven door het leven te gaan en ik zal de eerste zijn om te pleiten voor gelijke rechten en plichten maar op economisch vlak zal er wel een groot probleem komen. Het is zoals met vluchtelingen: als ze met tien zijn verwelkomen we ze met open armen, maar als ze met tienduizend zijn…
Een robot bevolking zal uiteraard ook graag een plek hebben om te wonen en een job hebben, en uitgaan en naar school gaan. De vrees is gekend: ze zullen onze jobs afpakken en van onze sociale zekerheid komen profiteren. Moeten we ze een stuk land geven voor zichzelf ergens op een eiland of op de maan, of laten we hen toe onder ons te leven? Nu zou �*k het helemaal niet erg vinden als er een robotfamilie naast mij woonde (het zou eens wat anders zijn) maar ik denk niet dat de rest van de bevolking mijn enthousiasme deelt. Spijtig genoeg, want ik denk dat de komst van een robotten-volk ons veel zou kunnen bijleren.

[Kotsmos]

Nu bevindt u zich om terrein waar ik me al sinds mijn jeugdjaren als groot SF fan mee bezig hou. Degene die het meest interessante heeftgeschreven over het vraagstuk van de relatie mens-robot is waarschijnlijk Isaac Asimov, wiskundige en sf schrijver. Vooral zijn drie wetten van de robotica zijn bekend, drie wetten die als eerste worden in geprogrammeerd bij robots en die boven alle andere programmas staan.:
1)In geen geval mag een robot een mens doden of ernstige schade aanrichten.
2)De robot moet altijd de bevelen van de mens opvolgen, tenzij deze in strijd zijn met wet 1
3)De robot mag altijd proberen te overleven, tenzij dit in strijd is met 1 of 2.
Het zou bijvoorbeeld al wettelijk kunnen vastgelegd worden dat deze regels verplicht zijn bij de fabricage van robotten. Het zou misschien ook eens handig zijn als wet 1 ook bij mensen zelf werd ingeprogrammeerd :wink:

Ik denk dat je dan, eens de kunstmatige intelligentie het pijl van de menselijke bereikt, met een heel gevaarlijke situatie zit. Hoe ga je robots in toom houden die slimmer zijn dan de mens, maar wel naar de mens moeten luisteren én tegelijkertijd moeten proberen zelf te overleven. Ik zou niet graag een robot zijn....

[Doomy]

Ik denk dat je dan, eens de kunstmatige intelligentie het pijl van de menselijke bereikt, met een heel gevaarlijke situatie zit. Hoe ga je robots in toom houden die slimmer zijn dan de mens, maar wel naar de mens moeten luisteren én tegelijkertijd moeten proberen zelf te overleven. Ik zou niet graag een robot zijn....

Als de mensheid geen met uitsterven bedreigde diersoort wil worden zal ze zelf moeten mee-evolueren met de vorderingen van de technologie en haar eigen biologisch lichaam met niet-biologische stukken moeten uitbreiden. Bijvoorbeeld een rechtstreekse verbinding tussen hersenen en komputers en allerlei apparatuur. Dit idee schrikt veel mensen af. Maar zijn werktuigen zoals hamers, schoppen, komputers, telefoons, GSM's , internet, TV's, voertuigen, afstandsbedieningen allerhande, enz. nu eigenlijk ook al geen uitbreiding van ons biologisch lichaam? Het enige verschil is dat er nog geen rechtstreekse verbinding is met onze hersenen, maar dat alles nog via onze biologische zintuigen gebeurt (ogen, oren, tastzin, reukzin, smaakzin). Is de stap naar een rechtstreekse verbinding met onze biologische hersenen dan eigenlijk nog zo groot? Zolang onze geest de baas blijft over alles zie ik geen probleem. Meer zelfs, onze geest zal dan misschien niet meer uitsluitend aan ons onvolmaakt biologisch lichaam gebonden zijn? Misschien kan ze dan zelfs via internet zichzelf voortplanten en door het zonnestelsel reizen?

[Doomy]

Wij hebben dus even weinig van hen te vrezen als we van ons zelf te vrezen hebben. Meer zelfs, we hebben de unieke gelegenheid om reeds in hun basisprogrammering (hun genetica) de wetten van Asimov’s robotica in te planten, en elke natuurlijke drang tot geweld en vernietiging te verwijderen.

Vraag is of bijvoorbeeld militairen die over vechtrobots willen beschikken die wetten van Asimov gaan programmeren. Je krijgt dan een soort intelligente moordmachines, en dit kan helemaal uit de hand lopen. Bovendien gaan de wetten van de evolutie ook voor kunstmatige intelligentie gelden. Af en toe zal er eens eentje zijn met een programmafoutje die zich verder voorplant. Zo kun je bijvoorbeeld op den duur robots krijgen die de mens zullen beschouwen als een konkurrent die beroep doet op dezelfde grondstoffen die nodig zijn voor het overleven.

[Kotsmos]

Maar zijn werktuigen zoals hamers, schoppen, komputers, telefoons, GSM's , internet, TV's, voertuigen, afstandsbedieningen allerhande, enz. nu eigenlijk ook al geen uitbreiding van ons biologisch lichaam? Het enige verschil is dat er nog geen rechtstreekse verbinding is met onze hersenen, maar dat alles nog via onze biologische zintuigen gebeurt (ogen, oren, tastzin, reukzin, smaakzin).

dat is het hem juist: onze zintuigen dienen voor interactie met de omgeving. Als we de functie van onze zintuigen toepassen op een ding, betekent het niet dat dat ding een verlengde is van ons lichaam. Het feit dat er geen biologische verbinding is met ons lichaam is juist wat maakt dat die werktuigen NIET tot ons lichaam behoren.

Is de stap naar een rechtstreekse verbinding met onze biologische hersenen dan eigenlijk nog zo groot?

ehh. ja.

[Doomy]

dat is het hem juist: onze zintuigen dienen voor interactie met de omgeving. Als we de functie van onze zintuigen toepassen op een ding, betekent het niet dat dat ding een verlengde is van ons lichaam. Het feit dat er geen biologische verbinding is met ons lichaam is juist wat maakt dat die werktuigen NIET tot ons lichaam behoren.

En toch zijn het middelen met de bedoeling om de beperkingen van ons lichaam op te heffen. Een hamer of hefkraan vergroten onze kracht. Een voertuig vergroot onze snelheid en onze draagkracht. Kleren zijn onze tweede huid en een woning zelfs onze derde huid die ons tegen de buitenwereld beschermen. Een rekenmachine en komputer zijn een uitbreiding van onze rekenkracht. Het hangt er maar van af hoe je het bekijkt. De mensheid zoekt al miljoenen jaren manieren om zijn beperkingen op te heffen. Kunstmatige intelligentie, genetische manipulatie, vervanging van niet meer werkende lichaamsdelen, en uitbreiding van de eigen lichaamsfunkties liggen gewoon in het verlengde daarvan.

Techniek op zichzelf is moreel neutraal. Het is uiteindelijk degene die het gebruikt die bepaalt of het gebruik ervan goed of slecht is. Zo is een hamer gemaakt om er spijkers mee in planken te slaan, en niet om er iemand het hoofd mee in te slaan. Als men dit laatste toch doet moet de dader de rechter niet wijsmaken dat niet hijzelf het slachtoffer heeft gedood maar de hamer. De techniek de schuld geven van het eigen gedrag of alle techniek verwerpen omdat het tot misbruik kan leiden bij mensen met slechte bedoelingen zijn allebei manieren om de eigen verantwoordelijkheid bij het gebruik van technologie te ontlopen. Wie techniek verwerpt moet trouwens konsekwent zijn en alles laten vallen wat technologie heeft voortgebracht: niet alleen hitech zoals komputers, TV's, GSM's, auto's, vliegtuigen, CD's, enz., maar ook lowtech zoals hamers, zagen, fietsen, muziekinstrumenten, LP's, kleren, papier, pennen, enz. Die moet dus met andere woorden op een eiland gaan wonen.

Is de stap naar een rechtstreekse verbinding met onze biologische hersenen dan eigenlijk nog zo groot?

ehh. ja.

Technisch is het inderdaad nog een grote stap, maar eenmaal het er is zal het volgens mij voor de geest gewoon een snellere en rechtstreekser manier zijn om zaken te bedienen. Men doet nu reeds proeven waarbij gehandikapten met pure wilskracht een kursor op een komputerscherm kan bedienen via apparatuur die de aktiviteit van de hersenen kan registreren. Dit zou gehandikapten kunnen helpen om hun handikap te overwinnen. Andere toepassingen zullen dan waarschijnlijk snel volgen. Een vliegtuigpiloot zou dan bijvoorbeeld het vliegtuig dat hij bedient kunnen aanvoelen als een stuk van het eigen lichaam en zelfs een soort pijn kunnen voelen aan de vleugel als die overbelast wordt, waarna hij dan bijstuurt om de overbelasting op te heffen. Zo kunnen biologische en technische infrastruktuur één geheel gaan vormen, die men van elkaar kan afkoppelen wanneer men dit wenst. Net zoals men de kleren kan uitdoen of de hamer aan de kant kan leggen. Zoiets zal in ieder geval een grote maatschappelijke impakt hebben. We kunnen er beter nu maar eens goed over beginnen nadenken. En dit is misschien de rol van SF: de mogelijkheden en gevaren van de toekomst schetsen?

[Paulus de Boskabouter]

En dit is misschien de rol van SF: de mogelijkheden en gevaren van de toekomst schetsen?

OF entertainment

[Doomy]

En dit is misschien de rol van SF: de mogelijkheden en gevaren van de toekomst schetsen?

OF entertainment

Misschien beide?

[Pelgrim]

Als kenner op dat gebied wil ik toch wel even zeggen dat het, kwa wetenschappelijke maar ook kwa sociale themas, het VOORNAMELIJK de science fiction is geweest die die zaken behandelde en ons geweten daaromtrend vormt. Stel u maar eens voor dat de sf nooit 'frankenstein' had voortgebracht maar wel een verhaal over een vriendelijk, behulpzaam, intelligent geschapen monster. Ongetwijfeld liepen er nu al veel gekloonde mensen rond en had iedereen wel een robot in huis.

[Doomy]

Als kenner op dat gebied wil ik toch wel even zeggen dat het, kwa wetenschappelijke maar ook kwa sociale themas, het VOORNAMELIJK de science fiction is geweest die die zaken behandelde en ons geweten daaromtrend vormt. Stel u maar eens voor dat de sf nooit 'frankenstein' had voortgebracht maar wel een verhaal over een vriendelijk, behulpzaam, intelligent geschapen monster. Ongetwijfeld liepen er nu al veel gekloonde mensen rond en had iedereen wel een robot in huis.

In de jaren 1980 had je bijvoorbeeld films zoals "Mad Max", Terminator", "Total Recall", enz. Het was een tijd waarin er een "No Future"-sfeer heerste: er heerste ekonomische krisis, grote werkloosheid, koude oorlog met een dreigende kernoorlog, enz. Die films straalden ook die sfeer uit. In die zin zijn SF-films in zekere zin ook altijd kinderen van hun tijd. Zo had je in de jaren 1950 fantastische toekomstvisioenen over het jaar 2000 (dat toen nog ver af lag). Iedereen vloog zoals de Jetsons met een privévoertuig door de lucht, maar mannen met lang haar waren blijkbaar onmogelijk. In de SF van de jaren 1950 hadden ze allemaal een fifties-kapsel. :mrgreen: Soms zat de SF er ver naast, maar soms zat ze er ook recht op. In "2001: A Space Odessey" had je beide: sommige zaken zijn (nog) niet uitgekomen; andere zaken zijn door de werkelijkheid voorbijgestoken. Het lokte in ieder geval diskussies uit over de sociologische gevolgen van de voortuitschrijdende technologie in de toekomst.

[Jos Verhulst]

Die kunstmatige intelligentie zou zelfs normen, een moraal en zelfs gevoelens zoals een mens kunnen hebben. Moet men zo'n kunstmatige intelligentie dan beschouwen als "intelligent leven" dat evenwaardig is als biologisch intelligent leven met dezelfde rechten en plichten? Ook op deze vragen geven politieke en filosofische geschriften en heilige boeken geen antwoord. Dit dilemma werd uitgebeeld in de SF-film "Blade Runner". En dan hebben we nog niet eens gediskussieerd over die ander SF-nachtmerrie -de opstand van de robots en komputers tegen hun menselijke scheppers- zoals die werd uitgebeeld in SF-films zoals "Terminator". Misschien moeten we er toch eens over na beginnen te denken om robots en komputers ook een menselijke moraal mee te geven? Alleen: welke moraal moet dit dan zijn? Ik denk dat een moraal die alleen op de huidige politieke en filosofische levensbeschouwingen en godsdienst is gebazeerd onbruikbaar is voor robots en komputers die het heelal moeten intrekken.

Heel die vraagstelling berust op de verzwegen premisse, dat mensen eigenlijk ook een soort robots zijn, waarvan de werking in principe reduceerbaar is tot de wetten van de natuurkunde. Ik acht die premisse onbewezen, en zeer waarschijnlijk onjuist. Voor mijn argumenten, zie:
http://www.ping.be/jvwit/QMAristotelianinterpre.html
of mijn boek 'Der Glanz von Kopenhagen'.
Zie ook:
http://www.tphys.physik.uni-tuebingen.de/braeuer/Vortraege/Beobachtergesch/QM_Spacetime.pdf

[skye]

Wat denken jullie over kunstmatige intelligentie van komputers en robots? Met de huidige stand van wetenschap en techniek ziet het er naar uit dat kunstmatige intelligentie die kan wedijveren met menselijke intelligente binnen de 30 �* 50 jaar een feit zal zijn (dus waarschijnlijk nog tijdens ons leven). Die kunstmatige intelligentie zou zelfs normen, een moraal en zelfs gevoelens zoals een mens kunnen hebben. Moet men zo'n kunstmatige intelligentie dan beschouwen als "intelligent leven" dat evenwaardig is als biologisch intelligent leven met dezelfde rechten en plichten? Ook op deze vragen geven politieke en filosofische geschriften en heilige boeken geen antwoord. Dit dilemma werd uitgebeeld in de SF-film "Blade Runner". En dan hebben we nog niet eens gediskussieerd over die ander SF-nachtmerrie -de opstand van de robots en komputers tegen hun menselijke scheppers- zoals die werd uitgebeeld in SF-films zoals "Terminator". Misschien moeten we er toch eens over na beginnen te denken om robots en komputers ook een menselijke moraal mee te geven? Alleen: welke moraal moet dit dan zijn? Ik denk dat een moraal die alleen op de huidige politieke en filosofische levensbeschouwingen en godsdienst is gebazeerd onbruikbaar is voor robots en komputers die het heelal moeten intrekken.
zucht....
en meteen het begin van een hele dwaze pseudo-wetenschappelijke discussie.

Men stelt vast dat een supercomputer als "Deep Blue" (computer die Kasparov verslagen heeft) heel goed kan schaken. Conclusie: "Deep blue" is heel intelligent. Ja? ... NEE, fout. Betekent alleen maar dat "Deep Blue" snel kan rekenen. Vraag hem iets anders uit te voeren en hij zal falen. Het is blijkbaar onmogelijk gebleken om een computer te programmeren die zeer goed kan bridgen. Waarom? Omdat de spanning tree die bij bridge moet opgesteld worden, veel groter is. Brute en domme rekenkracht verzinken dan in het niets tov intelligentie.

Men blijkt te vergeten dat computers alleen maar in staat zijn om vaste geprogrammeerde routines uit te voeren. Dit heeft NIETS te maken met creativiteit, doorzicht, kortom intelligentie. Men blijkt te vergeten dat de menselijke hersenen bestaan uit allerlei zenuwen die in staat zijn om nieuwe connecties te leggen. Dit is het essentiele verschil tussen mensen en computers. Mensen evolueren, computers niet.

Voor mensen die geinteresseerd zijn in artificiele intelligentie, hier een "amusante" stek.
www.alicebot.org/

[Supe®Staaf]

www.alicebot.org/
Magerkes hoor.
't Staat echt in kinderschoenen.
Een beetje meta-redeneringen en het spel gaat met de billen bloot.

[skye]

www.alicebot.org/
Magerkes hoor.
't Staat echt in kinderschoenen.
Een beetje meta-redeneringen en het spel gaat met de billen bloot.
idd

[Kotsmos]

Men blijkt te vergeten dat de menselijke hersenen bestaan uit allerlei zenuwen die in staat zijn om nieuwe connecties te leggen. Dit is het essentiele verschil tussen mensen en computers.

wel waar, maar in wezen is onze intelligentie ook maar gebaseerd op elektrische signalen. In theorie kan het dus, de technologische kennis is er alleen nog niet.

[Supe®Staaf]

AI kan m.i. niet wat wij kunnen: nl. iets fouts toch correct interpreteren.
Wij schrijven misschien foutief 'Antwerben', maar iedere mens weet waarover het gaat.
Wij hebben een fouttolerantie, maar voor machines geldt enkel eenduidige input.

[Kotsmos]

Wij schrijven misschien foutief 'Antwerben', maar iedere mens weet waarover het gaat.


en dat heeft alles te maken met geheugen en verbanden leggen, en op fundamenteel niveau gewoon elektrische signalen. Het is een enorm ingewikkeld systeem, maar dat wil nog niet zeggen dat niet-biologische systemen dat per definitie niet zouden kunnen, omdat ze volgens hetzelfde principe kunnen opgebouwd worden.

[Snowball]

eventjes reageren.
Ik ben student en zit in mijn eerste lic. informatica.

Wat hier in de laatste posts blijkbaar over het hoofd gezien wordt is het bestaan van artificial neural networks (ANNs). Dat is een vrij nieuw onderzoeksgebied in de computerwetenschappen (of beter: recente belangstelling).

In ANNs is het perfect mogelijk dat de er fouten gemaakt worden door het systeem. Ook zullen fouten zoals anwerben evengoed herkend worden.
Dergelijke systemen zijn heel nuttig in het interpreteren van zintuigelijke data (o.a. spraakherkenning).

Het principe van ANNs is afgekeken van de (menselijke) hersenen: neuronen die onderling met elkaar verbonden zijn, hetzij met een klein gewicht, hetzij met een groot.

Er zijn ook belangrijke vershilpunten met de menselijke neurale nerwerken, maar daar zal ik hier niet op ingaan.
Ik wou jullie gewoon attent maken op het bestaan van ANN's

execute

[skye]

AI kan m.i. niet wat wij kunnen: nl. iets fouts toch correct interpreteren.
Wij schrijven misschien foutief 'Antwerben', maar iedere mens weet waarover het gaat.
Wij hebben een fouttolerantie, maar voor machines geldt enkel eenduidige input.
computers kunnen wel fouten corrigeren. Fout corrigerende codes worden overal toegepast: Internet, telecommunicatie, lezen van CD's enz... zie bv de Hamming codes.

[alpina]

AI kan m.i. niet wat wij kunnen: nl. iets fouts toch correct interpreteren.
Wij schrijven misschien foutief 'Antwerben', maar iedere mens weet waarover het gaat.
Wij hebben een fouttolerantie, maar voor machines geldt enkel eenduidige input.
computers kunnen wel fouten corrigeren. Fout corrigerende codes worden overal toegepast: Internet, telecommunicatie, lezen van CD's enz... zie bv de Hamming codes.

Is het niet zo dat die foutcorrigerende codes enkel dienen om te controleren of er wel juist is gecommuniceerd? Dat heeft toch niets te maken met het ontdekken van fouten en het zelf interpreteren van wat bedoeld werd!

[Supe®Staaf]

eventjes reageren.
Ik ben student en zit in mijn eerste lic. informatica.

Wat hier in de laatste posts blijkbaar over het hoofd gezien wordt is het bestaan van artificial neural networks (ANNs). Dat is een vrij nieuw onderzoeksgebied in de computerwetenschappen (of beter: recente belangstelling).

In ANNs is het perfect mogelijk dat de er fouten gemaakt worden door het systeem. Ook zullen fouten zoals anwerben evengoed herkend worden.
Dergelijke systemen zijn heel nuttig in het interpreteren van zintuigelijke data (o.a. spraakherkenning).

Het principe van ANNs is afgekeken van de (menselijke) hersenen: neuronen die onderling met elkaar verbonden zijn, hetzij met een klein gewicht, hetzij met een groot.

Er zijn ook belangrijke vershilpunten met de menselijke neurale nerwerken, maar daar zal ik hier niet op ingaan.
Ik wou jullie gewoon attent maken op het bestaan van ANN's

execute
Ik ben blijkbaar al stevig achterop. :?
In Dos 3.1 mag je echt geen fouten typen hoor.

[Doomy]

Heel die vraagstelling berust op de verzwegen premisse, dat mensen eigenlijk ook een soort robots zijn, waarvan de werking in principe reduceerbaar is tot de wetten van de natuurkunde. Ik acht die premisse onbewezen, en zeer waarschijnlijk onjuist. Voor mijn argumenten, zie:
http://www.ping.be/jvwit/QMAristotelianinterpre.html
of mijn boek 'Der Glanz von Kopenhagen'.
Zie ook:
http://www.tphys.physik.uni-tuebingen.de/braeuer/Vortraege/Beobachtergesch/QM_Spacetime.pdf

Volgens de chaosteorie zijn die op het eerste zicht ordentelijke natuurwetten gebazeerd op een chaos, die op zijn beurt op een nog striktere orde zou zijn gebazeerd. Volgens die teorie laten de natuurwetten een zekere onvoorspelbare chaos toe, en dus ook vrijheid en kreativiteit. Het biologisch leven, onze hersenen en chemische prcessen in ons lichaam zouden dan als het ware gebruik maken van enkele achterpoortjes in de natuurwetten. Het zijn allemaal in wezen chaotische processen die naar een zelfordening leiden. In principe kan kunstmatige intelligentie (of beter gezegd: niet-biologische intelligentie) van diezelfde natuurwetten gebruik maken. Het is zelfs niet eens nodig dat je alles vooraf programmeert. Er bestaan nu al zelflerende programma's die leren uit hun vorige pogingen. Die gebruikt men onder andere voor onbemande ruimtetuigen die men naar verre planeten zendt. Het sinjaal van deze robots doet er immers te lang over om de Aarde te bereiken, zodat ze een heel primitieve vorm van kunstmatige intelligentie moeten hebben om zelf hun plan te trekken.

[skye]

Heel die vraagstelling berust op de verzwegen premisse, dat mensen eigenlijk ook een soort robots zijn, waarvan de werking in principe reduceerbaar is tot de wetten van de natuurkunde. Ik acht die premisse onbewezen, en zeer waarschijnlijk onjuist. Voor mijn argumenten, zie:
http://www.ping.be/jvwit/QMAristotelianinterpre.html
of mijn boek 'Der Glanz von Kopenhagen'.
Zie ook:
http://www.tphys.physik.uni-tuebingen.de/braeuer/Vortraege/Beobachtergesch/QM_Spacetime.pdf

Volgens de chaosteorie zijn die op het eerste zicht ordentelijke natuurwetten gebazeerd op een chaos, die op zijn beurt op een nog striktere orde zou zijn gebazeerd. Volgens die teorie laten de natuurwetten een zekere onvoorspelbare chaos toe, en dus ook vrijheid en kreativiteit. Het biologisch leven, onze hersenen en chemische prcessen in ons lichaam zouden dan als het ware gebruik maken van enkele achterpoortjes in de natuurwetten. Het zijn allemaal in wezen chaotische processen die naar een zelfordening leiden. In principe kan kunstmatige intelligentie (of beter gezegd: niet-biologische intelligentie) van diezelfde natuurwetten gebruik maken. Het is zelfs niet eens nodig dat je alles vooraf programmeert. Er bestaan nu al zelflerende programma's die leren uit hun vorige pogingen. Die gebruikt men onder andere voor onbemande ruimtetuigen die men naar verre planeten zendt. Het sinjaal van deze robots doet er immers te lang over om de Aarde te bereiken, zodat ze een heel primitieve vorm van kunstmatige intelligentie moeten hebben om zelf hun plan te trekken.
hupla, hier komt de chaostheorie!! Waarom is het toch dat mensen altijd proberen te verbergen dat ze er niets van begrepen hebben, door met moeilijke en mysterieus klinkende woorden zwaaien?

Ivm de zelflerende programma's, zoals het woord het zegt, is het leren geprogrammeerd. In functie van een aantal inputs, zal het ruimtetuig volgens een vast algoritme enkele interne variabelen bijhouden of van "state" veranderen. Dit heeft wederom niets met intelligentie te maken.

[Jos Verhulst]

Volgens de chaosteorie zijn die op het eerste zicht ordentelijke natuurwetten gebazeerd op een chaos, die op zijn beurt op een nog striktere orde zou zijn gebazeerd. Volgens die teorie laten de natuurwetten een zekere onvoorspelbare chaos toe, en dus ook vrijheid en kreativiteit.

Onvoorspelbaarheid en vrijheid zijn niet hetzelfde. De chaostheorie is een deterministische theorie. Vrijheid impliceert indeterminisme, en dat kom je wat de natuurkunde betreft enkel in de quantumtheorie tegen.

Anderzijds impliceert indeterminisme nog geen vrijheid. Vrijheid veronderstelt dat bewustzijn voorhanden is, dat in dit bewustzijn logisch kan gedacht worden, en dat op basis van die logische gedachten dan morele keuzes kunnen gemaakt worden. Bij een vrije daad begint de causale keten bij een schepping uit het niets door de individueel moreel oordelende mens, om te eindigen met een materiële verandering.

Logisch coherent (niet-contradictorisch) denken is slechts mogelijk, indien het denken niet kan worden herleid tot (met fysische of zelfs niet-fysische middelen) reproduceerbare of volgbare processen (zie bv de paradox van Newcomb). Zelfs de één-één-associatie van een fysische structuur - het weze dan al een ingewikkelde structuur zoals de hersenen - met een welbepaalde denkinhoud lijkt mij onmogelijk. De betekenis van een verkeersbord is niet afleidbaar uit de fysische eigenschappen van dat bord. Hetzelfde geldt ook voor een stel hersenen, in de mate dat de fysieke structuur ervan bepaalbaar is op het ogenblik, dat iets wordt gedacht. Semantiek is niet herleidbaar tot syntaxis.

Het biologisch leven, onze hersenen en chemische prcessen in ons lichaam zouden dan als het ware gebruik maken van enkele achterpoortjes in de natuurwetten. Het zijn allemaal in wezen chaotische processen die naar een zelfordening leiden.

Er is in de natuurwetten niets voorhanden dat het verschijnen van bewustzijn en bewustzijnsinhouden voorspelt. Ook het darwinisme is volstrekt onmachtig om het verschijnsel bewustzijn te verklaren. Er zijn in de natuurwetten helemaal geen achterpoortjes richting bewustzijn, laat staan richting vrijheid.

[Doomy]

De chaostheorie is een deterministische theorie.

Ik vind dat het integendeel een niet-deterministische teorie is omdat het leven volgens deze teorie zichzelf kan organizeren.

Er is in de natuurwetten niets voorhanden dat het verschijnen van bewustzijn en bewustzijnsinhouden voorspelt. Ook het darwinisme is volstrekt onmachtig om het verschijnsel bewustzijn te verklaren. Er zijn in de natuurwetten helemaal geen achterpoortjes richting bewustzijn, laat staan richting vrijheid.

Daar denkt de sterrenkundige en wetenschapsfilozoof Gerard Bodifee dan blijkbaar anders over. Die heeft daar ganse boeken met praktijkvoorbeelden over geschreven, en hij onderbouwt zijn stellingen met tamelijk degelijke wetenschappelijke argumenten. Al vind ik zijn konklusie dat dit bewijst dat God bestaat niet overtuigend, omdat je met dezelfde chaosteorie eveneens kunt stellen dat er geen god nodig is omdat het leven zichzelf kan organizeren.

[Doomy]

hupla, hier komt de chaostheorie!! Waarom is het toch dat mensen altijd proberen te verbergen dat ze er niets van begrepen hebben, door met moeilijke en mysterieus klinkende woorden zwaaien?

Ik heb een redelijk goede wetenschappelijke kennis, weet wel degelijk wat de chaosteorie inhoudt, en hou mij ver van pseudo-wetenschap. Ik geloof sterk in zelfregulerende chaotische systemen, en leven is daar een voorbeeld van.

Ivm de zelflerende programma's, zoals het woord het zegt, is het leren geprogrammeerd. In functie van een aantal inputs, zal het ruimtetuig volgens een vast algoritme enkele interne variabelen bijhouden of van "state" veranderen. Dit heeft wederom niets met intelligentie te maken.

Een mens wordt toch ook in zekere zin geprogrammeerd door zijn genen en zijn opvoeding? Dit belet een mens echter niet om een eigen bewustzijn en een eigen mening te ontwikkelen, en er een vrij gedrag en eigen wil op na te houden. Het is integendeel een hulp daartoe. Waarom hebben mensen het er toch moeilijk mee om te erkennen dat niet-biologische intelligentie in de toekomst misschien tot de mogelijkheden gaat behoren? Omdat ze dan hun centrale plaats die ze zichzelf toegedicht hebben kwijt zijn, net zoals men indertijd afkerig was van het idee dat de Aarde niet in het centrum van het heelal stond?

[Jos Verhulst]

De chaostheorie is een deterministische theorie.

Ik vind dat het integendeel een niet-deterministische teorie is omdat het leven volgens deze teorie zichzelf kan organizeren.

De chaostheorie past volledig binnen de Newtoniaanse mechanica en deze laatste is strikt deterministisch.

Er is in de natuurwetten niets voorhanden dat het verschijnen van bewustzijn en bewustzijnsinhouden voorspelt. Ook het darwinisme is volstrekt onmachtig om het verschijnsel bewustzijn te verklaren. Er zijn in de natuurwetten helemaal geen achterpoortjes richting bewustzijn, laat staan richting vrijheid.

Daar denkt de sterrenkundige en wetenschapsfilozoof Gerard Bodifee dan blijkbaar anders over. Die heeft daar ganse boeken met praktijkvoorbeelden over geschreven, en hij onderbouwt zijn stellingen met tamelijk degelijke wetenschappelijke argumenten. Al vind ik zijn konklusie dat dit bewijst dat God bestaat niet overtuigend, omdat je met dezelfde chaosteorie eveneens kunt stellen dat er geen god nodig is omdat het leven zichzelf kan organizeren.

Gezagsargumenten maken op mij geen indruk. Overigens heb ik een aantal jaren terug nogal wat gesprekken gevoerd met Bodifee en ik heb ook diverse van zijn boeken gelezen. Ik zou wel eens willen weten waar hij volgens u zegt dat bewustzijn kan afgeleid worden uit natuurwetten, of waar hij aantoont dat natuurlijke selectie het ontstaan van bewustzijn kan verklaren. Ik kan mij daar niets van herinneren.

[Doomy]

De chaostheorie is een deterministische theorie.

Ik vind dat het integendeel een niet-deterministische teorie is omdat het leven volgens deze teorie zichzelf kan organizeren.

De chaostheorie past volledig binnen de Newtoniaanse mechanica en deze laatste is strikt deterministisch.

Ik zie met de beste wil van de wereld niet in hoe je de onzekerheden die volgens de chaosteorie mogelijk zijn als deterministisch kan beschouwen, tenzij je chaos beschouwt als een deterministische wanorde of een stuurloze wetmatigheid. Het hangt er maar van af hoe je het bekijkt. Maar eigenlijk doet het in deze diskussie over kunstmatige intelligentie niet echt terzake of die chaosteorie nu deterministisch of niet-deterministisch van aard is of daar ergens tussenin. Het is eigenlijk een beetje hetzelfde als diskussiëren over het geslacht van de engelen. Feit is dat het leven een zekere vrijheid van evolueren heeft.

Gezagsargumenten maken op mij geen indruk.

Ik haalde Gerard Bodiféee niet aan als gezagsargument, maar ter informatie. Jij zit toch zelf in je artikels anderen bij de vleet te citeren, meer zelfs dan ik doe? ;) Je bent uiteraard vrij om het wel of niet met hem eens te zijn.

Overigens heb ik een aantal jaren terug nogal wat gesprekken gevoerd met Bodifee en ik heb ook diverse van zijn boeken gelezen. Ik zou wel eens willen weten waar hij volgens u zegt dat bewustzijn kan afgeleid worden uit natuurwetten, of waar hij aantoont dat natuurlijke selectie het ontstaan van bewustzijn kan verklaren. Ik kan mij daar niets van herinneren.

In zijn boek "Ruimte voor vrijheid" (1988) zet Gerard Bodifée daar een heuse boom over op. Ik geef je hier een paar citaten uit dat boek ter informatie (en niet als gezagsargument ;)):

Blz. 8: Op zoek naar de fundamentele wetten en deeltjes stootte de wetenschap op bronnen van onbepaaldheid in de natuur. De wereld van de atomaire deeltjes vertoont vaagheden, en die van grootschalige systemen wankelt door instabiliteiten die door geen wetten kunnen worden uitgewist. De ketting van oorzaak en gevolg die alle gebeurtenissen aaneen zou moeten rijgen, bevat losse schakels. Spontane initiatieven komen voor. In het vage niemandsland waar de wetten hun dwanggreep op de materie verliezen, zoekt de levende natuur, tastend en aarzelend, haar weg.

Blz. 9: En wat beweegt de mens, die archipel van kennis en twijfel, die om zekerheden vraagt en ze alle vlucht? Hij stelt regels op, natuurwetten die voorspelbaarheid in de materie leggen, sociale wetten die de samenleving regelen, maar vreest ze zoals het lichaam de dood vreest, en verwerpt alles zodra de geest zich zijn vrijheid herinnert. De geschiedenis is het relaas van pogingen de samenleving op vaste regels te baseren, en van hardnekkiger pogingen daarvan weer los te komen. Zij is het verhaal van een strijd tussen zekerheid en vrijheid, tussen wil en wet, waarvan de afloop op elk ogenblik opnieuw beslist wordt. De wil wint.
-> (Hé, kijk eens aan! Dat inzicht bevestigt eigenlijk mijn opvattingen als libertaire autonomist over het zelfbeschikkingsrecht voor iedereen en vrijheid, en gaat lijnrecht in tegen de opvattingen van het Vlaams Blok over orde, zekerheid, gezag en wet. In dit geval is het Vlaams Blok dus maar een tijdelijk fenomeen dat aan zijn eigen onwerkbaarheid zal ten onder gaan. Even geduld dus :D)

Blz. 145: Quantummechanica en biologie, of quantummechanica en de ervaring van vrijheid, lijken nauwer met elkaar in verband te staan dan de meeste natuurkundigen, vooral in de beginperiode van de quantummechanica, bereid waren te erkennen. Het is merkwaardig met hoeveel ijver velen zich inspanden om de relevantie van de Heisenberg-onzekerheid voor het verloop van de biologische processen te minimaliseren of te ontkennen. Een gehechtheid aan newtoniaanse beginselen speelde daarbij een hoofdrol, maar misschien ook, wie weet, de dieper gelegen, veel oudere vrees een vrijheid onder ogen te moeten zien die misschien niet te dragen is en die definitief niet meer verbannen zou kunnen worden door de natuurwetenschap.

Blz. 149: De vergelijking kan gemaakt worden met een computer en zijn software. De klassieke voorstelling slaat op een situatie waarbij het programma in de computer een resultaat produceert, zodat elke wijziging in de hardware of in de software tot en ander resultaat leidt. De delen bepalen het geheel. Het is echter denkbaar dat een computersysteem gebouwd wordt waarbij het resultaat van een programma erin bestaat dat de hardware of software zelf veranderd wordt. De computer kan bijvoorbeeld een robot besturen die aan de schakelingen van de computer zelf wijzigingen aanbrengt, of die veranderingen in het programma via het toetsenbord intikt. In zo'n geval bepaalt het hele systeem welke functionerende onderdelen het zal bevatten
-> (Met andere woorden: het is denkbaar dat niet-biologische systemen een soort natuurlijke evolutie meemaken die vergelijkbaar is met deze van biologische systemen, en dat dit uiteindelijk tot een niet-biologische intelligentie en zelfs niet-biologisch bewustzijn kan leiden.)

Blz. 194: Levende wezens zijn open, niet-lineaire, functioneel georganiseerde niet-evenwichtssystemen. Door hen op te vatten als complexe chemische dissipatieve structuren wordt geen specifieke aanwijzing over hun vorm, samenstelling of gedrag gegeven. Er wordt niets over hun ontwikkeling voorspeld. Dat gemis vormt een fundamenteel kenmerk van het inzicht: waar de materie leeft, is zij vrij. Levende wezens zijn niet door specifieke hoedanigheden te karakteriseren, zij zijn zelfs niet echt te definiëren.

[Jos Verhulst]

Ik zie nergens enig element in die citaten waaruit zou moeten blijken dat de chaostheorie niet deterministisch is. De enige niet-deterministische theorie in de natuurkunde is de quantummechanica. De fundamentele onbepaaldheden die daar voorkomen, kunnen via chaotische mechanismen zeer snel versterkt worden tot op macroscopisch niveau.

[wardje]

Met de huidige stand van wetenschap en techniek ziet het er naar uit dat kunstmatige intelligentie die kan wedijveren met menselijke intelligente binnen de 30 �* 50 jaar een feit zal zijn (dus waarschijnlijk nog tijdens ons leven).

Zo snel moet je dat nog niet verwachten hoor; merk op dat ze 30 �* 50 jaar geleden net dezelfde voorspelling maakten:

"Within 10 years, Computers won't even keep us as pets".
-- Marvin Minsky, 1967

Minsky is bovendien niet zomaar de eerste de beste; hij wordt algemeen erkend als dé AI goeroe. Minsky heeft ondertussen zijn voorspellingen moeten bijstellen. Naar het einde van de jaren zeventig is het AI project vastgelopen in het 'common sense' probleem. Het lukt maar niet om een computer/robot wat "gezond verstand" bij te brengen. Ik zal Daniel C. Dennett laten illustreren hoe verschrikkelijk moeilijk dat is (neem de moeite om het te lezen, het is best wel grappig):

Once upon a time there was a robot, named R1 by its creators. Its only task was to fend for itself. One day its designers arranged for it to learn that its spare battery, its precious energy supply, was locked in a room with a time bomb set to go off soon. R1 located the room, and the key to the door, and formulated a plan to rescue its battery. There was a wagon in the room, and the battery was on the wagon, and R1 hypothesized that a certain action which it called PULLOUT(WAGON,ROOM) would result in the battery being removed from the room. Straightaway it acted, and succeeded in getting the battery out of the room before the bomb went off. Unfortunately, however, the bomb was also on the wagon. R1 knew that the bomb was on the wagon in the room, but didn't realize that pulling the wagon would bring the bomb out along with the battery. Poor R1 had missed that obvious implication of its planned act.

Back to the drawing board. "The solution is obvious," said the designers. "Our next robot must be made to recognize not just the intended implications of its acts, but also the implications about their side-effects, by deducing these implications from the descriptions it uses in formulating its plans." They called their next model the robot-deducer R1D1. They placed R1D1 in much the same predicament the R1 had succombed to, and as it too hit upon the idea of PULLOUT(WAGON,ROOM), it began, as designed, to consider the implications of such a course of action. It had just finished deducing that pulling the wagon out of the room would not change the color of the room's walls, and was embarking on a proof of the further implication that pulling the wagon out would cause its wheels to turn more revolutions than there were wheels on the wagon - when the bomb went off.

Back to the drawing board. "We must teach it the difference between relevant implications and irrelevant implications," said the designers. "And teach it to ignore the irrelevant ones." So they developed a method of tagging implications as either relevant or irrelevant to the project at hand, and installed the method in their net model, the robot-relevant-deducer, R2D1. When the subjected R2D1 to the test that had so unequivocally selected its predecessors for extinction, they were surprised to find it sitting, Hamlet-like, outside the room containing the bomb, the native hue of its resolution sicklied o'er with the pale case of thought, as Shakespeare has aptly put it.

"DO something!" its creators yelled.

"I am," it replied. "I'm busily ignoring some thousands of implications I have determined to be irrelevant. Just as soon as I find an irrelevant implication, I put it on the list of those I must ignore, and..." the bomb went off.

Reference: Dennet, D. Cognitive Wheels: The Frame Problem in AI. In Minds, Machines, and Evolution. C. Hookway, ed. Pp. 128-151. Cambridge University Press, 1984.

We hoeven echt nog geen schrik te hebben; blade runner is nog héél ver af.

[wardje]

Vrijheid veronderstelt dat bewustzijn voorhanden is, dat in dit bewustzijn logisch kan gedacht worden, en dat op basis van die logische gedachten dan morele keuzes kunnen gemaakt worden. Bij een vrije daad begint de causale keten bij een schepping uit het niets door de individueel moreel oordelende mens, om te eindigen met een materiële verandering.

Logisch coherent (niet-contradictorisch) denken is slechts mogelijk, indien het denken niet kan worden herleid tot (met fysische of zelfs niet-fysische middelen) reproduceerbare of volgbare processen (zie bv de paradox van Newcomb). Zelfs de één-één-associatie van een fysische structuur - het weze dan al een ingewikkelde structuur zoals de hersenen - met een welbepaalde denkinhoud lijkt mij onmogelijk. De betekenis van een verkeersbord is niet afleidbaar uit de fysische eigenschappen van dat bord. Hetzelfde geldt ook voor een stel hersenen, in de mate dat de fysieke structuur ervan bepaalbaar is op het ogenblik, dat iets wordt gedacht. Semantiek is niet herleidbaar tot syntaxis.



Chapeau. Maar ik kan me niet vinden in uw dualistisch standpunt. Bezin u over de rol van het bewustzijn met hetvolgende experiment


Subjective delay of consciousness of intention. (Libet 1985, 1987, 1989; see also the accompanying commentaries) In other experiments, Libet asked subjects to make "spontaneous" decisions to flex one hand at the wrist while noting the position of a revolving spot (the "second hand" on a clock, in effect) at the precise time they formed the intention. Subjects' reports of these subjective simultaneities were then plotted against the timing of relevant electrophysiological events in their brains. Libet found evidence that these "conscious decisions" lagged between 350 and 400msec behind the onset of "readiness potentials" he was able to record from scalp electrodes, which, he claims, tap the neural events that determine the voluntary actions performed. He concludes that "cerebral initiation of a spontaneous voluntary act begins unconsciously" (1985, p.529). That one's consciousness might lag behind the brain processes that control one's body seems to some an unsettling and even depressing prospect, ruling out a real (as opposed to illusory) "executive role" for "the conscious self". (See the discussions by many commentators in BBS, 1985, 1987, 1989, and in Pagels, 1988, p.233ff, and Calvin, 1990, p.80-81. But see, for a view close to ours, Harnad, 1982)



uit D.C. Dennett & M.Kinsbourne. "Time and the observer. The where and when of consciousness in the brain" (in Behavioral & Brain Sciences, maar kweet niet meer precies welk nummer).

Met andere woorden, "bewuste" beslissingen worden genomen voor je je er bewust van wordt. Das straf he!

[Jos Verhulst]

Meneer van den Berghe weet werkelijk over alles iets zinnigs te zeggen. Chapeau. Maar ik kan me niet vinden in zijn dualistisch standpunt. Bezin u over de rol van het bewustzijn met hetvolgende experiment


Subjective delay of consciousness of intention. (Libet 1985, 1987, 1989; see also the accompanying commentaries) In other experiments, Libet asked subjects to make "spontaneous" decisions to flex one hand at the wrist while noting the position of a revolving spot (the "second hand" on a clock, in effect) at the precise time they formed the intention. Subjects' reports of these subjective simultaneities were then plotted against the timing of relevant electrophysiological events in their brains. Libet found evidence that these "conscious decisions" lagged between 350 and 400msec behind the onset of "readiness potentials" he was able to record from scalp electrodes, which, he claims, tap the neural events that determine the voluntary actions performed. He concludes that "cerebral initiation of a spontaneous voluntary act begins unconsciously" (1985, p.529). That one's consciousness might lag behind the brain processes that control one's body seems to some an unsettling and even depressing prospect, ruling out a real (as opposed to illusory) "executive role" for "the conscious self". (See the discussions by many commentators in BBS, 1985, 1987, 1989, and in Pagels, 1988, p.233ff, and Calvin, 1990, p.80-81. But see, for a view close to ours, Harnad, 1982)



uit D.C. Dennett & M.Kinsbourne. "Time and the observer. The where and when of consciousness in the brain" (in Behavioral & Brain Sciences, maar kweet niet meer precies welk nummer).

Met andere woorden, "bewuste" beslissingen worden genomen voor je je er bewust van wordt. Das straf he!

U weet wellicht dat Benjamin Libet, de ontdekker van dit delay effect, het helemaal niet eens is met de interpretatie die Dennett aan het fenomeen geeft. Zie bv het dispuut hierover in 'Journal of Consciousness Studies'. Maar wie mijnheer van den Berghe?

[wardje]

U weet wellicht dat Benjamin Libet, de ontdekker van dit delay effect, het helemaal niet eens is met de interpretatie die Dennett aan het fenomeen geeft. Zie bv het dispuut hierover in 'Journal of Consciousness Studies'. Maar wie mijnheer van den Berghe?

Nee ik wist het eigenlijk niet :oops: Ik wist wel dat er geen eensgezindheid was over die interpretatie; dat hoefde ook niet aangezien ik geen harde bewijzen wou aandragen, enkel een vraagstelling :wink:

Verdorie ja die van den Berghe slaat nergens op; verkeerd gekeken; mijn excuses; maar het is ondertussen al aangepast