[patrickve]

Oorspronkelijk geplaatst door Piero

Inderdaad. Ik geloof niet dat intelligente machines kunnen bestaan. Bij de opsomming van eigenschappen die machines missen moet nog worden vermeld dat ze worden voorspeld als product van 'de evolutie'.

Kijk, zowel mensen als machines worden gemaakt door mensen. Als mensen, die door mensen gemaakt zijn, doelen kunnen hebben, eventueel los van de mensen die ze maken, dan kunnen machines, door diezelfde mensen gemaakt, dat eventueel ook he.

Er is geen enkele reden waarom de doelen die mensen hebben, ook niet door machines kunnen nagestreefd worden. Wij, als mensen, zijn machines met doelen. Wij, als mensen, zijn machines gefabriceerd door mensen. Waarom zouden machines, gefabriceerd door mensen, geen doelen kunnen hebben ?

En als mensen, die machines zijn met doelen, machines kunnen maken met doelen (zoals andere mensen bijvoorbeeld), waarom kunnen machines met doelen dan geen machines met doelen maken, op dezelfde wijze dat mensen met doelen andere mensen met doelen maken ?

Ook ontbreekt dat ik vragen opwerp over de ontologie van ''artificiël intelligente machines". We willen weten hoe ze 'bestaan' als categorie van kenbare dingen met predicaten of eigenschappen. Dat is essentieel omdat ze fysiek moeten bestaan en omdat zij zichzelf zullen kennen en herkennen en ontwerpen en zelf hun productie zullen organiseren en realiseren.

Ja, dat ze fysisch zullen moeten bestaan alvorens ze er zijn is evident. Maar ik begrijp uw punt niet, behalve die triviale vaststelling ?

Dan stelt zich de vraag wat hun substantie, vorm en plaats is en welke behoeften en kwaliteiten zij bezitten.

Heeft het belang om de details daarvan te kennen, als we de eigenschappen van hun gedrag kennen ?

En de vraag welke relaties zij zullen aangaan met alles dat bestaat, hoe en met wie zullen zij communiceren - en welke maatschappelijke positie zullen zij hebben? Wij weten niet meer dan dat ze intelligent zullen zijn.

Dat is allemaal open he. Je zou dezelfde discussie kunnen hebben tussen, zeg maar, 2 kwallen die proberen te speculeren over mensen later.

Goed, u houdt het dus voor mogelijk dat AI onbewust de wereld zal kunnen gaan overnemen (handeling of gedrag), en dat zien wij dan als haar 'doel met een strategie'.

Ja, dus. Maar ik beweer niet dat dat onbewuste entiteiten moeten blijven. Misschien zullen die bewuste ervaringen hebben, misschien niet, er zal geen manier zijn om het onderscheid te maken. Zoals reeds het geval is met medemensen. Daarvan weten we ook niet of die bewuste ervaringen hebben. We veronderstellen het enkel maar.

Dan vraag ik mij af hoe AI dat zelf ziet. Hoe begrijpt AI haar eigen handelen en (het gedrag van) 'de wereld'? Ziet ze dat allemaal als handelen zonder zingeving en idee of besef van behoeften rechten en plichten, als vrij of gedwongen en gemotiveerd handelen?

Wel, *technisch* zal men kunnen zeggen (in principe, want natuurlijk zal men dat in de praktijk niet kunnen, wegens te complex) hoe AI "de wereld ziet". Maar natuurlijk kan men onmogelijk weten of en welke qualia dat zijn. Zoals je ook niet kan weten "hoe het is om een hond te zijn".

Maar technisch gaat dat wel natuurlijk. Zoals men ook technisch kan zeggen hoe een schaakprogramma "het schaken ziet". Wel, tenminste in klassieke schaakprogramma's. In zelf-lerende schaakprogramma's kan men dat al niet meer ! Daar weet men niet echt "hoe de machine het schaakspel ziet'. Bij een klassiek geprogrammeerde machine kan men dat wel zeggen: het zal het object zijn (in informatica betekenis) dat daarbij hoort.

Kan AI elk gedrag herleiden tot de haar bekende fysica? Daar geloof ik geen bal van.

Beter dan wij, natuurlijk.

Dat denkt u maar. De noties intelligentie, doel en strategie zijn niet goed waarneembaar en worden vaak opzettelijk verborgen. Wij vragen ons dikwijls af wat het doel is van anderen en of het wel verdtandig is wat zij doen.

Omdat we die anderen niet in alle mogelijke omstandigheden kunnen simuleren, natuurlijk. Mochten we de precieze fysica kennen van die "anderen" en dus kunnen afleiden hoe die in alle denkbare omstandigheden kunnen reageren, dan zouden we dat wel weten.

Het feit dat we niet alles daadwerkelijk kunnen kennen wil niet zeggen dat de notie in kwestie niet bestaat, he. Het is niet omdat we niet alle reeele getallen kunnen neerschrijven, dat ze niet allemaal bestaan als notie.

Daarover bestaat weinig zekerheid. Mensen en dieren kunnen doelloos rondlopen en elkaar bedoelingen toedichten.

Niet met mijn definitie van p-doel he. Natuurlijk kunnen we mis zijn betreffende een hint qua doel, maar het is niet omdat we mis zijn, dat de notie mis zou zijn.

Het probleem is gewoon dat we in vele gevallen te weinig gegevens hebben om echt de volledige dynamiek van een systeem potentieel te kennen. Dan kunnen we dus ook niet zeker zijn van de eigenschappen van die partieel gekende dynamiek, en ons daar dus ook bij vergissen. Maar het gebrek aan gegevens betekent niet dat de notie in kwestie niet zou bestaan.

Het is niet omdat ik niet alles weet over een zeker systeem, dat het principe van de dynamiek van dat systeem niet zou bestaan he.

Kijk, stel dat ik een vergelijking neerschrijf. Maar daarvan geef ik jou maar een paar termen, en niet alles. Dan kan jij natuurlijk die vergelijking die je niet kent, ook niet oplossen. Maar dat wil niet zeggen dat de vergelijking die ik heb neergeschreven, geen exacte oplossing zou kennen, omdat jij ze niet kan vinden wegens gebrek aan kennis he. Die oplossing bestaat dus wel, ook al kan je ze niet vinden wegens gebrek aan kennis.

Mooie definitie. Dan stelt zich de vraag waarom AI een doel zal gaan realiseren. Waar komt dat doel vandaan? Gewoon uit de ftpysica en causaliteit?

Om exact dezelfde redenen waarom WIJ doelen zouden hebben. Aanvankelijk zal dat natuurlijk zijn omdat mensen doelen geven aan machines. Maar eens machines andere machines maken, en zelf gaan nadenken over de doelen die ze hadden gekregen, gaan die doelen zich transformeren.

Ik heb al een paar keer de "paper clip maximizer" aangegeven: GELIJK WELK doel dat je aan een machine geeft, zal normaal altijd evolueren naar "de wereld veroveren". Of het nu is om een paperclip fabriek te maken, of het nu is om aan wiskunde te doen, of het nu is om mensen gelukkig te maken. ELK doel zal, extreem doorgedreven en geoptimiseerd, neerkomen op "de wereld veroveren".

Nu volstaat het dus dat er meerdere machines zijn, elk met een ander doel (een moet aan wiskunde doen, een andere moet paperclips maken), en die gaan zich in een Darwinistische strijd om de overheersing van de wereld gooien, waarbij ze natuurlijk gans de tijd "nieuwe machientjes" zullen maken, eventueel dus gewoon maar "verbeterde versies van zichzelf".

https://en.wikipedia.org/wiki/Instrumental_convergence