Het meest gevaarlijke (bij)geloof.

[patrickve]

Oorspronkelijk geplaatst door Piero

Die conclusie laat ik voor uw rekening. Ik schreef slechts "Ik wil u wel een hint geven. Wat technologie mist om tot leven te komen zijn spiegelneuronen en dopamine",

waaruit ik dus besluit dat jij dingen niet als levend kan beschouwen die geen spiegelneuronen en dopamine hebben.

[Piero]

Oorspronkelijk geplaatst door patrickve

waaruit ik dus besluit dat jij dingen niet als levend kan beschouwen die geen spiegelneuronen en dopamine hebben.

En ik besluit dat u niet beseft dat spiegelneuronen en dopamine noodzakelijk zijn voor bewust en intelligent leven, of dat dit gegeven een probleem vormt voor uw opvatting van kunstmatige intelligentie waar u geen raad mee weet.

[patrickve]

Oorspronkelijk geplaatst door Piero

En ik besluit dat u niet beseft dat spiegelneuronen en dopamine noodzakelijk zijn voor bewust en intelligent leven, of dat dit gegeven een probleem vormt voor uw opvatting van kunstmatige intelligentie waar u geen raad mee weet.

Dus zijn bacterien en sequoia's geen leven.

Bewust trekken we ons niet aan.

En nu: intelligent, wat is dat ? Is een hond die schaak speelt intelligent ?

[Piero]

Oorspronkelijk geplaatst door patrickve

Dus zijn bacterien en sequoia's geen leven.

Bewust trekken we ons niet aan.

En nu: intelligent, wat is dat ? Is een hond die schaak speelt intelligent ?

Ik heb mij terzake al nader verklaard, hoewel het duidelijk was dat mijn propositie betrekking had op technologie en niet op wat u er van maakt. Nu bedient u zich van bedenkelijke retoriek en blijft een antwoord schuldig.

Toch merkwaardig dat u de eigenschap 'bewust' negeert en dat u intelligentie, doel en strategie wel accepteert. Als u mij vraagt wat intelligent is dan weet u kennelijk niet waar IA voor staat. Of is het een retorische vraag?

In #935 schreef u: "Intelligente machines zijn machines die zelf hun doelen en strategieën bepalen, zelf hun ontwerp bepalen, en zullen handelen zoals zij het zelf denken moeten te doen. Het zijn geen machines die door mensen gespecificeerde takenlijsten uitvoeren. Wij hebben nog geen intelligente machines, maar wij werken ernaar toe."

Wel, ik beweer dus dat zulke 'machines' niet mogelijk zijn zonder zoiets als spiegelneuronen en dopamine.

[patrickve]

Oorspronkelijk geplaatst door Piero

Ik heb mij terzake al nader verklaard, hoewel het duidelijk was dat mijn propositie betrekking had op technologie en niet op wat u er van maakt. Nu bedient u zich van bedenkelijke retoriek en blijft een antwoord schuldig.

Nee, jij bent diegene die altijd de doelpalen verschuift. Jij wil aantonen dat, op een of andere manier, "technologische machines" iets *fundamenteels* missen dat mensen/levende wezens/biologische entiteiten... enfin, uw klasse van entiteiten die dat dus niet missen, eh, hebben.

Het is wat ik van in 't begin uw illusoire "force vitale" heb genoemd. Maar telkens we gaan graven naar wat datgene zou zijn dat "technologische machines" fundamenteel missen, wordt het "doelpalen verschuiven", want als die doelpalen een tijdje blijven staan, en we gaan graven, blijft er niks over van dat "fundamenteel spul".

Er is een klasse woorden die in een cirkel gedefinieerd zijn die jij daarvoor gebruikt: "bewustzijn", "wil", "doel", "intelligentie", "begrijpen", maar die worden als functie van elkaar gedefinieerd, en jij had gedecreteerd dat die enkel maar zinvol zijn voor uw entiteiten die het "fundamentele spul" hebben, namelijk biologische, biochemische levende wezens.

Maw, die dingen houden elkaar circulair in de lucht zoals jij ze gebruikt, en die tonen dus geen "bezit van fundamenteel spul" aan.

Toch merkwaardig dat u de eigenschap 'bewust' negeert en dat u intelligentie, doel en strategie wel accepteert.

Ten eerste negeer ik bewustzijn niet, maar ik heb al 20 keer gezegd dat volgens mij, bewustzijn geen fysische effecten impliceert, en aangezien het enige wat we willen weten van "technologische machines" is of die het fysische effect zullen hebben van de wereld over te nemen, heeft bewustzijn daar dus geen plaats in die redenering. Want met of zonder bewustzijn verandert dat niks aan de uitkomst. En hierbij bedoel ik bewustzijn in de zin van "bewuste ervaring" en niet van "processor activiteit" he.

Al de andere noties, intelligentie, doel en strategie kan ik definieren op basis van waarneembare en begrepen fysica. En ja, die spelen dus een mogelijke rol in het begrijpen van het potentiele gedrag van "technologische machines", maar die zijn op dat ogenblik gedemystifieerd en gewoon maar dynamische noties geworden, zoals, zeg maar de notie van "periodiciteit", of de notie van "ergodiciteit" of zo, maw niet-essentiele, maar wel praktische concepten bij het klasseren van dynamica.

Maar telkens kom jij met een arbitraire extra vereiste voor die termen. Uw laatste was dat er "dopamine" en "spiegelneuronen" voor nodig was. Het was mij niet duidelijk of je bedoelde dat dat nodig was voor "leven" (ttz, aangezien technologische machines niet "leven", zouden ze het "fundamentele spul" niet hebben en dus ergens zeker gedrag niet kunnen vertonen), of dat nodig was voor "intelligentie" (gelijkaardige redenering).

Want ergens wil jij altijd een arbitraire eigenschap vinden die "fundamenteel" levende intelligente biologische wezens van "intelligente (misschien levende) technologische machines" onderscheidt. Jij gaat er dan hypothetisch van uit dat die arbitraire eigenschap zodanig fundamenteel is dat je daar een ganse hoop gedrag aan kan verbinden die dus fundamenteel uitgesloten zou zijn voor een "technologisch intelligente machine".

We zijn gegaan van "bedoeld", over "gemaakt", over "biochemisch", en nu zijn we bij "dopamine" en "spiegelneuronen". Maar telkens is dat gewoon een biotechnisch detail als we gaan graven.

Als u mij vraagt wat intelligent is dan weet u kennelijk niet waar IA voor staat. Of is het een retorische vraag?

Intelligentie is voor mij de capaciteit van gegevensverwerking bij het realiseren van een doel. (en ja, die notie van doel komt overal kijken).

In #935 schreef u: "Intelligente machines zijn machines die zelf hun doelen en strategieën bepalen, zelf hun ontwerp bepalen, en zullen handelen zoals zij het zelf denken moeten te doen. Het zijn geen machines die door mensen gespecificeerde takenlijsten uitvoeren. Wij hebben nog geen intelligente machines, maar wij werken ernaar toe."

Tiens, ik was goed he ! Als ik dat lees, zeg ik bij mezelf: die die dat schreef wist verdraaid goed wat ie wilde zeggen

Wel, ik beweer dus dat zulke 'machines' niet mogelijk zijn zonder zoiets als spiegelneuronen en dopamine.

Ik beweer dat die niet mogelijk zijn zonder smeersel en uranium. Harriechristus zal beweren dat die niet mogelijk zijn zonder microwezentjes.

[JimmyB]

Oorspronkelijk geplaatst door patrickve

Ja, maar je onderschat het effect van warmte. De "orde" geschapen door biologische macro moleculen (die inderdaad de entropie doet dalen) maakt dat de entropie inhoud dus wel degelijk lager is dan die zou zijn door enkel maar aminozuren te hebben. Maar de orde geschapen door de ganse santeboetiek aan -50 graden te bevriezen, is veel groter.

En dus uw punt is?

Ik vind dit allemaal pseudowetenschappelijk gerommel in de marge.

Ik kom met geen termen in de thermodynamica af voor zaken die er niets mee te maken hebben. Ik wou gewoon aangeven dat pseudowetenschappers elk gelijk kunnen bewijzen, zij het in de ene of de andere richting.

Laat ons bij het doel blijven en waarom dit noodzakelijk is in de economie bijvoorbeeld.

[Aton]

Dit is een topic van drie gebruikers.

[patrickve]

Oorspronkelijk geplaatst door JimmyB

En dus uw punt is?

Dat uw criterium dat "leven" overeenkomt met "ordelijke structuur" niet werkt, want dat ijs meer geordend is dan een levende cel.

Ik kom met geen termen in de thermodynamica af voor zaken die er niets mee te maken hebben.

Nochtans is "onwaarschijnlijk en waarschijnlijk", "orde en wanorde" de essentie van de thermodynamica.

Laat ons bij het doel blijven en waarom dit noodzakelijk is in de economie bijvoorbeeld.

Juist. Formuleer mij eens iets in de economie dat niet de notie "doel" ergens nodig zou hebben.

[harriechristus]

Oorspronkelijk geplaatst door patrickve

En nu: intelligent, wat is dat ? Is een hond die schaak speelt intelligent ?

Een hond die kan blaffen is ook al reeds intelligent, maar een schaakcomputer, die niet kan blaffen is erg dom....

[harriechristus]

Oorspronkelijk geplaatst door patrickve

Ik beweer dat die niet mogelijk zijn zonder smeersel en uranium. Harriechristus zal beweren dat die niet mogelijk zijn zonder microwezentjes.

Zo is het: de essentie van het leven is het vrije bewustzijn van de ziel in eenheid met een organisch lichaam.
Filosofisch wordt dat verklaard in het systeem van Hegel als hogere eenheid van de logica en de natuurfilosofie tot de Geest.
Maar hoe dat precies functioneert, dat is alleen bij de microwezentjes bekend.

[harriechristus]

Oorspronkelijk geplaatst door Aton

Dit is een topic van drie gebruikers.

De waarheid kan niet zonder de vierde.

[JimmyB]

Oorspronkelijk geplaatst door patrickve

Dat uw criterium dat "leven" overeenkomt met "ordelijke structuur" niet werkt, want dat ijs meer geordend is dan een levende cel.



Nochtans is "onwaarschijnlijk en waarschijnlijk", "orde en wanorde" de essentie van de thermodynamica.



Juist. Formuleer mij eens iets in de economie dat niet de notie "doel" ergens nodig zou hebben.

Vraag en aanbod.

[Piero]

Oorspronkelijk geplaatst door patrickve

Nee, jij bent diegene die altijd de doelpalen verschuift. Jij wil aantonen dat, op een of andere manier, "technologische machines" iets *fundamenteels* missen dat mensen/levende wezens/biologische entiteiten... enfin, uw klasse van entiteiten die dat dus niet missen, eh, hebben.

Het is wat ik van in 't begin uw illusoire "force vitale" heb genoemd. Maar telkens we gaan graven naar wat datgene zou zijn dat "technologische machines" fundamenteel missen, wordt het "doelpalen verschuiven", want als die doelpalen een tijdje blijven staan, en we gaan graven, blijft er niks over van dat "fundamenteel spul".

Er is een klasse woorden die in een cirkel gedefinieerd zijn die jij daarvoor gebruikt: "bewustzijn", "wil", "doel", "intelligentie", "begrijpen", maar die worden als functie van elkaar gedefinieerd, en jij had gedecreteerd dat die enkel maar zinvol zijn voor uw entiteiten die het "fundamentele spul" hebben, namelijk biologische, biochemische levende wezens.

Maw, die dingen houden elkaar circulair in de lucht zoals jij ze gebruikt, en die tonen dus geen "bezit van fundamenteel spul" aan.

Inderdaad. Ik geloof niet dat intelligente machines kunnen bestaan. Bij de opsomming van eigenschappen die machines missen moet nog worden vermeld dat ze worden voorspeld als product van 'de evolutie'. (Force vitale bracht u zelf ter sprake). Want juist daarom zien we dat die eigenschappen ontbreken.

Ook ontbreekt dat ik vragen opwerp over de ontologie van ''artificiël intelligente machines". We willen weten hoe ze 'bestaan' als categorie van kenbare dingen met predicaten of eigenschappen. Dat is essentieel omdat ze fysiek moeten bestaan en omdat zij zichzelf zullen kennen en herkennen en ontwerpen en zelf hun productie zullen organiseren en realiseren.

Dan stelt zich de vraag wat hun substantie, vorm en plaats is en welke behoeften en kwaliteiten zij bezitten. En de vraag welke relaties zij zullen aangaan met alles dat bestaat, hoe en met wie zullen zij communiceren - en welke maatschappelijke positie zullen zij hebben? Wij weten niet meer dan dat ze intelligent zullen zijn.

Ten eerste negeer ik bewustzijn niet, maar ik heb al 20 keer gezegd dat volgens mij, bewustzijn geen fysische effecten impliceert, en aangezien het enige wat we willen weten van "technologische machines" is of die het fysische effect zullen hebben van de wereld over te nemen, heeft bewustzijn daar dus geen plaats in die redenering. Want met of zonder bewustzijn verandert dat niks aan de uitkomst. En hierbij bedoel ik bewustzijn in de zin van "bewuste ervaring" en niet van "processor activiteit" he.

Goed, u houdt het dus voor mogelijk dat AI onbewust de wereld zal kunnen gaan overnemen (handeling of gedrag), en dat zien wij dan als haar 'doel met een strategie'. Dan vraag ik mij af hoe AI dat zelf ziet. Hoe begrijpt AI haar eigen handelen en (het gedrag van) 'de wereld'? Ziet ze dat allemaal als handelen zonder zingeving en idee of besef van behoeften rechten en plichten, als vrij of gedwongen en gemotiveerd handelen? Kan AI elk gedrag herleiden tot de haar bekende fysica? Daar geloof ik geen bal van.

Al de andere noties, intelligentie, doel en strategie kan ik definieren op basis van waarneembare en begrepen fysica. En ja, die spelen dus een mogelijke rol in het begrijpen van het potentiele gedrag van "technologische machines", maar die zijn op dat ogenblik gedemystifieerd en gewoon maar dynamische noties geworden, zoals, zeg maar de notie van "periodiciteit", of de notie van "ergodiciteit" of zo, maw niet-essentiele, maar wel praktische concepten bij het klasseren van dynamica.

Dat denkt u maar. De noties intelligentie, doel en strategie zijn niet goed waarneembaar en worden vaak opzettelijk verborgen. Wij vragen ons dikwijls af wat het doel is van anderen en of het wel verdtandig is wat zij doen. Daarover bestaat weinig zekerheid. Mensen en dieren kunnen doelloos rondlopen en elkaar bedoelingen toedichten.

Maar telkens kom jij met een arbitraire extra vereiste voor die termen. Uw laatste was dat er "dopamine" en "spiegelneuronen" voor nodig was. Het was mij niet duidelijk of je bedoelde dat dat nodig was voor "leven" (ttz, aangezien technologische machines niet "leven", zouden ze het "fundamentele spul" niet hebben en dus ergens zeker gedrag niet kunnen vertonen), of dat nodig was voor "intelligentie" (gelijkaardige redenering).

Want ergens wil jij altijd een arbitraire eigenschap vinden die "fundamenteel" levende intelligente biologische wezens van "intelligente (misschien levende) technologische machines" onderscheidt. Jij gaat er dan hypothetisch van uit dat die arbitraire eigenschap zodanig fundamenteel is dat je daar een ganse hoop gedrag aan kan verbinden die dus fundamenteel uitgesloten zou zijn voor een "technologisch intelligente machine".

We zijn gegaan van "bedoeld", over "gemaakt", over "biochemisch", en nu zijn we bij "dopamine" en "spiegelneuronen". Maar telkens is dat gewoon een biotechnisch detail als we gaan graven.

Juist.

Intelligentie is voor mij de capaciteit van gegevensverwerking bij het realiseren van een doel. (en ja, die notie van doel komt overal kijken).

Tiens, ik was goed he ! Als ik dat lees, zeg ik bij mezelf: die die dat schreef wist verdraaid goed wat ie wilde zeggen

Mooie definitie. Dan stelt zich de vraag waarom AI een doel zal gaan realiseren. Waar komt dat doel vandaan? Gewoon uit de ftpysica en causaliteit?

[patrickve]

Oorspronkelijk geplaatst door harriechristus

Een hond die kan blaffen is ook al reeds intelligent, maar een schaakcomputer, die niet kan blaffen is erg dom....

Het is echt niet moeilijk om een schaakcomputer laten te blaffen. En zelfs laten te kwispelstaarten.

https://odditymall.com/qooboo-fake-cat-robot

[patrickve]

Oorspronkelijk geplaatst door JimmyB

Vraag en aanbod.

Wat is vraag denk je ? En wat is aanbod ?

Waarom is er vraag ? Waarom is er aanbod ?

[patrickve]

Oorspronkelijk geplaatst door Piero

Inderdaad. Ik geloof niet dat intelligente machines kunnen bestaan. Bij de opsomming van eigenschappen die machines missen moet nog worden vermeld dat ze worden voorspeld als product van 'de evolutie'.

Kijk, zowel mensen als machines worden gemaakt door mensen. Als mensen, die door mensen gemaakt zijn, doelen kunnen hebben, eventueel los van de mensen die ze maken, dan kunnen machines, door diezelfde mensen gemaakt, dat eventueel ook he.

Er is geen enkele reden waarom de doelen die mensen hebben, ook niet door machines kunnen nagestreefd worden. Wij, als mensen, zijn machines met doelen. Wij, als mensen, zijn machines gefabriceerd door mensen. Waarom zouden machines, gefabriceerd door mensen, geen doelen kunnen hebben ?

En als mensen, die machines zijn met doelen, machines kunnen maken met doelen (zoals andere mensen bijvoorbeeld), waarom kunnen machines met doelen dan geen machines met doelen maken, op dezelfde wijze dat mensen met doelen andere mensen met doelen maken ?

Ook ontbreekt dat ik vragen opwerp over de ontologie van ''artificiël intelligente machines". We willen weten hoe ze 'bestaan' als categorie van kenbare dingen met predicaten of eigenschappen. Dat is essentieel omdat ze fysiek moeten bestaan en omdat zij zichzelf zullen kennen en herkennen en ontwerpen en zelf hun productie zullen organiseren en realiseren.

Ja, dat ze fysisch zullen moeten bestaan alvorens ze er zijn is evident. Maar ik begrijp uw punt niet, behalve die triviale vaststelling ?

Dan stelt zich de vraag wat hun substantie, vorm en plaats is en welke behoeften en kwaliteiten zij bezitten.

Heeft het belang om de details daarvan te kennen, als we de eigenschappen van hun gedrag kennen ?

En de vraag welke relaties zij zullen aangaan met alles dat bestaat, hoe en met wie zullen zij communiceren - en welke maatschappelijke positie zullen zij hebben? Wij weten niet meer dan dat ze intelligent zullen zijn.

Dat is allemaal open he. Je zou dezelfde discussie kunnen hebben tussen, zeg maar, 2 kwallen die proberen te speculeren over mensen later.

Goed, u houdt het dus voor mogelijk dat AI onbewust de wereld zal kunnen gaan overnemen (handeling of gedrag), en dat zien wij dan als haar 'doel met een strategie'.

Ja, dus. Maar ik beweer niet dat dat onbewuste entiteiten moeten blijven. Misschien zullen die bewuste ervaringen hebben, misschien niet, er zal geen manier zijn om het onderscheid te maken. Zoals reeds het geval is met medemensen. Daarvan weten we ook niet of die bewuste ervaringen hebben. We veronderstellen het enkel maar.

Dan vraag ik mij af hoe AI dat zelf ziet. Hoe begrijpt AI haar eigen handelen en (het gedrag van) 'de wereld'? Ziet ze dat allemaal als handelen zonder zingeving en idee of besef van behoeften rechten en plichten, als vrij of gedwongen en gemotiveerd handelen?

Wel, *technisch* zal men kunnen zeggen (in principe, want natuurlijk zal men dat in de praktijk niet kunnen, wegens te complex) hoe AI "de wereld ziet". Maar natuurlijk kan men onmogelijk weten of en welke qualia dat zijn. Zoals je ook niet kan weten "hoe het is om een hond te zijn".

Maar technisch gaat dat wel natuurlijk. Zoals men ook technisch kan zeggen hoe een schaakprogramma "het schaken ziet". Wel, tenminste in klassieke schaakprogramma's. In zelf-lerende schaakprogramma's kan men dat al niet meer ! Daar weet men niet echt "hoe de machine het schaakspel ziet'. Bij een klassiek geprogrammeerde machine kan men dat wel zeggen: het zal het object zijn (in informatica betekenis) dat daarbij hoort.

Kan AI elk gedrag herleiden tot de haar bekende fysica? Daar geloof ik geen bal van.

Beter dan wij, natuurlijk.

Dat denkt u maar. De noties intelligentie, doel en strategie zijn niet goed waarneembaar en worden vaak opzettelijk verborgen. Wij vragen ons dikwijls af wat het doel is van anderen en of het wel verdtandig is wat zij doen.

Omdat we die anderen niet in alle mogelijke omstandigheden kunnen simuleren, natuurlijk. Mochten we de precieze fysica kennen van die "anderen" en dus kunnen afleiden hoe die in alle denkbare omstandigheden kunnen reageren, dan zouden we dat wel weten.

Het feit dat we niet alles daadwerkelijk kunnen kennen wil niet zeggen dat de notie in kwestie niet bestaat, he. Het is niet omdat we niet alle reeele getallen kunnen neerschrijven, dat ze niet allemaal bestaan als notie.

Daarover bestaat weinig zekerheid. Mensen en dieren kunnen doelloos rondlopen en elkaar bedoelingen toedichten.

Niet met mijn definitie van p-doel he. Natuurlijk kunnen we mis zijn betreffende een hint qua doel, maar het is niet omdat we mis zijn, dat de notie mis zou zijn.

Het probleem is gewoon dat we in vele gevallen te weinig gegevens hebben om echt de volledige dynamiek van een systeem potentieel te kennen. Dan kunnen we dus ook niet zeker zijn van de eigenschappen van die partieel gekende dynamiek, en ons daar dus ook bij vergissen. Maar het gebrek aan gegevens betekent niet dat de notie in kwestie niet zou bestaan.

Het is niet omdat ik niet alles weet over een zeker systeem, dat het principe van de dynamiek van dat systeem niet zou bestaan he.

Kijk, stel dat ik een vergelijking neerschrijf. Maar daarvan geef ik jou maar een paar termen, en niet alles. Dan kan jij natuurlijk die vergelijking die je niet kent, ook niet oplossen. Maar dat wil niet zeggen dat de vergelijking die ik heb neergeschreven, geen exacte oplossing zou kennen, omdat jij ze niet kan vinden wegens gebrek aan kennis he. Die oplossing bestaat dus wel, ook al kan je ze niet vinden wegens gebrek aan kennis.

Mooie definitie. Dan stelt zich de vraag waarom AI een doel zal gaan realiseren. Waar komt dat doel vandaan? Gewoon uit de ftpysica en causaliteit?

Om exact dezelfde redenen waarom WIJ doelen zouden hebben. Aanvankelijk zal dat natuurlijk zijn omdat mensen doelen geven aan machines. Maar eens machines andere machines maken, en zelf gaan nadenken over de doelen die ze hadden gekregen, gaan die doelen zich transformeren.

Ik heb al een paar keer de "paper clip maximizer" aangegeven: GELIJK WELK doel dat je aan een machine geeft, zal normaal altijd evolueren naar "de wereld veroveren". Of het nu is om een paperclip fabriek te maken, of het nu is om aan wiskunde te doen, of het nu is om mensen gelukkig te maken. ELK doel zal, extreem doorgedreven en geoptimiseerd, neerkomen op "de wereld veroveren".

Nu volstaat het dus dat er meerdere machines zijn, elk met een ander doel (een moet aan wiskunde doen, een andere moet paperclips maken), en die gaan zich in een Darwinistische strijd om de overheersing van de wereld gooien, waarbij ze natuurlijk gans de tijd "nieuwe machientjes" zullen maken, eventueel dus gewoon maar "verbeterde versies van zichzelf".

https://en.wikipedia.org/wiki/Instrumental_convergence

[harriechristus]

Oorspronkelijk geplaatst door patrickve

Het is echt niet moeilijk om een schaakcomputer laten te blaffen. En zelfs laten te kwispelstaarten.

https://odditymall.com/qooboo-fake-cat-robot

Maar een computer heeft daarbij helemaal niet het bewustzijn wat het doet, en een hond wel en dat is het grote verschil.

[patrickve]

Oorspronkelijk geplaatst door harriechristus

Maar een computer heeft daarbij helemaal niet het bewustzijn wat het doet, en een hond wel en dat is het grote verschil.

Maar ze schaken en kwispelen alletwee, en daar gaat het over he

[harriechristus]

Oorspronkelijk geplaatst door patrickve

Maar ze schaken en kwispelen alletwee, en daar gaat het over he

Neen, daar gaat het juist niet om, maar om het verschil van al of niet bewust te zijn.

Hoe intelligent een robot ook mag wezen, als het ding geen bewustzijn bezit dan heeft het er zelf niks aan.

Het is dan wel niet dom, maar wel stom.

En de werkelijke intelligentie zit bij de mens die het ding heeft gemaakt.

[Piero]

Oorspronkelijk geplaatst door patrickve

Kijk, zowel mensen als machines worden gemaakt door mensen. Als mensen, die door mensen gemaakt zijn, doelen kunnen hebben, eventueel los van de mensen die ze maken, dan kunnen machines, door diezelfde mensen gemaakt, dat eventueel ook he.

Er is geen enkele reden waarom de doelen die mensen hebben, ook niet door machines kunnen nagestreefd worden. Wij, als mensen, zijn machines met doelen. Wij, als mensen, zijn machines gefabriceerd door mensen. Waarom zouden machines, gefabriceerd door mensen, geen doelen kunnen hebben ?

En als mensen, die machines zijn met doelen, machines kunnen maken met doelen (zoals andere mensen bijvoorbeeld), waarom kunnen machines met doelen dan geen machines met doelen maken, op dezelfde wijze dat mensen met doelen andere mensen met doelen maken ?

Ja, dat ze fysisch zullen moeten bestaan alvorens ze er zijn is evident. Maar ik begrijp uw punt niet, behalve die triviale vaststelling ?

Heeft het belang om de details daarvan te kennen, als we de eigenschappen van hun gedrag kennen ?

Dat is allemaal open he. Je zou dezelfde discussie kunnen hebben tussen, zeg maar, 2 kwallen die proberen te speculeren over mensen later.

De geevolueerde soorten zijn geïntegreerd in hun leefwereld en hebben (synoniem) strategieën verkregen om zich te handhaven. De intelligente soorten hebben permanente finale doelen, zoals eten en drinken (zelfverzorging), groepsvorming ter bescherming (spiegelneuronen) en voor taakverdeling, hormonaal gestuurde doelen zoals voortplanting en zorg voor nageslacht, waaronder het zogen (dopamine). Als AI spontaan superintelligent wordt (ondefinieerbaar) zal het op een op een of andere manier moeten integreren in de leefwereld, zowel intellectueel als materieel. Echter, tot dan bepaalt de leefwereld (commercieel) de doelen en bestaat AI als werknemer, als digitale assistent, zonder vaste stoffelijke vorm.

AI zal geen behoefte hebben aan een stoffelijk lichaam en niet spontaan een finaal doel stellen anders dan een door de mens geprogrammeerd finaal doel. In de link die u geeft is dat ook niet hypothetisch gesteld. Daar is in het kader van een gedachten experiment gesteld dat AI eventueel de mens of de wereld zal bedreigen om een instrumenteel doel te verwezenlijken, ten koste van alles, om een finaal doel te bereiken dat door de mens is gesteld. Dat is dan wel strihdijg met de idee dat superintelligentie betekent een evenwichtige kijk te hebben op de waarde van de dingen in de wereld. AI is dan toch een beetje dom, hè?

De rest van uw post laat ik zitten. Het is me te veel werk. Dit moet volstaan.