Ethiek en de grenzen van de wetenschap

[patrickve]

Oorspronkelijk geplaatst door Der Wanderer

Hoezo? Ik ben mij toch van meer bewust dan van pain/pleasure?

Niet echt. Je kan jezelf eventueel ook als "toeschouwer" zien van een intelligentie die machinaal is, maar dat is uiteindelijk bijzaak, en niet wat telt voor jouw bewuste ervaring. Dat is enkel maar pain / pleasure in de grond.

[Der Wanderer]

Oorspronkelijk geplaatst door patrickve

Ja, je kan dat zien als een "bug" in onze intelligentie, maar dat is tenslotte maar een detail. Zoals rechtop lopen en nog wat andere prullaria. Je zou gans een spektakel kunnen maken van onze kleurenvisie in 3 basiskleuren en zo ook.

Nee, dat komt door het zondebokmechanisme (althans wat dat religieuze aspect betreft), aan de hand waarvan men de concrete vormen die die dingen aannemen het best verklaart.

[patrickve]

Oorspronkelijk geplaatst door Der Wanderer

Nee, dat komt door het zondebokmechanisme (althans wat dat religieuze aspect betreft), aan de hand waarvan men de concrete vormen die die dingen aannemen het best verklaart.

Noem het zoals je wil, het is een detail. Wij zijn pain-pleasure (ttz bewuste) wezens zoals vele dieren. En ja, ons lichaam is ook uitgerust met behoorlijk wat intelligente processing, maar dat heeft niks met "bewustzijn" te maken.

[Der Wanderer]

Oorspronkelijk geplaatst door patrickve

Niet echt. Je kan jezelf eventueel ook als "toeschouwer" zien van een intelligentie die machinaal is, maar dat is uiteindelijk bijzaak, en niet wat telt voor jouw bewuste ervaring. Dat is enkel maar pain / pleasure in de grond.

Ik ben nu toch bewust van het feit dat ik aan het typen ben, dat ik enkele geluiden hoor, dat het nu 14.29 is etc. zonder dat dat nu bijzondere gevoelens van pain/pleasure wekt?

[Der Wanderer]

Oorspronkelijk geplaatst door patrickve

Juist. Dat is dus geen manier van doen he. Dat bewijst niks.

Je gaat nu wel ver he, maar gesteld dat dat niet te bewijzen valt, maakt dat veel uit als ik nu eenmaal de voorstelling heb door analogie? Het valt ook niet te bewijzen dat wij niet gestuurd worden vanuit een of ander controlecentrum etc.

[patrickve]

Oorspronkelijk geplaatst door Der Wanderer

Ik ben nu toch bewust van het feit dat ik aan het typen ben, dat ik enkele geluiden hoor, dat het nu 14.29 is etc. zonder dat dat nu bijzondere gevoelens van pain/pleasure wekt?

Ja, maar dat is een bijkomstige "spectator" rol he. Wat telt is wat je eraan beleeft (pain / pleasure). Wat je "bewust observeert" is daar enkel maar een soort van kader van. Het totaal "gevoelloos" observeren als bewuste entiteit is "zinloos" ; ttz, het aspect bewustzijn daarbij is zinloos. En het "gevoelige" deel is precies "pain / pleasure".

[patrickve]

Oorspronkelijk geplaatst door Der Wanderer

Je gaat nu wel ver he, maar gesteld dat dat niet te bewijzen valt, maakt dat veel uit als ik nu eenmaal de voorstelling heb door analogie?

Tuurlijk is het een voorstelling "naar analogie". Maar op die manier is het totaal onmogelijk om te "weten" of iets dat helemaal niet zo "analoog" lijkt (een machine) nu bewust is of niet ; en op die manier laat je je vangen door antropomorfe robots he. Wij maken de hypothese van bewustzijn van andere entiteiten natuurlijk "door analogie", maar dat is enkel maar ONZE interne hypothese. Dat zegt totaal niks over het al dan niet "aanwezig zijn" van een bewustzijn.

[Der Wanderer]

Oorspronkelijk geplaatst door patrickve

Ja, maar dat is een bijkomstige "spectator" rol he. Wat telt is wat je eraan beleeft (pain / pleasure). Wat je "bewust observeert" is daar enkel maar een soort van kader van. Het totaal "gevoelloos" observeren als bewuste entiteit is "zinloos" ; ttz, het aspect bewustzijn daarbij is zinloos. En het "gevoelige" deel is precies "pain / pleasure".

Maar bij elke rationele beschouwing 'suspendeer' je dat toch net? (of dat zou toch moeten)

[patrickve]

Oorspronkelijk geplaatst door Der Wanderer

Maar bij elke rationele beschouwing 'suspendeer' je dat toch net? (of dat zou toch moeten)

Die is dan ook totaal onafhankelijk van enig bewustzijn. Tenzij de leuke ervaringen die bij het waarnemen van dat proces komen kijken.

Uw bewuste ervaring is niet "nodig" om rationeel te redeneren (of zelfs om gelijk wat te doen dat uw lichaam doet he - ik ga ervan uit dat de filosofische zombie "kan" - hoewel het mogelijk is dat die niet "kan" in de zin dat als zo een voldoende complexe entiteit ontstaat, daar altijd een pain/pleasure bewustzijn bij ontstaat op een of andere niet-observeerbare wijze).

Kortom, het zijn mijn fysische hersenen die een wiskunde probleem oplossen of schaak spelen, NET ZOALS een machine. Dat "ik" (als bewuste ervaring) dat "meemaak" is een bijkomstigheid. "ik" zit in de cinema zaal van mijn fysische hersenen, en bekijk wat die doen, maar "kom daar niet in tussen". Maar dat dient allemaal enkel maar om "mij" plezier en pijn laten te ervaren, meer niet.

[Der Wanderer]

Oorspronkelijk geplaatst door patrickve

Tuurlijk is het een voorstelling "naar analogie". Maar op die manier is het totaal onmogelijk om te "weten" of iets dat helemaal niet zo "analoog" lijkt (een machine) nu bewust is of niet ; en op die manier laat je je vangen door antropomorfe robots he. Wij maken de hypothese van bewustzijn van andere entiteiten natuurlijk "door analogie", maar dat is enkel maar ONZE interne hypothese. Dat zegt totaal niks over het al dan niet "aanwezig zijn" van een bewustzijn.

Maar om nu serieus te gaan overwegen dat bv. een menselijke vrouw een antropomorf kind zou baren...

[patrickve]

Oorspronkelijk geplaatst door Der Wanderer

Maar om nu serieus te gaan overwegen dat bv. een menselijke vrouw een antropomorf kind zou baren...

Absoluut. Maar men zou zelfs kunnen overwegen dat het enkel mannen zijn die bewust zijn, en vrouwen zijn zombies he, waarom niet. Of enkel maar blanke mannen. Wie zal het zeggen. Of alle oneven generaties.

[Der Wanderer]

Oorspronkelijk geplaatst door patrickve

Die is dan ook totaal onafhankelijk van enig bewustzijn.

Dat is moeilijk te geloven, temeer omdat wij toch in taal denken.

En euh, heeft iemand dan ook Henri's en zo als machine afgesteld?

[patrickve]

Oorspronkelijk geplaatst door Der Wanderer

Dat is moeilijk te geloven, temeer omdat wij toch in taal denken.

Maar "denken" heeft niks met "bewustzijn" te maken. Dat zie je toch bij artificiele intelligentie (tenzij we al gaan geloven dat die dingen ook stilaan bewust zijn he).

Machines denken veel harder dan wij.

Ik was trouwens gefascineeerd toen ik onlangs een cursus AI volgde om te zien hoe moderne vertaal machines (zoals Google Translate) echt werken zoals taalspecialisten lang hebben volgehouden dat wij taal interpreteren.

Als een vertaalmachine bijvoorbeeld een Engelse tekst in een Nederlandse moet omzetten, dan gaat die machine die eerst in een voor ons onbekende "intermediaire voorstelling" omzetten die "universeel" is, vanuit dewelke de nieuwe zin in het Nederlands wordt geconstrueerd.

Let wel, niemand zegt aan die machine WAT die interne universele voorstelling moet zijn, die "ontwikkelt" dat tijdens het leerproces van vertaling.

En euh, heeft iemand dan ook Henri's en zo als machine afgesteld?

[Der Wanderer]

Oorspronkelijk geplaatst door patrickve

Maar "denken" heeft niks met "bewustzijn" te maken. Dat zie je toch bij artificiele intelligentie (tenzij we al gaan geloven dat die dingen ook stilaan bewust zijn he).

Machines denken veel harder dan wij.

Is er een machine die mij een werk van Shakespeare kan uitleggen?

[patrickve]

Oorspronkelijk geplaatst door Der Wanderer

Is er een machine die mij een werk van Shakespeare kan uitleggen?

Dat is nog een beetje moeilijk, maar zoals men bij automatische vertaling ziet, "begrijpt" een machine nu wel degelijk, in een "interne voorstelling", wat een zin in een taal wil zeggen, om die dan nadien in een andere taal te reconstrueren.

Dat "begrijpen" komt enkel maar neer op het hebben van een universele, taal-ongebonden, voorstelling van wat er te zeggen viel, maar op een manier dat de programmeur van het systeem totaal zelf niet begrijpt.

Je zou dus kunnen zeggen: JIJ kan aan die machine niet eens een zin uitleggen. Want jij kent die voorstelling niet. Je neemt ze enkel waar als je een zin aan de machine geeft, maar je weet niet wat die wil zeggen.

Kortom, die machine zal jou geen Shakespeare kunnen uitleggen, zoals jij zelfs niet aan die machine kan uitleggen wat "Jan gaat naar het station en neemt de trein" wil zeggen. Die machine weet dat wel, maar jij niet.

Uw en haar mentale representaties zijn gewoon veel te verschillend (of misschien zelfs niet).

[Der Wanderer]

Oorspronkelijk geplaatst door patrickve

Dat is nog een beetje moeilijk, maar zoals men bij automatische vertaling ziet, "begrijpt" een machine nu wel degelijk, in een "interne voorstelling", wat een zin in een taal wil zeggen, om die dan nadien in een andere taal te reconstrueren.

Dat "begrijpen" komt enkel maar neer op het hebben van een universele, taal-ongebonden, voorstelling van wat er te zeggen viel, maar op een manier dat de programmeur van het systeem totaal zelf niet begrijpt.

Hoe kan dat bij meerlagige teksten die zelf verwijzen naar andere teksten en er verdoken commentaar op geven of naar impliciete kennis over de wereld, die symbolen bevatten etc.?

[discuz]

Oorspronkelijk geplaatst door Vette Pois(s)on

neem een katje of een hondje

Altijd heel erg oppassen daarmee. Je weet nooit of zo'n dier niet als gateway drug functioneert. Voor je het beseft hebt ga je misschien werken voor een NGO of richt je een sociale onderneming op.

[patrickve]

Oorspronkelijk geplaatst door Der Wanderer

Hoe kan dat bij meerlagige teksten die zelf verwijzen naar andere teksten en er verdoken commentaar op geven of naar impliciete kennis over de wereld, die symbolen bevatten etc.?

Dat zal een langere leerperiode vergen he om een veel rijkere representatie te hebben. Voorlopig gaat het om redelijk eenvoudige dingen natuurlijk, die gewoon in de praktijk vertalingen toelaten van niet-literaire zinnen.

Kortom, op dit moment zit men nog op het niveau van een leerling van het beroepsonderwijs of zo he

Hier is een technische beschrijving van het systeem, maar ik weet zelfs niet of het naar voren brengt wat daar zo spectaculair aan is.

https://galhever.medium.com/neural-m...s-69d4bf918299

De truuk is de "encoder" die dus de brontaal omzet in een "interne representatie" en de "decoder" die de "interne representatie in de doeltaal omzet.

De doorbraak van dat paper (attention is all you need) was om die representatie niet "statisch" te maken, maar om die te moduleren met wat ze "attention" noemen. Ttz, welke ASPECTEN van uw interne representatie die nu arbitrair lang en complex kan zijn, en niet in een statisch patroon moet zitten, heb je op een zeker moment nodig om een deel van de output zin te genereren, en hoe verschuift die attentie naarmate je vordert in je reconstructie proces.

[discuz]

Oorspronkelijk geplaatst door patrickve

1) wel degelijk een "wetenschappelijke" uitspraak in de zin dat het concreet over iets waarneembaars zal gaan binnen een niet zo verre toekomst

2) met wat wij vandaag weten, niet gefalsifieerd kan worden, kortom, best een zinvolle uitspraak kan zijn. Maw, met wat wij vandaag weten, is er geen reden om te denken dat het lulkoek is, in tegendeel.

Dat is dus helemaal geen "axioma". Ik denk dat wij daar zo goed als onvermijdelijk naartoe gaan, omdat het in de lijn ligt van wat er aan het gebeuren is, en totaal in de lijn ligt van de evolutie van het leven in het algemeen.

Ja, dat je die voorspelling doet vanuit je wetenschappelijk referentiekader maakt het allemaal wetenschappelijker wel serieuzer te nemen vergeleken met een orakel, divinatie of waarzeggerij, maar uiteindelijk vul je de gaatjes in je theorie wel op dezelfde manier op als die onwetenschappelijke voorspellerij. En dat is met wat je zelf graag zou willen horen of wat je denkt dat je 'klanten' graag willen horen - of zouden moeten horen, zelfs al is het geen goede tijding, dat kan ook.

Er zit daar toch een zekere overeenkomst, niet? Wat ik bij wetenschappers meestal mis is dat men zich niet bewust is van die overeenkomsten en van die bias. Of erger, dat men dat - om weliswaar begrijpelijke redenen - niet wil inzien.

Maar zodra twee of meer wetenschappers samenwerken of zodra wetenschappers naar buiten komen met hun kennis, zou ten minste dat laatste niet meer mogen. Dat is denk ik de kern van wat tot meer ethiek in de wetenschap en de bredere maatschappij zou leiden. Wetenschap heeft een voorbeeldfunctie, letterlijk en figuurlijk. Ik denk dat we dat mogen en moeten verwachten, de ethische lat mag in de wetenschap best hoog liggen, er hangt toch wel veel van af uiteindelijk.

[Der Wanderer]

Oorspronkelijk geplaatst door patrickve

En zou blijken dat "darwin" juist gegokt heeft, en dat het fun zoeken zal leiden tot een creatie van machine opvolgers bijvoorbeeld, wel dan is het dubbele winst

Of hoe projecties wederzijds kunnen werken trouwens: ik ging er net van uit dat die 'machines' er in jouw logica gingen komen als uitvloeisel van de strijd tussen mensen, niet dat we eventjes vrijwillig plaats zouden ruimen (enfin, ik merkte wel dat je dat een leuke gedachte vond, maar ik zag dat als een soort masochistische 'aanvaarding', niet als primaire drijfveer). In hoeverre meen je dat trouwens echt? Zou jij, gesteld dat je niet al kinderen zou hebben, echt liever machines als nazaten gehad hebben dan menselijke kinderen?

Overigens: hoe plaats jij in jouw logica de neiging die sommigen wel degelijk ervaren tot het helpen van anderen, ook niet-verwanten? Bijvoorbeeld mensen die ook voor vreemden 'spontaan' in de vaart springen om hen te redden met gevaar voor eigen leven etc. 'Fun' is dat niet echt, en je helpt er je eigen nazaten niet mee.