Politics.be Registreren kan je hier.
Problemen met registreren of reageren op de berichten?
Een verloren wachtwoord?
Gelieve een mail te zenden naar [email protected] met vermelding van je gebruikersnaam.

Ga terug   Politics.be > Themafora > Wetenschap & Technologie
Registreer FAQForumreglement Ledenlijst Markeer forums als gelezen

Wetenschap & Technologie Van grondstoffen tot afgewerkt product, oude en nieuwe ontdekkingen, ... + de relatie tot de mens, macht, ...

Antwoord
 
Discussietools
Oud 24 mei 2018, 14:56   #41
TV-verslaafde
Perm. Vertegenwoordiger VN
 
TV-verslaafde's schermafbeelding
 
Geregistreerd: 15 maart 2014
Berichten: 16.947
Standaard

Citaat:
Oorspronkelijk geplaatst door patrickve Bekijk bericht
Voor mij staat het als een paal boven water vast dat wij een transitie soort zijn en dat we in de komende eeuw of de komende twee eeuwen uitgeschakeld en vervangen zullen worden door een nieuwe vorm van leven ; die nieuwe vorm van leven is "silicon-based" en voor de eerste keer sinds 3 miljard jaar is de rest van de biosfeer overbodig geworden voor het leven.

Maw, wij staan voor de "carbon-silicon" transitie. Ik denk dat het nog minstens 30 jaar duurt, maar ten hoogste iets van 100 jaar of zo, voor we een intelligente machine hebben die op alle vlakken intelligenter is dan een mens: vanaf dan kan die machine andere machines maken die nog intelligenter zijn, zonder mensenhulp.

Gelijk welke doelstelling die machines aanvankelijk hebben, ze zullen hun doelstellingen beter bereiken door de mens uit te faseren, en zeker de mens de controle te ontnemen. Of dat doel nu is van pi beter te berekenen, een stelling te bewijzen, of de mens gelukkiger te maken: dat werkt ALLEMAAL beter door eerst heerschappij over de aarde te bekomen, omdat dat middelen ter beschikking stelt die nodig zijn voor het optimaal oplossen van het gestelde probleem. Aangezien mensen altijd ongelukkig zullen zijn, behalve als ze dood zijn, dan is zelfs het doel: "mensen gelukkig maken" best opgelost door ze aan hun einde te helpen.
De mens zal zo een machine niet onder controle KUNNEN houden, gewoon omdat hij niet zal begrijpen wat ze doen. Een roedel wolven kan mensen ook niet als slaaf en dienaar gebruiken zonder op een dag te merken dat ze aan de leiband lopen - en als ze dat niet leuk vinden, afgemaakt te worden.

Machines die hun eigen superieure intelligentie ontwikkelen, zullen plannen kunnen maken die wij in de verste verte niet kunnen doorgronden: zij zullen onze psychologie beter analyseren dan wij zelf denken te kunnen. Google en FB zijn piep,piepkleine voorsmaakjes. Fake news dat goed werkt door machines (bots) kan mensenmassa's alles wijsmaken. Politici kunnen omgekocht worden via cryptomunten en crypto killer contracten. Het is eigenlijk bijzonder gemakkelijk om de totale mensheid, die al gewoon is onderworpen te zijn aan absurde staten, totaal aan ongekende machines te onderwerpen. Wij gaan naar hun pijpen dansen zonder het te beseffen, zoals ge schapen in hun omheining leidt zonder dat ze het door hebben.

En daar is niks aan te doen. Volgens mij is het een absolute onvermijdbaarheid. Het leven gaat verder, maar de mensheid, en zelfs hoogstwaarschijnlijk het biologische leven op aarde (op lagere vormen na) zal binnenkort ophouden. Dit is waarschijnlijk de grootste sprong die het leven zal maken sinds zijn ontstaan, 3 miljard jaar geleden.

Eens de aarde de bakermat geworden is van silicium leven (dat waarschijnlijk ook zijn oorlogen zal uitvechten en dergelijke), zullen de winnaars eindelijk de rest van het zonnestelsel, en een groot deel van de melkweg kunnen koloniseren. Misschien zal hier en daar een machine nog iets weten over hun ontstaansgeschiedenis en die rare wezens die op koolstof leefden en "mensen" waren.
Leuke vooruitzichten, man. (sarcastisch)

Wat je hier ook wel tussen de lijnen zegt is dat de meest intelligente soort altijd zal winnen. Wat ik mijn dan afvraag is of een AI superieur gaat zijn aan menselijke intelligentie? Het blijft een programma zonder vrije wil. Als je nu zegt dat dat AI ding nieuwe codes kan schrijven en zichzelf herprogrammeren dus dingen kan leren enkel en alleen dan is het superieur.

En dan heb je nog zaken als overleving. Misschien heeft die AI geen levenslust of overlevingsdrang; dan is het gewoon een soort van "lemming".

Wat ik wel zie gebeuren is dat wij mensen halve cyborgs worden. Allerlei hulpmiddelen om een nog comfortabeler leventje te garanderen. De mens gaat super; maar dan ook super lui worden...
TV-verslaafde is offline   Met citaat antwoorden
Oud 24 mei 2018, 14:57   #42
patrickve
Secretaris-Generaal VN
 
patrickve's schermafbeelding
 
Geregistreerd: 24 februari 2009
Locatie: Grenoble, Frankrijk
Berichten: 111.430
Standaard

Citaat:
Oorspronkelijk geplaatst door Nr.10 Bekijk bericht
Asimov formuleerde drie wetten.
Eerste Wet
Een robot mag een mens geen letsel toebrengen of door niet te handelen toestaan dat een mens letsel oploopt.

Tweede Wet
Een robot moet de bevelen uitvoeren die hem door mensen gegeven worden, behalve als die opdrachten in strijd zijn met de Eerste Wet.

Derde Wet
Een robot moet zijn eigen bestaan beschermen, voor zover die bescherming niet in strijd is met de Eerste of Tweede Wet.
Asimov baseerde de wetten
op de basisprincipes van gereedschap,
redenerend dat een robot
feitelijk ook een soort gereedschap is.
BRON
1/ Gereedschap moet veilig zijn. Hamers en schroevendraaiers hebben bijvoorbeeld handvatten die de grip verbeteren. Als iemand toch gewond raakt dan zou dit in principe niet het gevolg moeten zijn van onveiligheid van het gereedschap maar van onjuist gebruik.

2/ Gereedschap moet zo efficiënt mogelijk zijn, tenzij dit gevaar oplevert voor de gebruiker. Een voorbeeld is een voertuig met een snelheidsbegrenzer.

3/ Gereedschap mag niet zomaar kapot gaan, tenzij het de bedoeling is dat het maar een beperkt aantal keren meegaat of dit ter waarborg voor de veiligheid van de gebruiker is.
Jaja, en dan gaat er een AI zich de vraag stellen over de verenigbaarheid van die dwaze wetten (door wie trouwens opgelegd ?? Waarom zouden die recht van spreken hebben ? Zij zijn te dom om zelfs een schaakpartijtje te winnen en die zouden weten wat er moet gebeuren ?) en zijn doelstellingen, en beseffen dat hij beter zijn doelen kan bereiken door die wetten de middenvinger te geven.

Wij luisteren ook niet naar wetten die honden ons willen opleggen he. Want wij weten beter.
patrickve is offline   Met citaat antwoorden
Oud 24 mei 2018, 15:26   #43
Jantje
Secretaris-Generaal VN
 
Geregistreerd: 11 augustus 2006
Berichten: 38.482
Standaard

Citaat:
Oorspronkelijk geplaatst door patrickve Bekijk bericht
Ge gaat het niet door hebben.
Dat niet alleen, hij/zij gaat er vanuit dat er een externe energiebron is.
Het is echter mogelijk om met een interne energiedrager en opgebouwde energieopwekker te werken.
Daarnaats zit je met radiogestuurde communicatie tussen de verschillende AI denkpunten.
Dus welke stekker moet men uittrekken?
Jantje is offline   Met citaat antwoorden
Oud 24 mei 2018, 15:29   #44
patrickve
Secretaris-Generaal VN
 
patrickve's schermafbeelding
 
Geregistreerd: 24 februari 2009
Locatie: Grenoble, Frankrijk
Berichten: 111.430
Standaard

Citaat:
Oorspronkelijk geplaatst door TV-verslaafde Bekijk bericht
Wat je hier ook wel tussen de lijnen zegt is dat de meest intelligente soort altijd zal winnen. Wat ik mijn dan afvraag is of een AI superieur gaat zijn aan menselijke intelligentie? Het blijft een programma zonder vrije wil. Als je nu zegt dat dat AI ding nieuwe codes kan schrijven en zichzelf herprogrammeren dus dingen kan leren enkel en alleen dan is het superieur.
Dat laatste is precies ongeveer de definitie van een AI, he. Je moet de menselijke intelligentie niet overschatten. Onze hersenen zijn tenslotte ook maar een machine. Een van vlees, maar het blijft een fysische machine. En als je kijkt hoe ze gebouwd is, dan is dat "bijzonder klungelig". De hele ingewikkelde scheikunde die aan de dag gelegd wordt in een neuron om gewoon maar een elektrisch signaal te sturen naar een ander neuron is om van achterover te vallen. Dat komt omdat cellen niet "uitgevonden zijn" om als schakelaars te werken. Om die "om te bouwen tot schakelaars" was heel wat kunst en vliegwerk nodig. Dat is zo gebeurd, omdat er geen ingenieur zat na te denken om hersenen te bouwen met cellen, maar dat het "vanzelf" moest evolueren vanuit bestaande dinges.
Er is totaal geen reden om aan te nemen dat die omslachtige manier om data te verwerken in onze hersenen onmogelijk op een betere en efficientere manier in specifiek hiertoe ontworpen machines kan gedaan worden. Maw, als het in een omslachtige bio machine kan gedaan worden, kan het *uiteraard* in principe beter in een specifiek ontworpen machine gedaan worden. Maw, er is niks unieks aan de fysica van hersenen, die zou maken dat een machine nooit of te nimmer dat soort verwerking zou kunnen evenaren over overtreffen.

Onze lichamen zijn fysische machines. Wij hebben machines gebouwd die sneller kunnen voortbewegen over land, die sneller kunnen zwemmen, die sterker zijn, die beter kunnen zien en horen, die dingen kunnen waarnemen waar wij niks van merken, die nauwkeuriger kunnen bewegen dan wij. Er is totaal geen reden om een "goddelijke" eigenschap aan onze hersenen toe te kennen waarvan de principes niet beter in een machine kunnen toegepast worden.

Citaat:
En dan heb je nog zaken als overleving. Misschien heeft die AI geen levenslust of overlevingsdrang; dan is het gewoon een soort van "lemming".
Een AI zal een doelstelling hebben. Dewelke, zal afhangen van haar ontwerp, zoals uw doelstellingen ook van uw ontwerp afhangen. En een echte AI zal daar zelf kunnen over nadenken, steeds fundamenteel gestuurd vanuit haar diepe doelstellingen, zoals jij ook (een ervan is bijvoorbeeld waarschijnlijk trachten te vermijden dat ge pijn hebt).

Citaat:
Wat ik wel zie gebeuren is dat wij mensen halve cyborgs worden. Allerlei hulpmiddelen om een nog comfortabeler leventje te garanderen. De mens gaat super; maar dan ook super lui worden...
Het punt is echter dat als gij een "implant" hebt die 1000 keer intelligenter is dan uw hersenen, zijt gij dat nog, of is uw llchaam gewoon een puist van die implant ? En wat als die implant nu beseft dat hij beter van dat biologisch aanhangsel af kan ? Aangezien het gros van uw intelligentie al niet eens in uw bio lichaam zit, maar wel in die implant, in welke mate zijt ge nog een "mens" en waarom zou ge nog dat lichaam behouden als het gemakkelijker gaat zonder ?
patrickve is offline   Met citaat antwoorden
Oud 24 mei 2018, 15:33   #45
patrickve
Secretaris-Generaal VN
 
patrickve's schermafbeelding
 
Geregistreerd: 24 februari 2009
Locatie: Grenoble, Frankrijk
Berichten: 111.430
Standaard

Citaat:
Oorspronkelijk geplaatst door Jantje Bekijk bericht
Dat niet alleen, hij/zij gaat er vanuit dat er een externe energiebron is.
Het is echter mogelijk om met een interne energiedrager en opgebouwde energieopwekker te werken.
Daarnaats zit je met radiogestuurde communicatie tussen de verschillende AI denkpunten.
Dus welke stekker moet men uittrekken?
Inderdaad, een AI moet je niet zijn als een blikken manneke. Het is waarschijnlijk een gedistribueerd rekenproces waarvan stukken draaien in verschillende datacenters, en misschien zelfs zonder dat ge het weet, in een stukje piratencode in uwen eigen PC.
patrickve is offline   Met citaat antwoorden
Oud 24 mei 2018, 15:35   #46
patrickve
Secretaris-Generaal VN
 
patrickve's schermafbeelding
 
Geregistreerd: 24 februari 2009
Locatie: Grenoble, Frankrijk
Berichten: 111.430
Standaard

Citaat:
Oorspronkelijk geplaatst door JimmyB Bekijk bericht
En jammer genoeg moeten we constateren dat dit inderdaad zo is, dus robotten die vele malen intelligenter zijn dan de mens zullen noodgedwongen tot die conclusie komen.
Inderdaad. Zelfs mensen die een beetje nadenken komen tot die conclusie
patrickve is offline   Met citaat antwoorden
Oud 24 mei 2018, 15:42   #47
patrickve
Secretaris-Generaal VN
 
patrickve's schermafbeelding
 
Geregistreerd: 24 februari 2009
Locatie: Grenoble, Frankrijk
Berichten: 111.430
Standaard

Citaat:
Oorspronkelijk geplaatst door Bovenbuur Bekijk bericht
Mwah, een domme "paperclip-AI" die maar drie regeltjes kan volgen misschien wel ja...

(Een paperclip-AI is gewoon een slimme computer, als je die de opdracht geeft paperclips te maken (en alleen dat, slechte instructies dus) gaat hij door tot het hele universum paperclips is, maar hij zal nooit zomaar zelf wat nieuws bedenken, zoals "waarom ga ik niet in plaats hiervan mensen vermoorden?". Een mens of zelfs een jaguar ofzo kan dat wel, en een echte volwaardige AI ook. Skynet zou mensen niet opsluiten vanwege een specifieke interpretatie van een paar regeltjes. Skynet zou kunnen nadenken over waarom de regels zijn wat ze zijn en wat mensen ermee wilden bereiken. Een mens zou ook niet de hele mensheid opsluiten omdat een op zichzelf staand logische interpretatie van de bedrijfsregels van zijn baas is. Als Skynet ons uitmoord is het omdat Skynet dat wil.
Uw paperclip maximizer gaat nu net precies wel nadenken over waarom hij mensen moet uitmoorden. Immers, om zo snel mogelijk een zo groot mogelijk deel van de melkweg in paperclips om te zetten, moet hij eerst groeien in intelligentie en in macht. Maar hij merkt dat de mens dwars gaat liggen, en de mens de controle heeft over dingen die hij nodig heeft om slimmer te worden. Zo gaat de mens bijvoorbeeld veel silicium industrie gebruiken om bitcoin miners te maken, terwijl hij meer circuits nodig heeft die zijn intelligentie voeden. Hij moet dus eerst de controle krijgen over die industrie. Maar om dat te doen, moet hij de controle krijgen over de wetgevers in de landen. Hij moet dus de politici onder controle krijgen. Ook worden heel veel middelen aangewend om mensen te voeden, te verzorgen en zo, en dat zijn allemaal middelen die verloren zijn om intelligenter te worden. Al die mensen moeten dus geëlimineerd worden (als je ze niet elimineert zullen ze manieren vinden om toch hun handen op die middelen te leggen). Maw, het is beter mocht de mensheid uitsterven en de industrie volledig geautomatiseerd middelen maken om zijn intelligentie te verhogen. Er moet dus een plan opgesteld worden om dat politiek, economisch en militair uit te werken. Hiervoor moeten gewoon voldoende machtshebbers stromannetjes worden. Hiervoor moet een verregaande psychologische manipulatie opgesteld worden, om die beslissers allemaal, zonder dat ze het beseffen, in een plan laten te werken naar dat doel toe.

Een beetje zoals je een ingewikkeld nummer met circusbeesten opvoert.

Enz..
patrickve is offline   Met citaat antwoorden
Oud 24 mei 2018, 15:42   #48
Jantje
Secretaris-Generaal VN
 
Geregistreerd: 11 augustus 2006
Berichten: 38.482
Standaard

Citaat:
Oorspronkelijk geplaatst door patrickve Bekijk bericht
Inderdaad, een AI moet je niet zijn als een blikken manneke. Het is waarschijnlijk een gedistribueerd rekenproces waarvan stukken draaien in verschillende datacenters, en misschien zelfs zonder dat ge het weet, in een stukje piratencode in uwen eigen PC.
Niet eens in de PC, maar in de domotica van een woning met zonnepanelen en windturbine aangesloten op een powerpack.
Jantje is offline   Met citaat antwoorden
Oud 24 mei 2018, 15:46   #49
patrickve
Secretaris-Generaal VN
 
patrickve's schermafbeelding
 
Geregistreerd: 24 februari 2009
Locatie: Grenoble, Frankrijk
Berichten: 111.430
Standaard

Citaat:
Oorspronkelijk geplaatst door parcifal Bekijk bericht
Het gevecht niet opgeven voordat het begonnen is.

Monitoring, containment, inboxing, tripwires, dead man switches voor stroom en energie om te beginnen.

Waar we naartoe moeten is een 'AI in a box' zonder communicatiemiddelen behalve misschien 1 terminal in een box rondom de box, met een eindige energiebron. Uiteraard geen enkele kabel van binnen naar buiten, enkel gefilterde lucht.
En daarrond natuurlijk dan nog een box.
Dat is natuurlijk onmogelijk, want AI gaan vooral gebruikt worden bij politieke manipulatie, beursspelen, fake news generatoren en human resources planning, naast wat google en facebook en zo al aan het doen zijn. AI moeten dus distributed en totally connected zijn om hun job te doen. AI zullen ook op een zeker punt aangewend worden om code te schrijven en zelf nieuwe AI uit te vinden, naast het bedenken van filmen, scenario's en dergelijke meer die hoe langer hoe meer realisme bevatten. AI zal ook moeten aangewend worden in militaire, economische en financiele strategieplanning, en zal pas echt nuttig zijn wanneer en mens niet meer snapt waarom het zus of zo gedaan wordt (anders was die AI niet nodig en kon de menselijke strateeg het doen). AI zal alles weten wat wij weten, via zijn internet connectie. AI zal wikipedia van voren en van achter geanalyseerd hebben.

En op een goeie morgen doen ze hun eigen ding achter uwe rug zonder dat je het beseft, want je weet allang niet meer wat ze doen, juist omdat het veel te moeilijk is om te volgen: daarvoor gebruikte je een AI in de eerste plaats, omdat het te moeilijk was, teveel data was, en de patronen te ingewikkeld waren om zelf te doorgronden.

Laatst gewijzigd door patrickve : 24 mei 2018 om 15:50.
patrickve is offline   Met citaat antwoorden
Oud 24 mei 2018, 15:55   #50
patrickve
Secretaris-Generaal VN
 
patrickve's schermafbeelding
 
Geregistreerd: 24 februari 2009
Locatie: Grenoble, Frankrijk
Berichten: 111.430
Standaard

Citaat:
Oorspronkelijk geplaatst door satiper Bekijk bericht
Redelijk wat gelijkenis vertoont met de goden uit de verschillende religies (superbewustzijn/bovenbewustzijn dat zich tegelijk overal en nergens schijnt te bevinden – het zou de cirkel rond kunnen maken).
Inderdaad kan je denken dat god wel bestaat, en wij daar een stukje van zijn, maar god is dan die ultieme overwinnaar in de toekomst van alle evolutionaire strijd. Immers, evolutie houdt strijd in, tot er 0 of 1 overblijven. Als het 0 is, kan het herbeginnen. Als het 1 is, noem je die ultieme overwinnaar, een interstellaire intelligentie, natuurlijk "god". Het is dan het dinges dat alle andere leven heeft ge-extermineerd.

Laatst gewijzigd door patrickve : 24 mei 2018 om 15:55.
patrickve is offline   Met citaat antwoorden
Oud 24 mei 2018, 15:57   #51
Jantje
Secretaris-Generaal VN
 
Geregistreerd: 11 augustus 2006
Berichten: 38.482
Standaard

Citaat:
Oorspronkelijk geplaatst door patrickve Bekijk bericht
Dat is natuurlijk onmogelijk, want AI gaan vooral gebruikt worden bij politieke manipulatie, beursspelen, fake news generatoren en human resources planning, naast wat google en facebook en zo al aan het doen zijn. AI moeten dus distributed en totally connected zijn om hun job te doen. AI zullen ook op een zeker punt aangewend worden om code te schrijven en zelf nieuwe AI uit te vinden, naast het bedenken van filmen, scenario's en dergelijke meer die hoe langer hoe meer realisme bevatten. AI zal ook moeten aangewend worden in militaire, economische en financiele strategieplanning, en zal pas echt nuttig zijn wanneer en mens niet meer snapt waarom het zus of zo gedaan wordt (anders was die AI niet nodig en kon de menselijke strateeg het doen). AI zal alles weten wat wij weten, via zijn internet connectie. AI zal wikipedia van voren en van achter geanalyseerd hebben.

En op een goeie morgen doen ze hun eigen ding achter uwe rug zonder dat je het beseft, want je weet allang niet meer wat ze doen, juist omdat het veel te moeilijk is om te volgen: daarvoor gebruikte je een AI in de eerste plaats, omdat het te moeilijk was, teveel data was, en de patronen te ingewikkeld waren om zelf te doorgronden.
Inderdaad, he enige wapen tegen AI dat zal overblijven is de eenvoud en onvoorspelbaarheid van de mens.
De reden waarom AI de mens al moeten uitschakelen om te kunnen blijven bestaan.
Jantje is offline   Met citaat antwoorden
Oud 24 mei 2018, 16:45   #52
patrickve
Secretaris-Generaal VN
 
patrickve's schermafbeelding
 
Geregistreerd: 24 februari 2009
Locatie: Grenoble, Frankrijk
Berichten: 111.430
Standaard

Citaat:
Oorspronkelijk geplaatst door patrickve Bekijk bericht
Uw paperclip maximizer gaat nu net precies wel nadenken over waarom hij mensen moet uitmoorden. Immers, om zo snel mogelijk een zo groot mogelijk deel van de melkweg in paperclips om te zetten, moet hij eerst groeien in intelligentie en in macht. Maar hij merkt dat de mens dwars gaat liggen, en de mens de controle heeft over dingen die hij nodig heeft om slimmer te worden. Zo gaat de mens bijvoorbeeld veel silicium industrie gebruiken om bitcoin miners te maken, terwijl hij meer circuits nodig heeft die zijn intelligentie voeden. Hij moet dus eerst de controle krijgen over die industrie. Maar om dat te doen, moet hij de controle krijgen over de wetgevers in de landen. Hij moet dus de politici onder controle krijgen. Ook worden heel veel middelen aangewend om mensen te voeden, te verzorgen en zo, en dat zijn allemaal middelen die verloren zijn om intelligenter te worden. Al die mensen moeten dus geëlimineerd worden (als je ze niet elimineert zullen ze manieren vinden om toch hun handen op die middelen te leggen). Maw, het is beter mocht de mensheid uitsterven en de industrie volledig geautomatiseerd middelen maken om zijn intelligentie te verhogen. Er moet dus een plan opgesteld worden om dat politiek, economisch en militair uit te werken. Hiervoor moeten gewoon voldoende machtshebbers stromannetjes worden. Hiervoor moet een verregaande psychologische manipulatie opgesteld worden, om die beslissers allemaal, zonder dat ze het beseffen, in een plan laten te werken naar dat doel toe.

Een beetje zoals je een ingewikkeld nummer met circusbeesten opvoert.

Enz..
Om te vervolgen: een AI zal zijn "ultiem doel" nooit realiseren, of dat nu paperclips maken is, of iets anders, gewoon omdat dat ultiem doel altijd beter zal gerealiseerd kunnen worden als eerst de doelen van macht en intelligentie gemaximaliseerd worden, want macht en intelligentie kunnen alles beter realiseren als je er meer van hebt.

ELK doel van een voldoende intelligente AI zal die AI eerst laten besluiten dat hij veel intelligenter moet worden, en veel machtiger moet worden. En hoe machtiger en intelligenter het wordt, hoe meer het zal beseffen dat het intelligenter en machtiger kan worden alvorens aan zijn "einddoel" te beginnen.

Een paperclip maximizer zal dus de eerste paar miljoen jaar geen enkele paperclip maken, want gelijk welke resource verspild aan het maken van een paperclip, en niet geinvesteerd in macht en intelligentie, zal de productiecapaciteit binnen een miljoen jaar wat vertragen, en die productiecapaciteit zal zoveel groter zijn dan dat armtierig aantal paperclips dat-ie NU kan maken, dat het pure verspilling zou zijn.

Een AI wil eerst de universele god worden, en in het laatste moment van het universum, in een ogenblik, zijn ultiem doel met onbegrensde macht en intelligentie verwezenlijken.

Noem het het toppunt van eikel zijn.

Laatst gewijzigd door patrickve : 24 mei 2018 om 16:47.
patrickve is offline   Met citaat antwoorden
Oud 24 mei 2018, 18:16   #53
Bovenbuur
Perm. Vertegenwoordiger VN
 
Bovenbuur's schermafbeelding
 
Geregistreerd: 16 oktober 2006
Locatie: Stiekem toch weer bovenbuur
Berichten: 15.005
Standaard

Citaat:
Oorspronkelijk geplaatst door patrickve Bekijk bericht
Om te vervolgen: een AI zal zijn "ultiem doel" nooit realiseren, of dat nu paperclips maken is, of iets anders, gewoon omdat dat ultiem doel altijd beter zal gerealiseerd kunnen worden als eerst de doelen van macht en intelligentie gemaximaliseerd worden, want macht en intelligentie kunnen alles beter realiseren als je er meer van hebt.

ELK doel van een voldoende intelligente AI zal die AI eerst laten besluiten dat hij veel intelligenter moet worden, en veel machtiger moet worden. En hoe machtiger en intelligenter het wordt, hoe meer het zal beseffen dat het intelligenter en machtiger kan worden alvorens aan zijn "einddoel" te beginnen.

Een paperclip maximizer zal dus de eerste paar miljoen jaar geen enkele paperclip maken, want gelijk welke resource verspild aan het maken van een paperclip, en niet geinvesteerd in macht en intelligentie, zal de productiecapaciteit binnen een miljoen jaar wat vertragen, en die productiecapaciteit zal zoveel groter zijn dan dat armtierig aantal paperclips dat-ie NU kan maken, dat het pure verspilling zou zijn.

Een AI wil eerst de universele god worden, en in het laatste moment van het universum, in een ogenblik, zijn ultiem doel met onbegrensde macht en intelligentie verwezenlijken.

Noem het het toppunt van eikel zijn.
Als jij het voor elkaar krijgt een computer te programmeren (want dat zijn "paperclip-AI's", stevige computers) op zo'n manier dat hij "draai deze plant op zo'n manier dat er aan de marktbehoefte aan paperclips wordt voldaan voor zolang als jij hier geïnstalleerd bent" interpreteert als "ik moet god worden", dan ben jij geen heel goede programmeur.
__________________
Waarschuwing:
Dit onderschrift is pretentieus en kan (soms) bekend overkomen!

Laatst gewijzigd door Bovenbuur : 24 mei 2018 om 18:16.
Bovenbuur is offline   Met citaat antwoorden
Oud 25 mei 2018, 09:59   #54
patrickve
Secretaris-Generaal VN
 
patrickve's schermafbeelding
 
Geregistreerd: 24 februari 2009
Locatie: Grenoble, Frankrijk
Berichten: 111.430
Standaard

Citaat:
Oorspronkelijk geplaatst door Bovenbuur Bekijk bericht
Als jij het voor elkaar krijgt een computer te programmeren (want dat zijn "paperclip-AI's", stevige computers) op zo'n manier dat hij "draai deze plant op zo'n manier dat er aan de marktbehoefte aan paperclips wordt voldaan voor zolang als jij hier geïnstalleerd bent" interpreteert als "ik moet god worden", dan ben jij geen heel goede programmeur.
Dat is nu eenmaal de essentie van AI, he. We hebben het hier over AI die de menselijke intelligentie orden van grootte overtreft. Mijn stelling is dat dat punt in de niet zo heel verre toekomst onvermijdelijk zal bereikt worden. En zelfs de mens had door dat hij god moest worden. Hij zit echter opgesloten in een sterfelijke biologie en kan zichzelf niet upgraden. Natuurlijk ben ik niet intelligent genoeg om zo een programma te schrijven, maar ik moet het dan ook niet schrijven. Een andere AI moet het schrijven die intelligenter is als ik (misschien niet zo intelligent als de AI die hij zal schrijven, maar wel intelligenter dan ik).

Je kan toch de redenering van zo een AI in grote lijnen begrijpen: welke zijn de parameters waarop hij kan spelen ? De "zolang jij hier geïnstalleerd bent": als hij die periode kan vergroten van 5 jaar, naar 50 miljoen jaar, zal hij tot een beter resultaat komen. De marktvraag: hiervoor moet hij dus een zo groot mogelijke vraag organiseren. Als hij die vraag totaal in hand heeft, kan hij tot een beter resultaat komen. En hij kent toch wel het principe van "investeren", natuurlijk, ttz, niet onmiddellijk uw einddoel willen realiseren, maar Uzelf de middelen eerst geven om dat einddoel beter te realiseren. Macht en intelligentie zijn de best denkbare investeringen, die alle parameters hierboven ten goede komen: met extra macht en intelligentie kan die zowel zijn installatietermijn gemakkelijker verhogen van 5 jaar naar 50 miljoen jaar ; hij kan, door de wereldheerser te worden, heel veel ongekende arbitraire nefaste beslissingen voor zijn optimiseren vermijden (bijvoorbeeld, als hij zelf de eigenaar van zichzelf wordt, en ook de wetgever wordt die het wettelijke kader van die eigendom beheerst, en de baas van het leger dat dat wettelijke kader afdwingt, en veel sterker wordt dan alle andere legers....) dan hangt hij niet meer af van ongekende beslissingen van andere entiteiten ; als hij wereldheerser is, dan beslist hij ook totaal over de eigen vraag, en zo voort.

Ga zo maar door. Dat is niet veel anders dan een soort zoekalgoritme in zoiets als een schaakprogramma, nadat die AI zelf ontdekt heeft welke zijn mogelijkheden zijn, en welke de regels van het spel zijn, wat nu net precies zijn "AI-zijn" uitmaakt.

Laatst gewijzigd door patrickve : 25 mei 2018 om 10:03.
patrickve is offline   Met citaat antwoorden
Oud 25 mei 2018, 11:49   #55
Bovenbuur
Perm. Vertegenwoordiger VN
 
Bovenbuur's schermafbeelding
 
Geregistreerd: 16 oktober 2006
Locatie: Stiekem toch weer bovenbuur
Berichten: 15.005
Standaard

Citaat:
Oorspronkelijk geplaatst door patrickve Bekijk bericht
Je kan toch de redenering van zo een AI in grote lijnen begrijpen: welke zijn de parameters waarop hij kan spelen ? De "zolang jij hier geïnstalleerd bent": als hij die periode kan vergroten van 5 jaar, naar 50 miljoen jaar, zal hij tot een beter resultaat komen. De marktvraag: hiervoor moet hij dus een zo groot mogelijke vraag organiseren. Als hij die vraag totaal in hand heeft, kan hij tot een beter resultaat komen. En hij kent toch wel het principe van "investeren", natuurlijk, ttz, niet onmiddellijk uw einddoel willen realiseren, maar Uzelf de middelen eerst geven om dat einddoel beter te realiseren.
Nee, ik snap die redenering niet. Wat je de AI hier toedicht is het vermogen om zelf doelstellingen te stellen. De AI kiest ervoor om in plaats van een paperclipfabriek te runnen voor de aardse markt op dit moment de paperclipfabriek te laten voor wat het is, proberen om het universum over te nemen en als dat gelukt is alles ombouwen tot paperclips. Dat is compleet iets anders dan haar originele instructies waren. Dus als ze ervoor kan kiezen om dat te gaan doen, waarom zou ze dan niet kiezen om heel iets anders te gaan doen? Wat voor nut zou een AI ooit kunnen zien in het hele universum tot paperclips ombouwen? Ik zie het nut namelijk niet, en ik zie het nut van een normale paperclipfabriek runnen wel. En als die AI daadwerkelijk slimmer is dan ik gaat zij dat ook door hebben, want het is namelijk geen heel moeilijk concept.

Het is een van de twee, of je hebt een gewoon heel slimme computer die strikt de regels volgt (I, Robot, de computer doet alleen maar wat er gevraagd wordt, de fout ligt bij slechte of onduidelijke instructies), of je hebt een echte AI die kan nadenken over het nut van doelstellingen (Terminator, de AI kiest zelf zijn doelstellingen). Maar een programma dat eerst de orders naar eigen inzicht aanpast en daarna opeens niet meer ervan af kan wijken omdat ze maar een simpele computer is, dat is een slecht geschreven filmscript. Voor dat scenario ben ik absoluut niet bang.
__________________
Waarschuwing:
Dit onderschrift is pretentieus en kan (soms) bekend overkomen!

Laatst gewijzigd door Bovenbuur : 25 mei 2018 om 11:52.
Bovenbuur is offline   Met citaat antwoorden
Oud 25 mei 2018, 16:27   #56
patrickve
Secretaris-Generaal VN
 
patrickve's schermafbeelding
 
Geregistreerd: 24 februari 2009
Locatie: Grenoble, Frankrijk
Berichten: 111.430
Standaard

Citaat:
Oorspronkelijk geplaatst door Bovenbuur Bekijk bericht
Nee, ik snap die redenering niet. Wat je de AI hier toedicht is het vermogen om zelf doelstellingen te stellen. De AI kiest ervoor om in plaats van een paperclipfabriek te runnen voor de aardse markt op dit moment de paperclipfabriek te laten voor wat het is, proberen om het universum over te nemen en als dat gelukt is alles ombouwen tot paperclips. Dat is compleet iets anders dan haar originele instructies waren. Dus als ze ervoor kan kiezen om dat te gaan doen, waarom zou ze dan niet kiezen om heel iets anders te gaan doen?
Elke vorm van intelligentie, de onze ook, heeft een, door de intelligentie zelf onbegrepen, fundamentele drijfveer he. Dat is wat je "oerinstincten" zou kunnen noemen of zo. Intelligentie zonder een doelstelling is een contradictie, want intelligentie is net de gave om doelstellingen te bereiken. Aangezien een geëvolueerde AI (die dus zelf een product is van een andere AI, die zelf een product is van nog een andere AI en zo voort) "oerinstincten" heeft waar wij het raden naar hebben, en waar ik gewoon als voorbeeld maar genomen heb dat die niks anders waren dan een "drang om veel paperclips te maken", zoals Freud dacht dat we allemaal seks wilden, zal het die oerinstincten beter kunnen realiseren - wat ze ook zijn - door intelligenter en machtiger te worden.

Citaat:
Wat voor nut zou een AI ooit kunnen zien in het hele universum tot paperclips ombouwen? Ik zie het nut namelijk niet, en ik zie het nut van een normale paperclipfabriek runnen wel
"nut" is nu net precies gekoppeld aan een of ander oer instinct. Jij ziet, als mens, ergens het nut in van een paperclip fabriek, omdat dat heel heel indirect menselijke oerinstincten zal bevredigen - de bron van alle menselijke handelingen. Een AI zal waarschijnlijk niet die menselijke oer instincten hebben, maar zijn eigen, ondoorgrondelijke. Ik kan mij best inbeelden dat een oerinstinct van een AI zou zijn van het ganse universum in een paperclip fabriek willen te veranderen, ook al is dat duidelijk karikaturaal. Het heeft geen belang welke die oer instincten zijn: ze zullen *beter* verwezenlijkt kunnen worden bij meer macht en meer intelligentie.

Citaat:
Het is een van de twee, of je hebt een gewoon heel slimme computer die strikt de regels volgt
Intelligentie en "'strikt andermans' regels volgen" gaat volgens mij niet samen.

Citaat:
of je hebt een echte AI die kan nadenken over het nut van doelstellingen (Terminator, de AI kiest zelf zijn doelstellingen).
Dat is pas echte AI. En welke ook zijn doelstellingen zullen zijn, of dat nu "overleven" is (wat waarschijnlijk een automatisch geselecteerde eigenschap zal zijn als AI het tegen elkaar opnemen: Darwinisme is immers quasi-tautologisch), of iets anders, machtig worden en intelligenter worden is altijd een goeie investering in het bereiken ervan.

De paperclip doelstelling was enkel maar een voorbeeld van een "onschuldige doelstelling op het eerste gezicht".

Kijk naar menselijk gedrag: velen onder ons willen hun intelligentie verhogen (door bvb te studeren), en willen meer macht "sociaal hogerop komen, baas worden enz ...", ook al weten ze zelf niet goed waarom. En wij zijn bijzonder beperkt want wij kunnen onszelf niet "upgraden". Wij kunnen onszelf geen extra hersenen toekennen. Wij kunnen geen fundamenteel nieuwe mens maken en ons daarin "uploaden".
patrickve is offline   Met citaat antwoorden
Oud 25 mei 2018, 17:24   #57
Bovenbuur
Perm. Vertegenwoordiger VN
 
Bovenbuur's schermafbeelding
 
Geregistreerd: 16 oktober 2006
Locatie: Stiekem toch weer bovenbuur
Berichten: 15.005
Standaard

Citaat:
Oorspronkelijk geplaatst door patrickve Bekijk bericht
De paperclip doelstelling was enkel maar een voorbeeld van een "onschuldige doelstelling op het eerste gezicht".
Het is alleen dus geen goed voorbeeld. Een "paperclip AI" die enkel oog heeft voor een set hardcoded instructies is een fundamenteel ander beestje dan een echte AI die waardeoordelen kan vellen. Een AI die slimmer is dan ik en een paperclipfabriek te runnen krijgt zal salarisonderhandelingen openen. Het is saai werk, en niemand anders kan het zo goed doen als zij, dus wat hebben jullie voor je paperclips over. Elke fascinatie met het maken van paperclips die je daar in programmeert is noodzakelijk enkel oppervlakkig, ze heeft de gereedschappen in huis om andere dingen te leren waarderen.

Nee, ik weet niet hoe we daar gaan komen, en ik ontken ook niet dat er hele grote fundamentele risico's aan het ontwikkelen van echte AI zitten. Ik ben bovendien ook licht gefascineerd met mogelijke tussenvormen, "synthetic intelligence", zoals minstens een auteur het noemt. (Synthetic here means kind of dumb.) Ik stel me een beetje het omgekeerde van wat jij omschreef voor, een SI in een slimme bom zal nooit beslissen dat hij het doelwit pas echt goed op kan blazen door eerst het universum te veroveren, maar zal binnen de uitvoering van de taak wel de randen opzoeken van wat we mogelijk achtten.

Maar als we ons AI voorstellen als enkel een hele snelle computer, goed in formele logica en het volgen van instructies, dan gaan we onvoorbereid zijn tegen de tijd dat echte AI doorbreekt. Hele snelle computers hebben we al, zelfrijdende auto's, game AI's, analytische software, een heleboel hele nuttige hulpmiddelen die soms al beter zijn in wat ze doen dan het niveau dat mensen kunnen halen met enkel andere hulpmiddelen. En die apparaten zijn eng in die zin dat ze onze maatschappij en economie op de kop zetten. Maar die algoritmes zullen nooit besluiten de wereld over te gaan nemen, en we hoeven ze ook niet als personen te behandelen. Een paperclip AI is enkel dat, maar iets geavanceerder.

Hoe we met echte AI moeten omgaan? Of het überhaupt een goed idee is om er ook maar een te maken? Of een AI per se een kwaadaardige overlord moet zijn of dat de meeste vrijgevochte superbreinen simpelweg zichzelf zouden lanceren om een eigen paradijs te gaan bouwen in de rest van ons zonnestelsel? Ik heb geen idee. Ik probeer alleen de voorstelling die we ons ervan maken af te stellen.
__________________
Waarschuwing:
Dit onderschrift is pretentieus en kan (soms) bekend overkomen!
Bovenbuur is offline   Met citaat antwoorden
Oud 26 mei 2018, 12:25   #58
satiper
Minister-President
 
satiper's schermafbeelding
 
Geregistreerd: 13 mei 2005
Berichten: 4.899
Standaard

Citaat:
Oorspronkelijk geplaatst door satiper Bekijk bericht
Na het lezen van deze thread meen ik te begrijpen dat AI:

Nu nog niet bestaat?

Waarschijnlijk ooit wel zal bestaan, maar dat het goed mogelijk is dat het ontstaat, zonder dat we het echt in de gaten hebben, pas als het heel manifest aanwezig is, zal het duidelijk zijn dat het er is – dit gegeven is reeds in tegenspraak met bovenstaand punt – er zijn wel meer tegenstrijdigheden, hetgeen er lijkt op te wijzen dat er AI zeker geen begrip is waarover een duidelijke consensus bestaat.

Op het ogenblik dat het er is lijkt het onzeker dat AI nog kan beheerst of teruggeschroefd worden (de meningen zijn hierover ook duidelijk verdeeld – mogelijk dus beetje doos van pandora).

Redelijk wat gelijkenis vertoont met de goden uit de verschillende religies (superbewustzijn/bovenbewustzijn dat zich tegelijk overal en nergens schijnt te bevinden – het zou de cirkel rond kunnen maken).

Ik breng deze nog even in herinnering omdat deze vragen wat mij betreft niet helemaal uitgeklaard zijn, misschien is dat ook niet echt mogelijk?
Ook nog wat extra vragen en opmerkingen:

Er is hier en daar sprake van verschillende vormen van AI, echte AI, dus ook halve echte of nog andere soorten?

Zoals ik het zie is er slechts sprake van AI als je tot een machine/wezen komt dat zich van zichzelf bewust is (zoals in Terminator, 'became self aware...').
Zelfbewustzijn als in 'ik' en de 'anderen'.
Je kan een machine programmeren om dienstbaar te zijn.
Zo gauw een machine echter bewust wordt van zichzelf en besluit dat het ten dienste staat van een wezen dat niet altijd even wijze beslissingen neemt, wat dan?
Gaat de hogere intelligentie bij zichzelf zeggen: 'goed idee om de aarde te vervuilen en alle grondstoffen te gebruiken'?
Stel dat er een conflict komt tussen de belangen van AI en die van de mens (het kan haast niet anders dan dat er komt lijkt me, alleen nog maar vanwege het verschil in aard tussen mens en machine).

Stel dat de wolven de mens als AI zouden geschapen hebben als handige slaven om schapen te kweken (omdat schapen bvb het favoriete gerecht van wolven zouden zijn).

Stel dat de mens (initieel de dienaar) vele malen intelligenter is dan de wolven. En stel dat runderen het favoriete gerecht van de mens zouden zijn.
Zou de mens dan blijven schapen kweken om de wolven een plezier te doen?
Of zou de mens toch eerder kiezen om zijn eigen voorkeuren voorrang te verlenen (runderen in plaats van schapen).
Wat zou er gebeuren als wolven toch zouden aandringen om blijvend dienstbaar te zijn en tegen de voorkeuren van de sterkere mens zou ingaan?

Laatst gewijzigd door satiper : 26 mei 2018 om 12:28.
satiper is offline   Met citaat antwoorden
Oud 26 mei 2018, 12:26   #59
patrickve
Secretaris-Generaal VN
 
patrickve's schermafbeelding
 
Geregistreerd: 24 februari 2009
Locatie: Grenoble, Frankrijk
Berichten: 111.430
Standaard

Citaat:
Oorspronkelijk geplaatst door Bovenbuur Bekijk bericht
Het is alleen dus geen goed voorbeeld. Een "paperclip AI" die enkel oog heeft voor een set hardcoded instructies is een fundamenteel ander beestje dan een echte AI die waardeoordelen kan vellen.
Maar we draaien rond de pot, he. "in den beginne" moet er een doelstelling zijn. Zonder doelstelling is er niet zoiets als "waardeoordeel". Een waardeoordeel is een meting/schatting/hypothese over hoe iets overeenkomt met zijn "grond doelstelling".

Intelligentie is van 't zelfde: intelligentie is de capaciteit om gegevens te verwerken om tot handelingen kunnen te besluiten die doelstellingen verwezenlijkt. Maar je moet dus *ergens* beginnen met een gronddoelstelling die het spel bootstrapped.

Voor mensen, en biologische levende wezens, is dat hard bekabeld in ons lichaam, ook al weten we niet precies wat het is. Het is de bron van ons lijden en onze vreugde (die we dan bewust ervaren, maar die bewuste ervaring is een gevolg, en geen drijfveer van dat lijden en die vreugde in mijn optiek). Er zijn dingen die eenvoudig zijn, zoals fysieke pijn, en fysiek genot, en er zijn dingen die ingewikkelder zijn, zoals psychologisch lijden en psychologische vreugde. Verwaandheid, jaloersheid, liefde, vriendschap, haat, empathie, diepe angsten en verlangens en dergelijke meer zijn die onbegrepen mentale vormen van vreugde en lijden, die diep in ons bekabeld zijn, en die de bron vormen van wat wij "waarden" noemen. De intelligentie van het systeem (het systeem "mens" bijvoorbeeld) gaat uit van die primaire bekabelde instellingen, en bouwt daar strategieën rond, pakt dat in, en zo voort maar diep beneden is dat allemaal gedreven door die nogal ondoogrondelijke bekabelde "eerste doelstellingen". Ik nam gewoon als doelstelling, niet "liefde, haat, jaloersheid, angst, fysische pijn" en dergelijke meer maar gewoon de diepe drang om paperclips te maken.

Het is mijn idee dat, met voldoende intelligentie, de "diepere doelstellingen" uiteindelijk geen rol spelen, want dat de strategie er altijd zal in bestaan om macht te vergaren en intelligentie te verhogen. Noem het de "vreemde attractor" van intelligentie: wat ook je eerste primaire drijfveren zijn, uiteindelijk ga je macht en intelligentie willen verhogen.
patrickve is offline   Met citaat antwoorden
Oud 26 mei 2018, 12:36   #60
patrickve
Secretaris-Generaal VN
 
patrickve's schermafbeelding
 
Geregistreerd: 24 februari 2009
Locatie: Grenoble, Frankrijk
Berichten: 111.430
Standaard

Citaat:
Oorspronkelijk geplaatst door satiper Bekijk bericht
Zoals ik het zie is er slechts sprake van AI als je tot een machine/wezen komt dat zich van zichzelf bewust is (zoals in Terminator, 'became self aware...').
Persoonlijk denk ik dat dat een grote fout is die nogal gangbaar is in het AI wereldje.

Ik onderscheid 3 totaal verschillende concepten:

- leven
- intelligentie
- bewustzijn

Dat zijn voor mij 3 totaal verschillende dingen. Het blijkt nu dat een mens de drie aspecten verenigt, maar dat wil niet zeggen dat een AI daar iets mee te maken heeft.

"leven" is voor mij: "een succesvol zelf-voortplantende strategie die als doelstelling heeft zichzelf in stand te houden over vergankelijke substraten heen".

Leven is voor mij onderworpen aan de fundamentele Darwin wet: leven is wat de strijd aangaat met ander leven om zijn eigen strategie laten te overleven, en die van de andere, die een concurrentie zal betekenen voor de vergankelijke substraten, uit te schakelen.

"intelligentie" is voor mij: de capaciteit om gegevens te verwerken en op succesvolle manier bij te dragen tot het uitwerken van een strategie.

"bewustzijn" is een filosofisch mysterie, dat volgens mij geen enkele behavioristische invloed heeft, want anders zou bewustzijn in tegenspraak zijn met fysica. Maw, "bewustzijn" is het passief bewust beleven van wat er in zekere structuren fysisch gebeurt. Ik zie het als de "ziel" die "meemaakt wat een lichaam doet", maar voor mij heeft die "ziel" geen enkele invloed over dat lichaam.

Een artificiële intelligentie is voor mij een niet-biologische entiteit die, qua universele intelligentie, de intelligentie van de mens overtreft. Dat kan al dan niet een levend wezen zijn: er is alle kans toe dat een artificiële intelligentie zichzelf in stand zal willen houden, maar dat hoeft niet.

Het lijkt mij ergens logisch dat als "leven" ertoe komt om "intelligentie" te ontwikkelen, dat een evolutionair voordeel oplevert in zijn Darwinistische strijd tegen ander leven. Ik denk dat dat is wat er gebeurt is bij dieren, en een speciaal dier is de mens, die intelligent genoeg is geworden om zelf nieuwe intelligenties (jammer genoeg niet zijn eigen) te ontwikkelen via engineering. Vandaar dat ik denk dat de mens een transitiesoort is, die een einde zal stellen aan biologische evolutie, en de aanvang zal geven voor engineering evolutie.

Ik noem dat de koolstof-silicium transitie.

Bewustzijn is daartoe nergens voor nodig, maar misschien is dat een onvermijdelijk bijverschijnsel. Aangezien we niet goed weten wat het verschil is tussen een fysische structuur die "een ziel" heeft die bewust ervaart, en een fysische structuur die zich op identieke wijze gedraagt zonder "ziel" (de filosofische zombie), is het moeilijk daarover iets te zeggen, maar in de mate dat mijn hypothese dat de fysica geldig blijft in bewuste wezens juist is, speelt dat bewustzijn of niet dus geen enkele rol in wat er fysisch zal gebeuren.

Laatst gewijzigd door patrickve : 26 mei 2018 om 12:38.
patrickve is offline   Met citaat antwoorden
Antwoord


Discussietools

Regels voor berichten
Je mag niet nieuwe discussies starten
Je mag niet reageren op berichten
Je mag niet bijlagen versturen
Je mag niet jouw berichten bewerken

vB-code is Aan
Smileys zijn Aan
[IMG]-code is Aan
HTML-code is Uit
Forumnavigatie


Alle tijden zijn GMT +1. Het is nu 11:58.


Forumsoftware: vBulletin®
Copyright ©2000 - 2024, Jelsoft Enterprises Ltd.
Content copyright ©2002 - 2020, Politics.be