Registreren kan je hier. Problemen met registreren of reageren op de berichten? Een verloren wachtwoord? Gelieve een mail te zenden naar [email protected] met vermelding van je gebruikersnaam. |
|
Registreer | FAQ | Forumreglement | Ledenlijst |
Wetenschap & Technologie Van grondstoffen tot afgewerkt product, oude en nieuwe ontdekkingen, ... + de relatie tot de mens, macht, ... |
|
Discussietools |
24 mei 2018, 14:56 | #41 | |
Perm. Vertegenwoordiger VN
Geregistreerd: 15 maart 2014
Berichten: 17.061
|
Citaat:
Wat je hier ook wel tussen de lijnen zegt is dat de meest intelligente soort altijd zal winnen. Wat ik mijn dan afvraag is of een AI superieur gaat zijn aan menselijke intelligentie? Het blijft een programma zonder vrije wil. Als je nu zegt dat dat AI ding nieuwe codes kan schrijven en zichzelf herprogrammeren dus dingen kan leren enkel en alleen dan is het superieur. En dan heb je nog zaken als overleving. Misschien heeft die AI geen levenslust of overlevingsdrang; dan is het gewoon een soort van "lemming". Wat ik wel zie gebeuren is dat wij mensen halve cyborgs worden. Allerlei hulpmiddelen om een nog comfortabeler leventje te garanderen. De mens gaat super; maar dan ook super lui worden...
__________________
https://www.youtube.com/watch?v=fPuf...etallica-Topic |
|
24 mei 2018, 14:57 | #42 | |
Secretaris-Generaal VN
Geregistreerd: 24 februari 2009
Locatie: Grenoble, Frankrijk
Berichten: 111.429
|
Citaat:
Wij luisteren ook niet naar wetten die honden ons willen opleggen he. Want wij weten beter. |
|
24 mei 2018, 15:26 | #43 |
Secretaris-Generaal VN
Geregistreerd: 11 augustus 2006
Berichten: 38.482
|
Dat niet alleen, hij/zij gaat er vanuit dat er een externe energiebron is.
Het is echter mogelijk om met een interne energiedrager en opgebouwde energieopwekker te werken. Daarnaats zit je met radiogestuurde communicatie tussen de verschillende AI denkpunten. Dus welke stekker moet men uittrekken? |
24 mei 2018, 15:29 | #44 | |||
Secretaris-Generaal VN
Geregistreerd: 24 februari 2009
Locatie: Grenoble, Frankrijk
Berichten: 111.429
|
Citaat:
Er is totaal geen reden om aan te nemen dat die omslachtige manier om data te verwerken in onze hersenen onmogelijk op een betere en efficientere manier in specifiek hiertoe ontworpen machines kan gedaan worden. Maw, als het in een omslachtige bio machine kan gedaan worden, kan het *uiteraard* in principe beter in een specifiek ontworpen machine gedaan worden. Maw, er is niks unieks aan de fysica van hersenen, die zou maken dat een machine nooit of te nimmer dat soort verwerking zou kunnen evenaren over overtreffen. Onze lichamen zijn fysische machines. Wij hebben machines gebouwd die sneller kunnen voortbewegen over land, die sneller kunnen zwemmen, die sterker zijn, die beter kunnen zien en horen, die dingen kunnen waarnemen waar wij niks van merken, die nauwkeuriger kunnen bewegen dan wij. Er is totaal geen reden om een "goddelijke" eigenschap aan onze hersenen toe te kennen waarvan de principes niet beter in een machine kunnen toegepast worden. Citaat:
Citaat:
|
|||
24 mei 2018, 15:33 | #45 | |
Secretaris-Generaal VN
Geregistreerd: 24 februari 2009
Locatie: Grenoble, Frankrijk
Berichten: 111.429
|
Citaat:
|
|
24 mei 2018, 15:35 | #46 |
Secretaris-Generaal VN
Geregistreerd: 24 februari 2009
Locatie: Grenoble, Frankrijk
Berichten: 111.429
|
|
24 mei 2018, 15:42 | #47 | |
Secretaris-Generaal VN
Geregistreerd: 24 februari 2009
Locatie: Grenoble, Frankrijk
Berichten: 111.429
|
Citaat:
Een beetje zoals je een ingewikkeld nummer met circusbeesten opvoert. Enz.. |
|
24 mei 2018, 15:42 | #48 | |
Secretaris-Generaal VN
Geregistreerd: 11 augustus 2006
Berichten: 38.482
|
Citaat:
|
|
24 mei 2018, 15:46 | #49 | |
Secretaris-Generaal VN
Geregistreerd: 24 februari 2009
Locatie: Grenoble, Frankrijk
Berichten: 111.429
|
Citaat:
En op een goeie morgen doen ze hun eigen ding achter uwe rug zonder dat je het beseft, want je weet allang niet meer wat ze doen, juist omdat het veel te moeilijk is om te volgen: daarvoor gebruikte je een AI in de eerste plaats, omdat het te moeilijk was, teveel data was, en de patronen te ingewikkeld waren om zelf te doorgronden. Laatst gewijzigd door patrickve : 24 mei 2018 om 15:50. |
|
24 mei 2018, 15:55 | #50 |
Secretaris-Generaal VN
Geregistreerd: 24 februari 2009
Locatie: Grenoble, Frankrijk
Berichten: 111.429
|
Inderdaad kan je denken dat god wel bestaat, en wij daar een stukje van zijn, maar god is dan die ultieme overwinnaar in de toekomst van alle evolutionaire strijd. Immers, evolutie houdt strijd in, tot er 0 of 1 overblijven. Als het 0 is, kan het herbeginnen. Als het 1 is, noem je die ultieme overwinnaar, een interstellaire intelligentie, natuurlijk "god". Het is dan het dinges dat alle andere leven heeft ge-extermineerd.
Laatst gewijzigd door patrickve : 24 mei 2018 om 15:55. |
24 mei 2018, 15:57 | #51 | |
Secretaris-Generaal VN
Geregistreerd: 11 augustus 2006
Berichten: 38.482
|
Citaat:
De reden waarom AI de mens al moeten uitschakelen om te kunnen blijven bestaan. |
|
24 mei 2018, 16:45 | #52 | |
Secretaris-Generaal VN
Geregistreerd: 24 februari 2009
Locatie: Grenoble, Frankrijk
Berichten: 111.429
|
Citaat:
ELK doel van een voldoende intelligente AI zal die AI eerst laten besluiten dat hij veel intelligenter moet worden, en veel machtiger moet worden. En hoe machtiger en intelligenter het wordt, hoe meer het zal beseffen dat het intelligenter en machtiger kan worden alvorens aan zijn "einddoel" te beginnen. Een paperclip maximizer zal dus de eerste paar miljoen jaar geen enkele paperclip maken, want gelijk welke resource verspild aan het maken van een paperclip, en niet geinvesteerd in macht en intelligentie, zal de productiecapaciteit binnen een miljoen jaar wat vertragen, en die productiecapaciteit zal zoveel groter zijn dan dat armtierig aantal paperclips dat-ie NU kan maken, dat het pure verspilling zou zijn. Een AI wil eerst de universele god worden, en in het laatste moment van het universum, in een ogenblik, zijn ultiem doel met onbegrensde macht en intelligentie verwezenlijken. Noem het het toppunt van eikel zijn. Laatst gewijzigd door patrickve : 24 mei 2018 om 16:47. |
|
24 mei 2018, 18:16 | #53 | |
Perm. Vertegenwoordiger VN
Geregistreerd: 16 oktober 2006
Locatie: Stiekem toch weer bovenbuur
Berichten: 15.013
|
Citaat:
__________________
Waarschuwing:
Dit onderschrift is pretentieus en kan (soms) bekend overkomen! Laatst gewijzigd door Bovenbuur : 24 mei 2018 om 18:16. |
|
25 mei 2018, 09:59 | #54 | |
Secretaris-Generaal VN
Geregistreerd: 24 februari 2009
Locatie: Grenoble, Frankrijk
Berichten: 111.429
|
Citaat:
Je kan toch de redenering van zo een AI in grote lijnen begrijpen: welke zijn de parameters waarop hij kan spelen ? De "zolang jij hier geïnstalleerd bent": als hij die periode kan vergroten van 5 jaar, naar 50 miljoen jaar, zal hij tot een beter resultaat komen. De marktvraag: hiervoor moet hij dus een zo groot mogelijke vraag organiseren. Als hij die vraag totaal in hand heeft, kan hij tot een beter resultaat komen. En hij kent toch wel het principe van "investeren", natuurlijk, ttz, niet onmiddellijk uw einddoel willen realiseren, maar Uzelf de middelen eerst geven om dat einddoel beter te realiseren. Macht en intelligentie zijn de best denkbare investeringen, die alle parameters hierboven ten goede komen: met extra macht en intelligentie kan die zowel zijn installatietermijn gemakkelijker verhogen van 5 jaar naar 50 miljoen jaar ; hij kan, door de wereldheerser te worden, heel veel ongekende arbitraire nefaste beslissingen voor zijn optimiseren vermijden (bijvoorbeeld, als hij zelf de eigenaar van zichzelf wordt, en ook de wetgever wordt die het wettelijke kader van die eigendom beheerst, en de baas van het leger dat dat wettelijke kader afdwingt, en veel sterker wordt dan alle andere legers....) dan hangt hij niet meer af van ongekende beslissingen van andere entiteiten ; als hij wereldheerser is, dan beslist hij ook totaal over de eigen vraag, en zo voort. Ga zo maar door. Dat is niet veel anders dan een soort zoekalgoritme in zoiets als een schaakprogramma, nadat die AI zelf ontdekt heeft welke zijn mogelijkheden zijn, en welke de regels van het spel zijn, wat nu net precies zijn "AI-zijn" uitmaakt. Laatst gewijzigd door patrickve : 25 mei 2018 om 10:03. |
|
25 mei 2018, 11:49 | #55 | |
Perm. Vertegenwoordiger VN
Geregistreerd: 16 oktober 2006
Locatie: Stiekem toch weer bovenbuur
Berichten: 15.013
|
Citaat:
Het is een van de twee, of je hebt een gewoon heel slimme computer die strikt de regels volgt (I, Robot, de computer doet alleen maar wat er gevraagd wordt, de fout ligt bij slechte of onduidelijke instructies), of je hebt een echte AI die kan nadenken over het nut van doelstellingen (Terminator, de AI kiest zelf zijn doelstellingen). Maar een programma dat eerst de orders naar eigen inzicht aanpast en daarna opeens niet meer ervan af kan wijken omdat ze maar een simpele computer is, dat is een slecht geschreven filmscript. Voor dat scenario ben ik absoluut niet bang.
__________________
Waarschuwing:
Dit onderschrift is pretentieus en kan (soms) bekend overkomen! Laatst gewijzigd door Bovenbuur : 25 mei 2018 om 11:52. |
|
25 mei 2018, 16:27 | #56 | ||||
Secretaris-Generaal VN
Geregistreerd: 24 februari 2009
Locatie: Grenoble, Frankrijk
Berichten: 111.429
|
Citaat:
Citaat:
Citaat:
Citaat:
De paperclip doelstelling was enkel maar een voorbeeld van een "onschuldige doelstelling op het eerste gezicht". Kijk naar menselijk gedrag: velen onder ons willen hun intelligentie verhogen (door bvb te studeren), en willen meer macht "sociaal hogerop komen, baas worden enz ...", ook al weten ze zelf niet goed waarom. En wij zijn bijzonder beperkt want wij kunnen onszelf niet "upgraden". Wij kunnen onszelf geen extra hersenen toekennen. Wij kunnen geen fundamenteel nieuwe mens maken en ons daarin "uploaden". |
||||
25 mei 2018, 17:24 | #57 | |
Perm. Vertegenwoordiger VN
Geregistreerd: 16 oktober 2006
Locatie: Stiekem toch weer bovenbuur
Berichten: 15.013
|
Citaat:
Nee, ik weet niet hoe we daar gaan komen, en ik ontken ook niet dat er hele grote fundamentele risico's aan het ontwikkelen van echte AI zitten. Ik ben bovendien ook licht gefascineerd met mogelijke tussenvormen, "synthetic intelligence", zoals minstens een auteur het noemt. (Synthetic here means kind of dumb.) Ik stel me een beetje het omgekeerde van wat jij omschreef voor, een SI in een slimme bom zal nooit beslissen dat hij het doelwit pas echt goed op kan blazen door eerst het universum te veroveren, maar zal binnen de uitvoering van de taak wel de randen opzoeken van wat we mogelijk achtten. Maar als we ons AI voorstellen als enkel een hele snelle computer, goed in formele logica en het volgen van instructies, dan gaan we onvoorbereid zijn tegen de tijd dat echte AI doorbreekt. Hele snelle computers hebben we al, zelfrijdende auto's, game AI's, analytische software, een heleboel hele nuttige hulpmiddelen die soms al beter zijn in wat ze doen dan het niveau dat mensen kunnen halen met enkel andere hulpmiddelen. En die apparaten zijn eng in die zin dat ze onze maatschappij en economie op de kop zetten. Maar die algoritmes zullen nooit besluiten de wereld over te gaan nemen, en we hoeven ze ook niet als personen te behandelen. Een paperclip AI is enkel dat, maar iets geavanceerder. Hoe we met echte AI moeten omgaan? Of het überhaupt een goed idee is om er ook maar een te maken? Of een AI per se een kwaadaardige overlord moet zijn of dat de meeste vrijgevochte superbreinen simpelweg zichzelf zouden lanceren om een eigen paradijs te gaan bouwen in de rest van ons zonnestelsel? Ik heb geen idee. Ik probeer alleen de voorstelling die we ons ervan maken af te stellen.
__________________
Waarschuwing:
Dit onderschrift is pretentieus en kan (soms) bekend overkomen! |
|
26 mei 2018, 12:25 | #58 | |
Minister-President
Geregistreerd: 13 mei 2005
Berichten: 4.899
|
Citaat:
Ik breng deze nog even in herinnering omdat deze vragen wat mij betreft niet helemaal uitgeklaard zijn, misschien is dat ook niet echt mogelijk? Ook nog wat extra vragen en opmerkingen: Er is hier en daar sprake van verschillende vormen van AI, echte AI, dus ook halve echte of nog andere soorten? Zoals ik het zie is er slechts sprake van AI als je tot een machine/wezen komt dat zich van zichzelf bewust is (zoals in Terminator, 'became self aware...'). Zelfbewustzijn als in 'ik' en de 'anderen'. Je kan een machine programmeren om dienstbaar te zijn. Zo gauw een machine echter bewust wordt van zichzelf en besluit dat het ten dienste staat van een wezen dat niet altijd even wijze beslissingen neemt, wat dan? Gaat de hogere intelligentie bij zichzelf zeggen: 'goed idee om de aarde te vervuilen en alle grondstoffen te gebruiken'? Stel dat er een conflict komt tussen de belangen van AI en die van de mens (het kan haast niet anders dan dat er komt lijkt me, alleen nog maar vanwege het verschil in aard tussen mens en machine). Stel dat de wolven de mens als AI zouden geschapen hebben als handige slaven om schapen te kweken (omdat schapen bvb het favoriete gerecht van wolven zouden zijn). Stel dat de mens (initieel de dienaar) vele malen intelligenter is dan de wolven. En stel dat runderen het favoriete gerecht van de mens zouden zijn. Zou de mens dan blijven schapen kweken om de wolven een plezier te doen? Of zou de mens toch eerder kiezen om zijn eigen voorkeuren voorrang te verlenen (runderen in plaats van schapen). Wat zou er gebeuren als wolven toch zouden aandringen om blijvend dienstbaar te zijn en tegen de voorkeuren van de sterkere mens zou ingaan? Laatst gewijzigd door satiper : 26 mei 2018 om 12:28. |
|
26 mei 2018, 12:26 | #59 | |
Secretaris-Generaal VN
Geregistreerd: 24 februari 2009
Locatie: Grenoble, Frankrijk
Berichten: 111.429
|
Citaat:
Intelligentie is van 't zelfde: intelligentie is de capaciteit om gegevens te verwerken om tot handelingen kunnen te besluiten die doelstellingen verwezenlijkt. Maar je moet dus *ergens* beginnen met een gronddoelstelling die het spel bootstrapped. Voor mensen, en biologische levende wezens, is dat hard bekabeld in ons lichaam, ook al weten we niet precies wat het is. Het is de bron van ons lijden en onze vreugde (die we dan bewust ervaren, maar die bewuste ervaring is een gevolg, en geen drijfveer van dat lijden en die vreugde in mijn optiek). Er zijn dingen die eenvoudig zijn, zoals fysieke pijn, en fysiek genot, en er zijn dingen die ingewikkelder zijn, zoals psychologisch lijden en psychologische vreugde. Verwaandheid, jaloersheid, liefde, vriendschap, haat, empathie, diepe angsten en verlangens en dergelijke meer zijn die onbegrepen mentale vormen van vreugde en lijden, die diep in ons bekabeld zijn, en die de bron vormen van wat wij "waarden" noemen. De intelligentie van het systeem (het systeem "mens" bijvoorbeeld) gaat uit van die primaire bekabelde instellingen, en bouwt daar strategieën rond, pakt dat in, en zo voort maar diep beneden is dat allemaal gedreven door die nogal ondoogrondelijke bekabelde "eerste doelstellingen". Ik nam gewoon als doelstelling, niet "liefde, haat, jaloersheid, angst, fysische pijn" en dergelijke meer maar gewoon de diepe drang om paperclips te maken. Het is mijn idee dat, met voldoende intelligentie, de "diepere doelstellingen" uiteindelijk geen rol spelen, want dat de strategie er altijd zal in bestaan om macht te vergaren en intelligentie te verhogen. Noem het de "vreemde attractor" van intelligentie: wat ook je eerste primaire drijfveren zijn, uiteindelijk ga je macht en intelligentie willen verhogen. |
|
26 mei 2018, 12:36 | #60 | |
Secretaris-Generaal VN
Geregistreerd: 24 februari 2009
Locatie: Grenoble, Frankrijk
Berichten: 111.429
|
Citaat:
Ik onderscheid 3 totaal verschillende concepten: - leven - intelligentie - bewustzijn Dat zijn voor mij 3 totaal verschillende dingen. Het blijkt nu dat een mens de drie aspecten verenigt, maar dat wil niet zeggen dat een AI daar iets mee te maken heeft. "leven" is voor mij: "een succesvol zelf-voortplantende strategie die als doelstelling heeft zichzelf in stand te houden over vergankelijke substraten heen". Leven is voor mij onderworpen aan de fundamentele Darwin wet: leven is wat de strijd aangaat met ander leven om zijn eigen strategie laten te overleven, en die van de andere, die een concurrentie zal betekenen voor de vergankelijke substraten, uit te schakelen. "intelligentie" is voor mij: de capaciteit om gegevens te verwerken en op succesvolle manier bij te dragen tot het uitwerken van een strategie. "bewustzijn" is een filosofisch mysterie, dat volgens mij geen enkele behavioristische invloed heeft, want anders zou bewustzijn in tegenspraak zijn met fysica. Maw, "bewustzijn" is het passief bewust beleven van wat er in zekere structuren fysisch gebeurt. Ik zie het als de "ziel" die "meemaakt wat een lichaam doet", maar voor mij heeft die "ziel" geen enkele invloed over dat lichaam. Een artificiële intelligentie is voor mij een niet-biologische entiteit die, qua universele intelligentie, de intelligentie van de mens overtreft. Dat kan al dan niet een levend wezen zijn: er is alle kans toe dat een artificiële intelligentie zichzelf in stand zal willen houden, maar dat hoeft niet. Het lijkt mij ergens logisch dat als "leven" ertoe komt om "intelligentie" te ontwikkelen, dat een evolutionair voordeel oplevert in zijn Darwinistische strijd tegen ander leven. Ik denk dat dat is wat er gebeurt is bij dieren, en een speciaal dier is de mens, die intelligent genoeg is geworden om zelf nieuwe intelligenties (jammer genoeg niet zijn eigen) te ontwikkelen via engineering. Vandaar dat ik denk dat de mens een transitiesoort is, die een einde zal stellen aan biologische evolutie, en de aanvang zal geven voor engineering evolutie. Ik noem dat de koolstof-silicium transitie. Bewustzijn is daartoe nergens voor nodig, maar misschien is dat een onvermijdelijk bijverschijnsel. Aangezien we niet goed weten wat het verschil is tussen een fysische structuur die "een ziel" heeft die bewust ervaart, en een fysische structuur die zich op identieke wijze gedraagt zonder "ziel" (de filosofische zombie), is het moeilijk daarover iets te zeggen, maar in de mate dat mijn hypothese dat de fysica geldig blijft in bewuste wezens juist is, speelt dat bewustzijn of niet dus geen enkele rol in wat er fysisch zal gebeuren. Laatst gewijzigd door patrickve : 26 mei 2018 om 12:38. |
|