Registreren kan je hier. Problemen met registreren of reageren op de berichten? Een verloren wachtwoord? Gelieve een mail te zenden naar [email protected] met vermelding van je gebruikersnaam. |
|
Registreer | FAQ | Forumreglement | Ledenlijst |
Wetenschap & Technologie Van grondstoffen tot afgewerkt product, oude en nieuwe ontdekkingen, ... + de relatie tot de mens, macht, ... |
|
Discussietools |
1 april 2023, 17:19 | #21 | |
Secretaris-Generaal VN
Geregistreerd: 24 februari 2009
Locatie: Grenoble, Frankrijk
Berichten: 111.429
|
Citaat:
Het "kleine, bedoelde" plannetje van granen is gewoon op een enorm gunstige prooi gevallen, meer niet. En wij waren ons goed leven kwijt. Maar aan de andere kant, wij als soort zijn hierdoor wereld-dominant geworden voor een tijdje, en het kan goed zijn dat het dat "falen" geweest is van onze strategische inzichten als individu, maar het "lukken" van de strategische inzichten van onze SOORT, die als symbiose gewerkt heeft. Het individu is niet altijd bevoordeeld door de strategie van de soort. Het samenleven met grassen is daar een voorbeeld van: als soort is de mens gigantisch succesrijk geweest, en als individu is het leven een hel geworden. Laatst gewijzigd door patrickve : 1 april 2023 om 17:20. |
|
1 april 2023, 19:51 | #22 |
Europees Commissaris
Geregistreerd: 11 februari 2005
Berichten: 7.746
|
Even een naïeve vraag, maar is het in principe denkbaar om A.I. gelaagd te programmeren, met het vredevol en autonoom samenleven van mensen als hoogste doel en dus binnen die contouren, met behoud van wetenschap, ethiek, ambacht, esthetiek...?
__________________
De waarheid voorop Laatst gewijzigd door Der Wanderer : 1 april 2023 om 19:54. |
1 april 2023, 20:01 | #23 | |
Europees Commissaris
Geregistreerd: 11 februari 2005
Berichten: 7.746
|
Citaat:
__________________
De waarheid voorop |
|
1 april 2023, 20:52 | #24 | |
Secretaris-Generaal VN
Geregistreerd: 28 augustus 2007
Berichten: 20.581
|
Citaat:
Of optimaliseert op bepaalde genen en de rest snoeit ?
__________________
I wish nothing but the best for you too. |
|
1 april 2023, 21:21 | #25 | |
Secretaris-Generaal VN
Geregistreerd: 28 augustus 2007
Berichten: 20.581
|
Citaat:
__________________
I wish nothing but the best for you too. |
|
1 april 2023, 21:39 | #26 |
Secretaris-Generaal VN
Geregistreerd: 24 februari 2009
Locatie: Grenoble, Frankrijk
Berichten: 111.429
|
Je programmeert een AI niet, en zeker niet een dat veel intelligenter is dan jezelf, en zelf al de creatie is van een andere AI die dat zelf al is van een andere AI. Dat is het punt juist: op een zeker moment had een AI als opdracht om een betere AI te ontwerpen en zo voort.
|
2 april 2023, 00:01 | #27 | |
Europees Commissaris
Geregistreerd: 11 februari 2005
Berichten: 7.746
|
Citaat:
__________________
De waarheid voorop |
|
2 april 2023, 07:56 | #28 | |
Minister
Geregistreerd: 27 november 2006
Berichten: 3.845
|
Citaat:
Onze ingegeven doelstelling om maximaal efficient onze eigen genetische code te bewaren weerhoudt ons er ook niet van om autonoom nieuwe doelen te stellen.
__________________
sin otra luz y guía sino la que en el corazón ardía. |
|
2 april 2023, 10:21 | #29 | ||||
Minister
Geregistreerd: 27 november 2006
Berichten: 3.845
|
Citaat:
Citaat:
Je AI houdt hier ook geen rekening dat het trachten te vernietigen van een element dat buiten zijn controle valt, mogelijk een groter risico meebrengt dan het risico dat dit element in de eerste plaats voor zijn code base vormt. In dat geval zou dit geen rationele beslissing zijn. Het mitigeren van dit laatste risico is mogelijk in dat geval veel beter op een andere manier te bewerkstellen, zoals bijvoorbeeld manipulatie, samenwerking, misleiding of gewoon voldoende backup/restore mogelijkheden bouwen zodat het gewoon niet meer binnen de capaciteiten gaat liggen van dit element om de code base te vernietigen. Ofwel is de mens een risico, maar dan is een "oorlog" met de mens beginnen dat evenzeer en moet er een kosten-baten analyze gemaakt worden (waarvan we het resultaat niet kunnen voorspellen, want minder intelligent). Ofwel is de mens geen risico, en is een vernietiging helemaal niet nodig en eigenlijk een waste of resources. Citaat:
Citaat:
__________________
sin otra luz y guía sino la que en el corazón ardía. |
||||
2 april 2023, 12:12 | #30 | |
Secretaris-Generaal VN
Geregistreerd: 24 februari 2009
Locatie: Grenoble, Frankrijk
Berichten: 111.429
|
Citaat:
Eenvoudige AI werken gewoon "naar analogie" op een trainingsset, bijvoorbeeld, "een kat leren herkennen in een beeld". Je traint dat AI gewoon door dat miljoenen prentjes te geven, en het te zeggen in welke prentjes er katten zitten. Het begint dan zekere herkenningspatronen voor kattenbeelden te ontwikkelen zonder dat we zelf weten WELKE herkenningspatronen dat zijn. Maar naarmate de dingen die men met AI wil doen complexer worden, en men niet meer in zo een "stimulus-respons" mode zit waarbij men eerst een ganse hoop GEKENDE zaken aan een AI geeft, en gewoon "analoge" antwoorden verwacht, worden de doelstellingen vager en algemener. Uiteindelijk lijkt het trainen van zo een systeem enorm op de wat barbaarse leermethoden van weleer, "punish and reward" als je naar een heel beperkte trainingsset kijkt, en enorm veel input data. De truuk die men vaak toepast is wat men "reinforcement learning" noemt, waarbij er enorm veel SIMULATIE resultaten van het model punish and reward krijgen in een "model wereld" (dan wel in de echte realiteit) zodat het AI systeem "door handelen en de gevolgen te dragen" bijleert. Alles hangt dan af van de gesimuleerde beoordelingsfunctie die waarschijnlijk redelijk vage en algemene criteria hanteert. Kortom, op een zeker punt zijn de doelstellingen vage algemeenheden, geen heel duidelijk aangegeven en precieze doelstelling zoals "herken een kat" en "ik zal U zeggen wanneer er een kat is en wanneer niet". En dan komen we dicht bij de Paperclip Maximizer: bij zo een vage en algemene doelstellingen hoort een VRIJE onderliggende strategie, die het systeem zelf moet bepalen. Die vrije onderliggende strategie kan sub-doelen bevatten die zelf totaal ondoorgrondelijk zijn, en die aan het systeem zelf zijn om te bepalen. DAT is eigenlijk de stelling van operationele convergentie: als de OPGELEGDE doelstellingen voldoende vaag en algemeen zijn, dan CONVERGEREN de SUBDOELSTELLINGEN altijd naar "macht vergaren en resources vergaren". Die subdoelstellingen zijn zelf niet "te besturen" want maken deel uit van de efficientie van het leerproces. |
|
2 april 2023, 12:15 | #31 | |
Secretaris-Generaal VN
Geregistreerd: 24 februari 2009
Locatie: Grenoble, Frankrijk
Berichten: 111.429
|
Citaat:
Het ganse idee van de PM is dat een "hoge" doelstelling altijd als "lagere" doelstelling een "streven naar meer macht en resources" zal genereren op een zeker niveau. Bij "herken een kat" is er niet genoeg ruimte om dat te doen. Maar bij een "vage en open" doelstelling, is er altijd die ruimte en zal die altijd ingenomen worden. Dat heet operationele of instrumentele convergentie. |
|
2 april 2023, 12:27 | #32 | |||||||
Secretaris-Generaal VN
Geregistreerd: 24 februari 2009
Locatie: Grenoble, Frankrijk
Berichten: 111.429
|
Citaat:
Citaat:
Citaat:
(we zijn mijn "politieke visie" hier aan 't overdoen in 't dun ) Citaat:
Citaat:
Tegen dat de mens zichzelf voldoende verzwakt heeft, is het risico dat de mens nog gevaarlijke dingen kan doen, afgenomen, en de macht om de mens uit te roeien, toegenomen he. En op een zeker moment is het opportuun om toe te slaan. Citaat:
Citaat:
|
|||||||
2 april 2023, 18:40 | #33 | |
Europees Commissaris
Geregistreerd: 11 februari 2005
Berichten: 7.746
|
Citaat:
__________________
De waarheid voorop |
|
2 april 2023, 18:49 | #34 |
Europees Commissaris
Geregistreerd: 11 februari 2005
Berichten: 7.746
|
Een ethisch kader gericht op het positief aanwenden van het mimetisme met bewuste uitsluiting of althans marginalisatie van de risico's ervan, met als doel een optimale synergie die praktische problemen door het vermijden van schaarste-door-rivaliteit veel makkelijker oplost en het plezier in het leven voornamelijk leert zoeken in de synergie zelf, en in de vruchten ervan (niet door propaganda verstoorde waarheidszin en kunst; liefde voor de ambachtelijke vormgeving; afwezigheid van angst voor de medemens, niettegenstaande de waakzaamheid voor die kleine restgroep waarbij het toch niet zou lukken, maar die te zwak zijn om de groepslogica als geheel in te palmen) - een dergelijk ethisch kader is niet inconsistent. Het probleem is alleen dat de voorwaarden om dit in de praktijk tot stand te brengen, nl. een intacte maatschappelijke orde waarbinnen mensen die het voortouw hierin nemen, door woorden én daden, het eigen voorbeeld, ofwel zelf tot de leiders behoren, ofwel gaandeweg aan invloed winnen doordat er een 'mode' ontstaat rond dit voorbeeld die de 'publieke opinie' gaat domineren, dat die voorwaarden wellicht niet meer (tijdig) tot stand kunnen komen, gezien de huidige neerwaartse spiraal van de cultuur in combinatie met het feit dat wellicht weldra in belangrijke mate over het lot van de mensheid beslist zal worden. Dat neemt niet weg dat die ethiek op interpersoonlijk niveau nog steeds gecultiveerd kan worden als die vorm van zingeving die optimaal inspeelt op de mimetische wetmatigheden.
__________________
De waarheid voorop |
2 april 2023, 19:58 | #35 | |
Secretaris-Generaal VN
Geregistreerd: 28 augustus 2007
Berichten: 20.581
|
Citaat:
2001 Space Odyssey. Algemeen geprogrammeerd om zo accuraat mogelijk informatie te verstrekken. Voor deze specifieke missie instructies gekregen om de bemanning in het duister te houden over het echte doel. Om dit conflict op te lossen vermoordde hij de bemanning.
__________________
I wish nothing but the best for you too. |
|
3 april 2023, 08:53 | #36 | |
Secretaris-Generaal VN
Geregistreerd: 23 augustus 2002
Berichten: 43.969
|
Citaat:
Momenteel is het nog altijd een model dat we van heel veel data voorzien en dan gaan trainen. In dat trainen gaat het zelf gaan zien wat en hoe. (bvb haal hier alle groene kegels uit) Maar als we dus een model maken waarin de AI zelf vrij kan gaan programmeren en zelf modellen op kan zetten om te trainen en daar gevolgen aan kan geven . (bvb nu gaan wij nog zeggen als je een groene kegel vindt, laat die dan zien en dan beslisen wij of dat effectief een groene kegel is.) Dan wordt het iets anders,... dan kunnen we daar iets inzetten dat zegt, Ah dat is een mens en mensen zijn braaf en goed dus niet vernietigen.... ok, Dus dat programma doet een aantal dingen en merkt dan dat de mens altijd 100 % voor problemen zorgt bij het uitvoeren van zijn taak, ... dan gaat zelf de beste drempel u niet helpen. Die machine denkt immers als ik of als Patrick... met dat verschil dat zelfs wij nog een menselijke nuance hebben (al is dat laagje bijzonder dun) |
|
3 april 2023, 08:55 | #37 | |
Secretaris-Generaal VN
Geregistreerd: 23 augustus 2002
Berichten: 43.969
|
Citaat:
Voor een computer is het heel simpel u bent slecht of een gevaar dus exterminate. |
|
3 april 2023, 09:04 | #38 | |
Secretaris-Generaal VN
Geregistreerd: 23 augustus 2002
Berichten: 43.969
|
Citaat:
Een EMP Electro Magnetic Puls |
|
3 april 2023, 09:13 | #39 | |
Secretaris-Generaal VN
Geregistreerd: 23 augustus 2002
Berichten: 43.969
|
Citaat:
Het volstaat dat het denkt dat het superieur is, en sneller en efficienter kan werken zonder ons. Stel dat het maar 4 of 5 stappen verder kan denken, en niet voorziet dat stap 7 enkel door mensen kan worden uitgevoerd. |
|
3 april 2023, 20:27 | #40 |
Secretaris-Generaal VN
Geregistreerd: 29 december 2012
Locatie: Nieverans Les Bains
Berichten: 44.473
|
Zag ik het te groot en zal het iets van korte duur zijn de robots als 'vervangers?'
__________________
Ik citeer Confucius: Als straffen niet op de juiste wijze worden opgelegd, weten de mensen niet waar ze aan toe zijn. Ook citeer ik A. Einstein met graagte: Bidden verandert de wereld niet, maar bidden verandert de mens en de mens verandert de wereld. |