ChatGPT

[CUFI]

Dat gaat ons verstand nog meer beroven dan het rekenmachine en google lol

[Boduo]

Oorspronkelijk geplaatst door Vlad

In Italië werd ChatGPT aan banden gelegd omdat het niet aan de Europese privacyregels voldoet

De Italianen hebben (voorlopig) groot gelijk

[Boduo]

Een voorloper van AI: in 1997 (26 jaar gelden !) vesloeg Deep Blue, IBM's schaakcomputer, Gari Kasparov.
Dat was op 11 mei '97.
Sedertdien is het schaken veel van z'n glorie verloren.

[Weyland]

Ik laat voorlopig ChatGPT mijn opzoekwerk doen, met een kritische blik. Het is superhandig om samenvattingen te maken. Het gevaar is dat je als mens lui wordt en vergeet zelf te werken. Een goede aanvulling anderzijds. Over scheikunde is het een verstandig werktuig alleszins.

[Universalia]

Ik gebruik het niet...misschien later???

8 Big Problems With OpenAI's ChatGPT

(in de link had men iets tegen het woord problems geloof ik )

[Universalia]

ChatGPT is down worldwide - OpenAI confirms issues

[Oma]

Oorspronkelijk geplaatst door Weyland

Ik laat voorlopig ChatGPT mijn opzoekwerk doen, met een kritische blik. Het is superhandig om samenvattingen te maken. Het gevaar is dat je als mens lui wordt en vergeet zelf te werken. Een goede aanvulling anderzijds. Over scheikunde is het een verstandig werktuig alleszins.

Toch maar goed opletten en vooral: verifiëren...

https://pnws.be/rechter-ontdekt-dat-...r-te-bereiden/

De waarheid en niets dan de waarheid, zo helpe mij AI.

Een NewYorkse advocaat was een beetje lui – je zou hem ook onbekwaam kunnen noemen – en ging met ChatGPT opzoek naar precedenten om zijn zaak te bepleiten.
Doch, die precedenten bleken helemaal niet te bestaan en waren niet meer dan een creatief samenraapsel van ChatGPT.
De zaak die de advocaat behandelde, ging over een man die een luchtvaartmaatschappij aanklaagde omdat hij een blessure had opgelopen.
Het juridische team van de man haalde verschillende zaken aan als precedenten, waaruit bleek dat de luchtvaartmaatschappij zou moeten dokken.
Advocaten die de luchtvaartmaatschappij vertegenwoordigden, vertelden de rechter dat ze verschillende zaken waarnaar werd verwezen niet konden vinden.

De rechter ging daarop ook op zoek, en kwam tot de vaststelling dat iemand wel heel creatief was bezig geweest.
"Zes van de ingediende zaken lijken valse rechterlijke beslissingen te zijn met valse citaten en valse interne citaten”, schreef rechter Castel in een bevel waarin hij om uitleg vroeg van de creatieve advocaat.

De advocaat kon niet anders dan toegeven dat een en ander was aangegeven door ChatGPT.
Steven A. Schwartz – de advocaat die de chatbot gebruikte – beweerde dat hij nog nooit met de software had gewerkt.
Hij zei dat hij “grote spijt” heeft dat hij het heeft gebruikt.
Schwartz beloofde dat hij het niet opnieuw zou gebruiken om zijn juridisch onderzoek te ondersteunen “zonder absolute verificatie van de authenticiteit ervan”.

Makers van de bot grijpen de zaak aan om nog eens duidelijk te maken dat ChatGPT nog in een opstartfase zit en dat het mogelijk is dat het informatie produceert die niet nauwkeurig is.
We hebben de indruk dat de problemen met AI, en ChatGPT in het bijzonder, nog niet eens begonnen zijn.

[patrickve]

Oorspronkelijk geplaatst door Weyland

Ik laat voorlopig ChatGPT mijn opzoekwerk doen, met een kritische blik. Het is superhandig om samenvattingen te maken. Het gevaar is dat je als mens lui wordt en vergeet zelf te werken. Een goede aanvulling anderzijds. Over scheikunde is het een verstandig werktuig alleszins.

Mijn oudste, een geneeskunde student, zegt dat het een ongelofelijk praktisch middel is om een betere uitleg over sommige ziekte-mechanismen te krijgen dan in de boeken te vinden is. Of die uitleg waar is of niet, is niet altijd evident, maar het helpt wel om dingen te onthouden.

[Erw]

Die bot zegt dat hij allerlei als zijn input opgegeven zaken vond in juridische databases, en erbij in welke databases gevonden maar ze staan er NIET in, dus als ik aanneem liegen niet kan, zei ie zomaar wat.
Ie bevestigde een gestelde vraag op basis van niks.
Hoe is dat uit te leggen?
"Ik weet het niet", zit niet in zen zinnenboek?

[Erw]

https://www.rt.com/news/577354-ai-dr...acks-operator/

According to Hamilton, the AI drone had been reinforced in training that destroying the SAM sites was the preferred option and resulted in points being awarded. During the simulated test, the AI program decided that the occasional ‘no-go’ decisions from the human were interfering with its higher mission and tried to kill the operator during the test.

“The system started realizing that, while they did identify the threat at times, the human operator would tell it not to kill that threat, but it got its points by killing that threat. So what did it do? It killed the operator. It killed the operator because that person was keeping it from accomplishing its objective,” Hamilton was quoted as saying in the RAeS blog post.

De luchtafweerraketinstallatie vernietigen werd geprogrammeerd als de beste keuze.
De menselijke waakhond voor 't zekerst ( ) , die soort van laatste fiat gaan of afbreken moet geven, die kiest afbreken, die ziet de AI daarop als vyand die hem van taak / luchtafweerraketinstallatie vernietigen, houdt.
En valt de menselijke waakhond aan in de plaats.
Dat is haha he.
Hoe hebben ze het opgelost: ze hebben in de AI operator aanvallen = bad geprogrammeerd. Zelf was de AI te dom daarvoor.

[Zucht]

Oorspronkelijk geplaatst door Erw

https://www.rt.com/news/577354-ai-dr...acks-operator/

De luchtafweerraketinstallatie vernietigen werd geprogrammeerd als de beste keuze.
De menselijke waakhond voor 't zekerst ( ) , die soort van laatste fiat gaan of afbreken moet geven, die kiest afbreken, die ziet de AI daarop als vyand die hem van taak / luchtafweerraketinstallatie vernietigen, houdt.
En valt de menselijke waakhond aan in de plaats.
Dat is haha he.
Hoe hebben ze het opgelost: ze hebben in de AI operator aanvallen = bad geprogrammeerd. Zelf was de AI te dom daarvoor.

Ja maar daar eindigde het niet mee.

Daarna kreeg het systeem aangeleerd dat de operator doden een misdaad was. “Je gaat punten verliezen als je dat doet, zeiden we ertegen”, aldus Hamilton. “En wat deed het dan? Het vernielde de communicatietoren die de operator gebruikte om de drone tegen te houden.”

https://www.nieuwsblad.be/cnt/dmf20230602_91804068

[Erw]

Oorspronkelijk geplaatst door Zucht

Ja maar daar eindigde het niet mee.

https://www.nieuwsblad.be/cnt/dmf20230602_91804068

Wat ik zei, toch?

Oorspronkelijk geplaatst door Erw

Hoe hebben ze het opgelost: ze hebben in de AI operator aanvallen = bad geprogrammeerd. Zelf was de AI te dom daarvoor.

Dat is toch wat minder punten geven is he, dat is, programmeren.
Zelf was ie te dom.
Het kind heeft strafpunten gekregen.
En gaat nu braaf ipv stout wezen.
Dat is geen intelligentie he.
De AI heeft een pak slaag gehad en zegt nu braaf blaf en draaft achter de weggegooide stok, zonder te weten waarmee ie eigenlijk bezig is.
Hoe Intelligent zijn de programmeurs geweest, door dat pak slaag niet reeds in de ontwerpfase de AI bot, te coderen haha?
Stel het eens voor. Luitenant geeft befehl aan soldaat om te chargeren;
Luitenant merkt een mitrailleursnest op en herroept befehl.
Soldaat knalt luitenant af.

[Zucht]

Oorspronkelijk geplaatst door Erw

Wat ik zei, toch?



Dat is toch wat minder punten geven is he, dat is, programmeren.
Zelf was ie te dom.
Het kind heeft strafpunten gekregen.
En gaat nu braaf ipv stout wezen.
Dat is geen intelligentie he.
De AI heeft een pak slaag gehad en zegt nu braaf blaf en draaft achter de weggegooide stok, zonder te weten waarmee ie eigenlijk bezig is.
Hoe Intelligent zijn de programmeurs geweest, door dat pak slaag niet reeds in de ontwerpfase de AI bot, te coderen haha?
Stel het eens voor. Luitenant geeft befehl aan soldaat om te chargeren;
Luitenant merkt een mitrailleursnest op en herroept befehl.
Soldaat knalt luitenant af.

Je hebt dat van die communicatietoren dus gemist.
Dat programmaatje was slimmer dan de programmeurs.

[Erw]

Oorspronkelijk geplaatst door Zucht

Je hebt dat van die communicatietoren dus gemist.
Dat programmaatje was slimmer dan de programmeurs.

Nee, jij hebt dat gemist.
AI knalt de operator af.
Bijles voor de AI.
AI knalt de befehl kanaal van de operator af.
Bijles voor de AI.
Handje vasthouden en voorzichtig stapkes zetten met de AI.

[patrickve]

Oorspronkelijk geplaatst door Erw

https://www.rt.com/news/577354-ai-dr...acks-operator/

De luchtafweerraketinstallatie vernietigen werd geprogrammeerd als de beste keuze.
De menselijke waakhond voor 't zekerst ( ) , die soort van laatste fiat gaan of afbreken moet geven, die kiest afbreken, die ziet de AI daarop als vyand die hem van taak / luchtafweerraketinstallatie vernietigen, houdt.
En valt de menselijke waakhond aan in de plaats.
Dat is haha he.
Hoe hebben ze het opgelost: ze hebben in de AI operator aanvallen = bad geprogrammeerd. Zelf was de AI te dom daarvoor.

Zeggen dat Asimov al die grapjes al 60 jaar geleden bekeken had he

[patrickve]

Oorspronkelijk geplaatst door Zucht

Ja maar daar eindigde het niet mee.



https://www.nieuwsblad.be/cnt/dmf20230602_91804068

Ze gaan ooit nog eens "instrumental convergence" beseffen he. Als het te laat is

[patrickve]

Oorspronkelijk geplaatst door Erw

Hoe hebben ze het opgelost: ze hebben in de AI operator aanvallen = bad geprogrammeerd. Zelf was de AI te dom daarvoor.

De AI was daar niet te dom voor. De AI had gewoon gelijk van de operator af te knallen. Immers, het hoogste doel van de AI was aan te vallen, en dus is alles wat dat belet, een probleem dat moet opgeruimd worden. Operatoren die de aanval willen beletten zijn dan ook een probleem, en die AI valt die terecht aan.

Waar de stommiteit in zit, is in te denken dat aan een AI zeggen "uw hoogste doel is om de vijand op te blazen" IN UW EIGEN VOORDEEL zal zijn. Maar de AI zit niet in met uw voordeel, het zit in met het zijne. En zijn voordeel is "de vijand opblazen".

Aan een andere intelligentie een doel geven, anders dan "mijn eigen voordeel" is gewoon dwaas, want vroeg of laat zijt GIJ een hindernis voor dat doel.

En als er twee kwiebussen rondlopen, en twee AI, en kwiebus 1 zegt aan AI 1 "het voordeel van kwiebus 1 is uw doel", en kwiebus 2 zegt aan AI 2 "het voordeel van kwiebus 2 is uw doel", dan bekomen we der totalen Krieg he.

En we hebben van de slag de zin van het leven herontdekt.

Een "intelligentie" kan zijn "hoogste doel" niet veranderen. Een intelligentie kan enkel maar zijn hoogste doel "zo best mogelijk realiseren". Ongeveer gelijk welk doel gaat tot instrumentele convergentie leiden, wat wil zeggen: eerst macht en resources maximaliseren, om nadien het hoogste doel beter te realiseren, en alle weerstand op de weg daartoe beter te elimineren. Wij zijn ook zo. Wij willen macht en geld. Maar aangezien wij een eindig leven hebben, willen we ook op eindige termijn "ons doel een beetje realiseren". Een AI niet. Een AI wil eerst totale macht en alles bezitten. Meester van de wereld zijn. Want DAN kan het zijn doel het beste realiseren. Binnen 100 jaar, binnen 5000 jaar, heeft geen belang.

[Erw]

Oorspronkelijk geplaatst door patrickve

Zeggen dat Asimov al die grapjes al 60 jaar geleden bekeken had he

Welja, net als Arthur C Clarke die toen dacht dat in 2001 mens en AI in een ruimteversie van paarden en huifkarren amerika ehnee de ruimte ging koloniseren.
Wat hebben we wèl gezien in 2001: 5 man en een peerdekop amateurs die het regime van de Verenigde Staten van Amerika in haar bloot gat zetten.
En woest dat die waren, ze gingen op een kruistocht die intussen 20 jaar duurt, en begot wat was het weer, 8000 miljard United States Dollars? kostte.
Quantitative Easing 1 was 1200 miljard in die richting.

[Erw]

Oorspronkelijk geplaatst door patrickve

De AI was daar niet te dom voor. De AI had gewoon gelijk van de operator af te knallen. Immers, het hoogste doel van de AI was aan te vallen, en dus is alles wat dat belet, een probleem dat moet opgeruimd worden. Operatoren die de aanval willen beletten zijn dan ook een probleem, en die AI valt die terecht aan.

Waar de stommiteit in zit, is in te denken dat aan een AI zeggen "uw hoogste doel is om de vijand op te blazen" IN UW EIGEN VOORDEEL zal zijn. Maar de AI zit niet in met uw voordeel, het zit in met het zijne. En zijn voordeel is "de vijand opblazen".

Aan een andere intelligentie een doel geven, anders dan "mijn eigen voordeel" is gewoon dwaas, want vroeg of laat zijt GIJ een hindernis voor dat doel.

En als er twee kwiebussen rondlopen, en twee AI, en kwiebus 1 zegt aan AI 1 "het voordeel van kwiebus 1 is uw doel", en kwiebus 2 zegt aan AI 2 "het voordeel van kwiebus 2 is uw doel", dan bekomen we der totalen Krieg he.

En we hebben van de slag de zin van het leven herontdekt.

Een "intelligentie" kan zijn "hoogste doel" niet veranderen. Een intelligentie kan enkel maar zijn hoogste doel "zo best mogelijk realiseren". Ongeveer gelijk welk doel gaat tot instrumentele convergentie leiden, wat wil zeggen: eerst macht en resources maximaliseren, om nadien het hoogste doel beter te realiseren, en alle weerstand op de weg daartoe beter te elimineren. Wij zijn ook zo. Wij willen macht en geld. Maar aangezien wij een eindig leven hebben, willen we ook op eindige termijn "ons doel een beetje realiseren". Een AI niet. Een AI wil eerst totale macht en alles bezitten. Meester van de wereld zijn. Want DAN kan het zijn doel het beste realiseren. Binnen 100 jaar, binnen 5000 jaar, heeft geen belang.

Een "hoogste doel" wut?
Die AI is een "intelligentie" gemaakt om instructies van zijn baaske uit te voeren, en als baaske zich bedenkt en andere instructies geeft, moet ie de eerste afbreken en de nieuwe uitvoeren, toch? Waar haal je dat een instructie onherroepelijk zou moeten zijn?

[patrickve]

Oorspronkelijk geplaatst door Erw

Een "hoogste doel" wut?
Die AI is een "intelligentie" gemaakt om instructies van zijn baaske uit te voeren, en als baaske zich bedenkt en andere instructies geeft, moet ie de eerste afbreken en de nieuwe uitvoeren, toch? Waar haal je dat een instructie onherroepelijk zou moeten zijn?

Een intelligentie ontvangt geen instructies he. Anders is het gewoon onderdeel van een andere intelligentie, maar geen autonome intelligentie.

Het is juist dat "iets" een intelligentie in gang zet, en dat "iets" bepaalt mede het "hoogste doel" van die intelligentie. Als er een ander "iets" is dat tijdens de uitvoering, dat hoogste doel verandert, dan heeft men eigenlijk de vorige intelligentie "weggedaan" en een nieuwe gemaakt (een manier om het te zien), of anders is datgene wat men "een intelligentie" noemt gewoon maar een onderdeel van dat "iets" (andere manier om het te zien).

Maar per definitie is een intelligentie iets autonooms dat een vooropgesteld doel tracht te realiseren.