Computernerds

[Visjnu]

Oorspronkelijk geplaatst door CUFI

Te zien waarvoor je hem gebruikt? Voor memez Grok
Ol te coderen kunt ge best co pilot pakken. Die kan ineens uw bestanden lezen in visual studio code.

Of Cursor.

Als ge privacy wilt, draait ge best uw AI zelf op een lokale server. Deepseek R1 is gratis te downloaden, maar de volledige versie is paar honderd gb. Ge hebt ook lite versies of die ge betalend op hun server kunt raadplegen.

Is een optie, gewoon LM Studio (https://lmstudio.ai/) downloaden en kijken welk model je van Hugging Face kan downloaden. Hoeft niet Deepseek te zijn, keuze genoeg.

Wil je echter lokaal een AI draaien vergelijkbaar is snelheid en inzicht met ChatGPT, Grok, Claude,... dan ga je echter serieus moeten investeren in hardware. Misschien kom je wel al ver met een tinybox, maar dat is toch nog 15.000-30.000 euro :/

Als je een vergelijkbaar product wil, maar privacy echt een prioiteit is, dan is Magistral van Mistral misschien een optie. Is EU based, en valt dus onder GDPR en andere EU privacy reguleringen.

Ge kunt er ook ene zelf trainen. Llama. https://www.llama.com/

Dat is ook een pre-trained model. Om zelf een model te trainen heb je een datacenter nodig.

[Visjnu]

Oorspronkelijk geplaatst door CUFI

Ah maar ik gebruik daarvoor nu allemaal linux op nog geen 15 watt.
Simulaties draaien, dag en nacht.
En zonder co pilot was ik nu nog aan het zoeken. Pas geïnstalleerd als ik het wou. En das rechtreeks in visual studio code geïnstalleerd. Die maakt ineens ne tree en al aan, ganse websites in python, php, databasen,...
Op het einde van de rit bespaar je weken werk. Als leek maanden/jaren. Ik vond hem qua programmeren zeer sufficient.

AI is handig.

Al eens gekeken naar Crew AI (https://www.crewai.com/open-source)? Dat toont al waar we naartoe gaan met AI agents...

[CUFI]

Oorspronkelijk geplaatst door Visjnu

Of Cursor.


Is een optie, gewoon LM Studio (https://lmstudio.ai/) downloaden en kijken welk model je van Hugging Face kan downloaden. Hoeft niet Deepseek te zijn, keuze genoeg.

Wil je echter lokaal een AI draaien vergelijkbaar is snelheid en inzicht met ChatGPT, Grok, Claude,... dan ga je echter serieus moeten investeren in hardware. Misschien kom je wel al ver met een tinybox, maar dat is toch nog 15.000-30.000 euro :/

Als je een vergelijkbaar product wil, maar privacy echt een prioiteit is, dan is Magistral van Mistral misschien een optie. Is EU based, en valt dus onder GDPR en andere EU privacy reguleringen.


Dat is ook een pre-trained model. Om zelf een model te trainen heb je een datacenter nodig.

Ja dat verbruikt he. Ik heb zo'n pre trained model proberen verder trainen, maar mijn hardware staat het niet toe.
Die Nvidea Jetson lijkt me wel een goed begin om als amateur te beginnen. Maar geootschalige acties vereisen wel een server elders.
Die van google zou naart schijnt het beste zijn omdat die verbonden is met een gigantisch geheugennetwerk. Nog iets anders dan gpu waar ik ben vergeten hoe het heet.

[CUFI]

Oorspronkelijk geplaatst door Visjnu

Al eens gekeken naar Crew AI (https://www.crewai.com/open-source)? Dat toont al waar we naartoe gaan met AI agents...

Page not found
https://www.crewai.com/

Ik zal het vanavond of morgen eens op mijn gemak bekijken.
Maar die operator van openai ziet er wel de shit uit om workspaces uit te werken.
Momenteel nog aan het vechten met een api om dag en nacht te laten traden.
Zou graag een AI daarin kunnen opleiden. Maar dat kost servers.

[Visjnu]

Oorspronkelijk geplaatst door CUFI

Page not found

https://www.crewai.com/open-source

Forum plakte er precies ")?" aan

CrewAI is een framework om workflows te maken met een "crew" van verschillende AI-agents. Ik denk dat in de nabije toekomst de vraag naar de kennis en kunde om processen hiervoor te ontwerpen en dit soort teams van AI-agents aan te sturen enorm gaat toenemen.

Waarschijnlijk wel beter om eerst ervaring op te doen met het bouwen van AI-agents zelf. Hiervoor vond ik de volgende introductie wel heel goed: https://www.youtube.com/watch?v=bZzy...l=DaveEbbelaar (AI agents in puur Python en de OpenAI API).

[CUFI]

Oorspronkelijk geplaatst door Visjnu

https://www.crewai.com/open-source

Forum plakte er precies ")?" aan

CrewAI is een framework om workflows te maken met een "crew" van verschillende AI-agents. Ik denk dat in de nabije toekomst de vraag naar de kennis en kunde om processen hiervoor te ontwerpen en dit soort teams van AI-agents aan te sturen enorm gaat toenemen.

Waarschijnlijk wel beter om eerst ervaring op te doen met het bouwen van AI-agents zelf. Hiervoor vond ik de volgende introductie wel heel goed: https://www.youtube.com/watch?v=bZzy...l=DaveEbbelaar (AI agents in puur Python en de OpenAI API).

Zelfs die operators van openai gebruiken Pyhon, Playwright peinsek.
Het is dat leren dat veel gpu vereist. Zonder gpu had ik maar tiental woorden per minuut, met gpu ging dat iets sneller.

Wilt ge dus dat die operator of agent deftig renderen, moet je een server huren of een goede gpu hebben.

Ik ben dan maar naar de eenvoud gegaan dat zelfs 4gb ram aankan met nog taken op de achtergrond Maar het is nog niet rendabel, in een demo omgeving net 3500 euro verlies gedraaid op 12h tijd op 3 posities.