Nieuws:

Welkom, Gast. Alsjeblieft inloggen of registreren.
Heb je de activerings-mail niet ontvangen?

Auteur Topic: FOSS chatGPT alternatief?  (gelezen 2244 keer)

Offline Tuxjo

  • Lid
FOSS chatGPT alternatief?
« Gepost op: 2023/10/20, 17:00:54 »
Ik ben aan het rondneuzen geweest naar een FOSS alternatief voor chatGPT. Die zijn er wel voor zover ik kan nagaan en ik heb er een uitgeprobeerd maar die gaf foutmeldingen en was heel traag.

Weet iemand een gedegen alternatief dat net zo soepel, snel en goed werkt als chatGPT? Of vraag ik op dit moment iets onmogelijks ;)?

Offline bart85

  • Lid
Re: FOSS chatGPT alternatief?
« Reactie #1 Gepost op: 2023/10/20, 17:37:28 »
Met welke reden wil je dat het opensource is?
Je leert maar mooi over weg gaan met de commandline.
Linus: "I'm happy with the people who are wandering around looking at the stars but I am looking at the ground and I want to fix the pothole before I fall in."
I look to the clouds behind me and see the thunder coming.

Offline Tuxjo

  • Lid
Re: FOSS chatGPT alternatief?
« Reactie #2 Gepost op: 2023/10/21, 13:34:54 »
Nou waar het mij eigenlijk omgaat is dat ik een alternatief zoek dat mij niet traceert, secure is etc. Ik weet niet zoveel van AI maar heb begrepen dat de makers van de chatGPT commercieel zijn? Of sla ik de plank volledig mis?

Wanneer chatGPT door Linux gebruikers wordt aangemerkt als 'non-invasief' en het gewoon gebruiken dan is het voor mij uiteraard ook prima. Wanneer dit niet het geval is en er is een soortgelijk snel werkende chatbot die wel secure, non-invasief etc. is, dan zou ik die graag gaan gebruiken.

Nogal nieuw terrein voor mij dat AI ;).

Re: FOSS chatGPT alternatief?
« Reactie #3 Gepost op: 2023/10/21, 17:10:23 »
Ik heb het even aan chatGTP zelf gevraagd:

"Bestaat er een FOSS alternatief voor ChatGTP?"

Antwoord:

"Tot mijn kennisdatum in september 2021 was er geen directe open-source tegenhanger van GPT-3, het model waarop ik ben gebaseerd. GPT-3 is ontwikkeld door OpenAI en wordt niet vrijgegeven als open-source software. Het is echter mogelijk dat er sindsdien nieuwe ontwikkelingen zijn geweest in de wereld van open-source kunstmatige intelligentie die een vergelijkbaar niveau van taalbegrip en -generatie kunnen bieden.

Er zijn open-source taalmodellen beschikbaar, zoals GPT-2, BERT, en RoBERTa, die kunnen worden gebruikt voor tekstgeneratie en taalbegrip, maar deze modellen hebben mogelijk niet dezelfde schaal en prestaties als GPT-3. Het is ook mogelijk dat er nieuwe modellen zijn ontwikkeld sinds mijn laatste kennisupdate.

Als je op zoek bent naar open-source alternatieven voor tekstgeneratie, raad ik je aan om de recente ontwikkelingen in de open-source gemeenschap voor kunstmatige intelligentie te verkennen, bijvoorbeeld op platforms zoals GitHub en in onderzoekspapers. Houd er rekening mee dat de prestaties van open-source modellen kunnen variëren en afhankelijk zijn van factoren zoals de beschikbare trainingdata en resources."

 :)

Offline MKe

  • Lid
Re: FOSS chatGPT alternatief?
« Reactie #4 Gepost op: 2023/10/22, 14:08:52 »
Je moet je realiseren dat het heel veel geld kost om een LLM te trainen. Heel veel energy en heel veel hardware. We hebben het over duizenden GPU’s. Daarom zal een LLM vrijwel altijd commercieel zijn. Je zult er voor moeten betalen, ofwel met geld of met je privacy. Als je het geld ervoor over hebt voor je privacy zou je kunnen kijken of je je eigen versie van een LLM kunt hosten, dat is wat sommige bedrijven nu doen, maar ook hier is het waarschijnlijk niet goedkoop, want het gebruik van deze modellen is ook behoorlijk reken intensief en vraagt dus veel resources.

Offline Tuxjo

  • Lid
Re: FOSS chatGPT alternatief?
« Reactie #5 Gepost op: 2023/10/22, 16:25:50 »
Je zult er voor moeten betalen, ofwel met geld of met je privacy.
Is het jou wellicht enigszins bekend hoe en met welke privacy gegevens je 'betaalt'? En hoe je mogelijk privacy 'verlies' kunt voorkomen? Ik heb bv Chat History disabled.
Bedoel je misschien dat je bij het aanmaken vd account met de daar verstrekte gegevens 'betaalt'? Als je daar natuurlijk je echte gegevens geeft, wat mi niet bijster verstandig is.

Ik ben verder wel benieuwd of er forumleden / linuxgebruikers zijn die niet zoveel moeite hebben met het gebruiken van chatGPT wanneer je het langs een 'privacy-veiligheidslat' legt? Zoals ik al aangaf is AI voor mij nieuw terrein. Maar het gaat wel verstrekkende gevolgen hebben me dunkt.

Offline Tuxjo

  • Lid
Re: FOSS chatGPT alternatief?
« Reactie #6 Gepost op: 2023/10/22, 17:36:14 »
Ik vond net dit artikel : https://www.makeuseof.com/chatgpt-privacy-issues/
Tja, word daar niet bijster vrolijk van :|.

Offline MKe

  • Lid
Re: FOSS chatGPT alternatief?
« Reactie #7 Gepost op: 2023/10/23, 18:32:09 »
Tja, zoals het artikel al verteld wordt je hele chat geschiedenis bij hen opgeslagen ook om het model weer beter te maken. Ik weet ook niet hoe je dat kunt omzeilen.
Ik was in mei in Amerika naar een congres en daar boden ze een dergelijke installatie voor privé gebruik aan. Je eigen chatGPT. Het idee was dan wel dat je ruimte huurde in de Azure cloud van Microsoft omdat het qua hardware niet te doen was om dat on premise te draaien. Twee nadelen: ten eerste kost het een behoorlijke duit, dus eigenlijk alleen te doen voor bedrijven en niet voor een privé persoon en ten tweede host je alles bij Microsoft, dus moet je die ook op hun blauwe ogen vertrouwen dat ze niet stiekem je data zouden lezen. En aangezien dit een Linux forum is weet ik wel hoe die stemming zal zijn hier ;)

Offline Tuxjo

  • Lid
Re: FOSS chatGPT alternatief?
« Reactie #8 Gepost op: 2023/10/24, 11:06:03 »
En aangezien dit een Linux forum is weet ik wel hoe die stemming zal zijn hier ;)
Ha,ha,ha! Bedankt voor je info. Ik ben duidelijk meer op de hoogte en het gebruik van chatGPT beperk ik voorlopig maar tot een minimum.

Offline MKe

  • Lid
Re: FOSS chatGPT alternatief?
« Reactie #9 Gepost op: 2023/11/29, 06:57:15 »
Brave heeft nu een ingebouwde chat/ai functie waarvan ze beloven dat die je privacy respecteert. Voor wat het waard is, maar misschien interessant om eens te checken? De dienst heet Leo.

Offline Tuxjo

  • Lid
Re: FOSS chatGPT alternatief?
« Reactie #10 Gepost op: 2023/11/30, 11:44:57 »
Dank je! Ga ik me zeker in verdiepen...

Offline Tuxjo

  • Lid
Re: FOSS chatGPT alternatief?
« Reactie #11 Gepost op: 2023/12/01, 16:37:26 »
Werkt niet onaardig, maar (nog?) niet zo goed als chatGPT. Zeker leuk om achter de hand te houden. Overigens is dit puur mijn mening. Iemand anders kan daar natuurlijk anders over denken =D