charmin
Super Moderator10x
|
Bringt 4 im Vergleich zu 3 irgendwelche Vorteile? Würde mich sehr interessieren.
Ich dachte dabei geht's eher um zusätzliche Features wie automatisch generierte Charts und Berichte. Aber beim Coden selbst, wüsste ich noch nicht so ganz, was es besser machen könnte. Gpt 3 bzw 3.5 is imho unnutzbar. Weniger Parameter dadurch schlechtere Ergebnisse. Ausserdem keine plugins, kein RAG.
|
KruzFX
8.10.2021
|
Unbrachbar für Code ja, für blabla-allgemeintexte gehts schon, nimmt meine Frau gern her fürs Brainstorming usw.
|
charmin
Super Moderator10x
|
Unbrachbar für Code ja, für blabla-allgemeintexte gehts schon, nimmt meine Frau gern her fürs Brainstorming usw. Arbeite viel mit technischen Dokumenten. Unterschiedlichen Quellen usw. Gpt 3 kann nicht richtig zusammenhänge erkennen und produziert viel Müll. Jedesmal wenn meine tokens aus sind warte ich bis ich wieder welche hab.
|
Dune
dark mode lover
|
Ok dass der Code mit dem 3er stellenweise nicht ganz für mein Problem funktioniert, habe ich auch erlebt. Ich habe es aber eher auf meine Unwissenheit geschoben als auf's "Halluzinieren".
Hat das 4er einen Knowledgegraph implementiert?
|
charmin
Super Moderator10x
|
Ok dass der Code mit dem 3er stellenweise nicht ganz für mein Problem funktioniert, habe ich auch erlebt. Ich habe es aber eher auf meine Unwissenheit geschoben als auf's "Halluzinieren".
Hat das 4er einen Knowledgegraph implementiert? Hat weniger mit halluzinieren zu tun sondern eher dass das Modell einfach zu klein ist. Quasi zu deppert  . Das 4er hat einfach nur viel mehr Parameter. Bin gespannt was dann gpt 5 kann. Bzw phi3 medium. Edit: Warum ich gespannt bin: gpt 4 wurde mit jedem kack an Daten trainiert. Phi3 mit textbook data, also sehr hochwertigen handverlesene Daten und kann dadurch so gute Leistung erbringen wie Modelle mit doppelt so vielen Parametern.
|
Dune
dark mode lover
|
Naja aber Halluzinieren ist ohne Knowledgegraph obligatorisch, oder nicht?
Das ist doch gerade bei Netzen mit sehr vielen Parametern ein großes Problem, sie werden mit der Dauer immer deppader, weil sie ihren eigenen content erfinden, wenn kein Graph vorhanden ist.
Also mehr ist ohne Qualitätssicherung nicht zwangsläufig besser, hat unsere Erfahrung bei der Implementierung von sicherheitstechnischen LLMs in der Arbeit zumindest gezeigt.
Ich find's halt bissi unsexy mit evtl eine lifetime subscription für 4 zu kaufen, wenn 5 der letzte Schrei in ein paar Jahren ist und der support langsam nachlässt. Mir sind da die OAI Zahlungsmodalitäten bissi unsympathisch.
|
charmin
Super Moderator10x
|
Naja aber Halluzinieren ist ohne Knowledgegraph obligatorisch, oder nicht?
Das ist doch gerade bei Netzen mit sehr vielen Parametern ein großes Problem, sie werden mit der Dauer immer deppader, weil sie ihren eigenen content erfinden, wenn kein Graph vorhanden ist.
Also mehr ist ohne Qualitätssicherung nicht zwangsläufig besser, hat unsere Erfahrung bei der Implementierung von sicherheitstechnischen LLMs in der Arbeit zumindest gezeigt.
Ich find's halt bissi unsexy mit evtl eine lifetime subscription für 4 zu kaufen, wenn 5 der letzte Schrei in ein paar Jahren ist und der support langsam nachlässt. Mir sind da die OAI Zahlungsmodalitäten bissi unsympathisch. Knowledgegraphs kenn ich nur in Verbindung mit RAG. Im Netz selber wär das ja ned sinnvoll, die word embeddings werden ja trainiert, die embeddings könnte man als eine Art knowledge graph interpretieren aber ich glaub du meinst was anderes. Halluzinieren würd ich jetzt vorrangig mit fine tuning in den Griff bekommen zu versuchen. Aber bin auch kein LLM Profi, sondern vorrangig im signalbereich/computer vision mit ANNs.
|
Dune
dark mode lover
|
Halluzinieren würd ich jetzt vorrangig mit fine tuning in den Griff bekommen zu versuchen Wie kann das funktionieren? Halluzinieren entsteht meines bescheidenen Wissens nach einfach durch Übertraining, nicht absolut, aber wenn die Daten eben so oft durchgenommen werden, dass man nimmer weiß ob man's selber erfunden hat oder es eine gesicherte information ist. Ich dachte ohne Knowledgegraph hat man früher oder später immer zwangsläufig eine Halluzinationen? Spoiler, bin auch kein GenAI Experte, hatte heiße zwei Projekte damit. Und die waren nix worauf ich stolz bin.
|
Hampti
Overclocking Team Member
|
Habt ihr alle keine Probleme mit DSGVO und generellem Datenschutz in der Arbeit wenn ihr ChatGPT benutzt? Bei uns ist das ein NOGO und es wird gerade Copilot in der Vollversion getestet da hier die Daten in Europa bleiben. Man könnte auch eine Firmeninstanz machen aber dann bekommt man keine Verbesserungen mehr und das hilft nicht. Bei uns in der Firma scheint es jedenfalls so zu sein dass wir auf Copilot setzen und die 27€ pro Monat pro MA in die Hand nehmen werden.
|
Dune
dark mode lover
|
Habt ihr alle keine Probleme mit DSGVO und generellem Datenschutz in der Arbeit wenn ihr ChatGPT benutzt? Nein, aus zwei Gründen: 1) nie relevante Daten teilen 2) keinen sagen wofür man GPT verwendet Ich mein ganz ehrlich, du könntest auch mit E-Mail, Google oder verbal die DSGVO brechen. Natürlich würde Infosecu jetzt sagen "ja aber...", dennoch bin ich nur einen Mausklick mit Office-Tools davon entfernt sämtliche Geheimnisse kritischer Infrastruktur zu teilen, mit allen.
|
charmin
Super Moderator10x
|
Habt ihr alle keine Probleme mit DSGVO und generellem Datenschutz in der Arbeit wenn ihr ChatGPT benutzt? Bei uns ist das ein NOGO und es wird gerade Copilot in der Vollversion getestet da hier die Daten in Europa bleiben. Man könnte auch eine Firmeninstanz machen aber dann bekommt man keine Verbesserungen mehr und das hilft nicht. Bei uns in der Firma scheint es jedenfalls so zu sein dass wir auf Copilot setzen und die 27€ pro Monat pro MA in die Hand nehmen werden. Wir setzen auch auf copilot. Haben dazu noch eine eigene LLM in azure laufen.  ChatGpt plus wird bei mir eigtl. nur privat verwendet.
|
KruzFX
8.10.2021
|
Ich hab mir gestern per Ollama llava3 und llama3 lokal installiert, beides mit einem 7B bzw. 8B Modell. Läuft auf einem 3700X ziemlich performant und die Qualität war auf den ersten Blick nicht so schlecht. https://ollama.com/Einfach das Docker image runterladen und die Modelle nachladen. Dazu noch die WebUI https://github.com/open-webui/open-webui und schon hat man das eigene private GPT.
|
hynk
Super Moderatorlike totally ambivalent
|
Wie geht's euch mit Copilot?
Ich fand es bisher durchgehend unbrauchbar und weit unter meinen Erwartungen.
|
charmin
Super Moderator10x
|
Wie geht's euch mit Copilot?
Ich fand es bisher durchgehend unbrauchbar und weit unter meinen Erwartungen. Same
|
Longbow
Here to stay
|
Habt ihr alle keine Probleme mit DSGVO und generellem Datenschutz in der Arbeit wenn ihr ChatGPT benutzt? Bei uns ist das ein NOGO und es wird gerade Copilot in der Vollversion getestet da hier die Daten in Europa bleiben. Man könnte auch eine Firmeninstanz machen aber dann bekommt man keine Verbesserungen mehr und das hilft nicht. Bei uns in der Firma scheint es jedenfalls so zu sein dass wir auf Copilot setzen und die 27€ pro Monat pro MA in die Hand nehmen werden. Natürlich gibt es diese Probleme, deshalb gibts auch enstpr. guidelines für die Nutzung von AI Assistants. Egal ob Copilot, GPT oder andere Tools. @hynk github copilot? den find ich richtig brauchbar, weil er viel schreibarbeit erspart. die details der logik kann man dann selber ausformulieren. Is halt wie templates, nur mit tabulator taste
|
Anmeldung