"Christmas - the time to fix the computers of your loved ones" « Lord Wyrm

KI-Modelle: GPT, xLSTM, Stable Diffusion, etc

phono 27.01.2023 - 13:10 204564 737 Thread rating
Posts

Dune

dark mode lover
Registered: Jan 2002
Location: Wien
Posts: 9875
Zitat aus einem Post von daisho
Nach deiner Argumentation kannst ChatGPT halt gar nichts fragen weil sie es ja nicht wissen wenn sie falsch liegen. :p

Es ist wichtig dass man die Limitierung von Technologien versteht, wenn man sie einsetzt. Die "wahrscheinlichste" Antwort verträgt sich denkbar schlecht mit analytischen Fragestellungen.

Das heißt aber noch lange nicht, dass das Ding an sich nix taugt. Siehe Nudelsieb / Brotmesser Vergleich :D
Bearbeitet von Dune am 27.09.2024, 19:29

Longbow

Here to stay
Avatar
Registered: Feb 2003
Location: Homeoffice
Posts: 5255
Zitat aus einem Post von daisho
Ich bin ja eher ein Dinosaurier und vertraue ChatGPT etc. nicht wirklich dass da was sinnvolles rauskommt.
Jetzt hab ich eine simple Rechnung (weil ich für das Kollektivvertrag-Topic nicht unbedingt Zeit reinstecken wollte) in GPT eingegeben und bei 2x demselben Input 2 verschiedene Lösungen bekommen (die erste war natürlich kompletter Quatsch), wtf :p

[img]

Gibt mir jetzt nicht unbedingt Vertrauen in die Technologie (auch wenn ich sagen muss dass die primäre Funktion an sich, aus den Wörtern rauszufinden was ich will, schon erstaunlich ist) :p
unter den custom AIs gibts den "Math solver" der kann sowas ;)

ChaosTM

Bloody Newbie
Registered: Sep 2024
Location: Gresten
Posts: 1
... lool

Daeda

Here to stay
Registered: Aug 2007
Location: Graz
Posts: 1531
Zitat aus einem Post von daisho
Ich bin ja eher ein Dinosaurier und vertraue ChatGPT etc. nicht wirklich dass da was sinnvolles rauskommt.
Jetzt hab ich eine simple Rechnung (weil ich für das Kollektivvertrag-Topic nicht unbedingt Zeit reinstecken wollte) in GPT eingegeben und bei 2x demselben Input 2 verschiedene Lösungen bekommen (die erste war natürlich kompletter Quatsch), wtf :p

...

Gibt mir jetzt nicht unbedingt Vertrauen in die Technologie (auch wenn ich sagen muss dass die primäre Funktion an sich, aus den Wörtern rauszufinden was ich will, schon erstaunlich ist) :p

welches modell hast du da verwendet? wenns der gratis account war, vermutlich 4o.
die o1-preview (aktuell nur für zahlende kunden) soll schon VIEL besser in mathe sein, als gpt-4o:

click to enlarge

also von 13% accuary auf 56% sollte ein merkbarer unterschied sein. o1 (noch nicht released) wird scheinbar insane was mathe angeht. "kann nicht rechnen" kann man dann eigentlich nicht mehr so stehen lassen, oder? :D

ab 21:55 erklärt er hier (https://www.youtube.com/watch?v=mt07Ehjq53c) die 3 benchmarks vom screenshot kurz, geht dann im detail aber nur aufs mittlere benchmark (coding) ein.
der rechte benchmark: o1-preview und o1 sind in wissenschaftlichen themen sogar bissl über doktoranden niveau, das is schon heftig.

Dune

dark mode lover
Registered: Jan 2002
Location: Wien
Posts: 9875
Was sind evtl derzeit die Vorteile (facts, objektiv) für AI-assisted Coder auf eine Proversion von GPT zu setzen? Ich bin bisher mit free in keine Limitierung gelaufen. Habe ich Probleme, verbessere ich den prompt.

Wäre wirklich spannend, ich werde in Zukunft mehr coden dürfen und überlege ob ich mir das als "Invest" leiste, aber ich finde derzeit keinen Grund, warum ich investieren sollte :-)

Daeda

Here to stay
Registered: Aug 2007
Location: Graz
Posts: 1531
Zitat aus einem Post von Dune
Was sind evtl derzeit die Vorteile (facts, objektiv) für AI-assisted Coder auf eine Proversion von GPT zu setzen? Ich bin bisher mit free in keine Limitierung gelaufen. Habe ich Probleme, verbessere ich den prompt.

Wäre wirklich spannend, ich werde in Zukunft mehr coden dürfen und überlege ob ich mir das als "Invest" leiste, aber ich finde derzeit keinen Grund, warum ich investieren sollte :-)

ganz einfach: die copilot integration in der IDE

das kannst mit dem normalen chatgpt nicht wirklich vergleichen, da liegen welten dazwischen. das liefert dir während du tippst immer wieder hilfreiche vorschläge via auto-vervollständigung. es ist zwar oft fail oder knapp dran, aber man denkt sich doch immer mal wieder "wtf woher weiß der was ich gerade machen wollte". teilweise kriegt man nur einzelne zeilen vorgeschlagen, aber manchmal auch ganze funktionen.
mit dem inline-commands oder vollen chat-sidepanel geht dann noch viel mehr. vor allem kriegt man relevante antworten und suggestions zum eigenen projekt, nicht nur allgemein.

guter start ist das video:


zu finden auf der "getting started" seite: https://code.visualstudio.com/docs/...getting-started

Dune

dark mode lover
Registered: Jan 2002
Location: Wien
Posts: 9875
Zitat aus einem Post von Daeda
ganz einfach: die copilot integration in der IDE

Richtig gelesen? Ich habe mich auf GTP bezogen.

Von Copilot bin ich persönlich für coden nicht überzeugt, das fine-tuning erfordert da ne ganz andere Mentalität als GPT. Da geht's bei mir gut OOTB.

X3ll

╰(*°▽°*)╯
Avatar
Registered: Mar 2002
Location: /dev/null
Posts: 1242
Ich habe für Code qwen 2.5:72b in Verwendung. Vom Gefühl bis jetzt richtig gut - nicht ganz am Level von Claude aber nah dran.

Daeda

Here to stay
Registered: Aug 2007
Location: Graz
Posts: 1531
Zitat aus einem Post von Dune
Richtig gelesen? Ich habe mich auf GTP bezogen.

Von Copilot bin ich persönlich für coden nicht überzeugt, das fine-tuning erfordert da ne ganz andere Mentalität als GPT. Da geht's bei mir gut OOTB.

richtig geschrieben?
gpt ist ein teil vom modellnamen: gpt-4o etc :)
auch copilot verwendet gpt.

du meinst dann wohl chatgpt? und da hab ich nie verstanden, wieso man das zum coden verwenden wollen würde.

hynk

Super Moderator
like totally ambivalent
Avatar
Registered: Apr 2003
Location: Linz
Posts: 11025
@daisho
Man muss das richtige Werkzeug für den Job verwenden. Das ist auch der Grund warum viele den Nutzen von Palma nicht sehen.
Es gibt GPTs die auf Wolfram Alpha zugreifen für Rechentätigkeiten und die machen schon viel mehr Sinn.

@dune
o1 preview hat mich bisher sehr geflasht, was coding anbelangt. Gut bei mir geht's um scripts und powershell hauptsächlich, aber o1-preview bewegt sich in einem Bereich wo ich selbst beim besten Willen nicht hinkommen würde, wenn ich nicht Tage oder Wochen mit den Problem verbringe, das mir das Ding in einem prompt löst.
Just wow.

Die aktuelle Entwicklung bei OpenAI seh ich btw sehr kritisch. Sie fixen uns and und werden über die kommenden Jahre immer mehr verlangen und wenn die Konkurrenz nicht nach zieht, werden wir es wohl zahlen, weil abhängig.

Microsoft Copilot ist btw noch immer absoluter crap. Hatte die Tage Mal wieder einen Anlass es zu testen und alle drei getesteten prompts wurden mit "da ist was schief gelaufen" abgebrochen.

Dune

dark mode lover
Registered: Jan 2002
Location: Wien
Posts: 9875
Moin!

Ich hab's mir jetzt gut 2W eine GPT Lizenz gegönnt.. und stelle fest dass mein coding Workflow plötzlich viel schlechter funktioniert :confused:

Kann ich von Pro auf Free Model umschalten oder brauche ich dazu wieder einen Zweitaccount?

Bin ziemlich baff, hätte nicht gedacht, dass ich mehr Probleme bekomme. Es geht hauptsächlich um die Komplexität der Frage und File Uploads. Crasht eigentlich fast immer, rechnet nur sinnlos rum... Hatte davor keinen einzigen Crash :( Die File Uploads funktioniert auch mit kleinen csvs nicht zuverlässig. Der Output vom Modell an PPTs zB ist sehr schwach.

Anwendungsgebiet ist 99% Coding für Datenanalytik und KI. Hin und wieder lasse ich reasoning Dinge erklären oder PPTs machen, meistens unterhalten wir uns aber über eine Schlange

Longbow

Here to stay
Avatar
Registered: Feb 2003
Location: Homeoffice
Posts: 5255
nimm den claude :D

Dune

dark mode lover
Registered: Jan 2002
Location: Wien
Posts: 9875
Wer is de Claudia?

Longbow

Here to stay
Avatar
Registered: Feb 2003
Location: Homeoffice
Posts: 5255
Zitat aus einem Post von Dune
Wer is de Claudia?

Dune

dark mode lover
Registered: Jan 2002
Location: Wien
Posts: 9875
Ich werd's mal testen thx. Mein Coding Workflow ist schon Recht auf die GPT Neuronen eingschossen und ich hab lang gebraucht, bis ma Freunde wurden :)
Kontakt | Unser Forum | Über overclockers.at | Impressum | Datenschutz