KI-Modelle: GPT, xLSTM, Stable Diffusion, etc

Zitat aus einem Post von Longbow

Ich behaupte auch, dass es an snake liegt. Ein ähnlicher Versuch mit 2er Schnapsen landet beim üblichen „technically not wrong“. Er verhaspelt sich aber ständig mit Atout/Farbzwang, 20/40 etc… und ich hab absichtlich ein einfaches Spiel gewählt.

Wollte es dann noch einfacher: „Hosn owi“ und auch da mühsam.

Habe gpt4 und claude probiert.

was die spielregeln und mechanik angeht, ist snake einfach sehr bekannt und es gibt auch sicher einige open source code beispiele. schnapsen ist dagegen ein extrem regional beschränktes kartenspiel. außerhalb von bayern und österreich kennt das kaum jemand. open source beispiele gibts wohl kaum welche.

in meinem ersten versuch mit bolt.new wurde das bei mir auch nur ein "karte x schlägt y" spiel ohne wirklicher verbindung zu schnapsen. dann hab ich die regeln von wiki übergeben, und siehe da - man erkennt zumindest, dass es schnapsen sein soll: https://cheerful-gelato-5ca4a5.netlify.app/

Zitat aus einem Post von Dune

Wie funktioniert das eigentlich technisch genau, mit APIs? Wolfram kann ja nicht sämtliche Ergebnisse auf jede beliebige Rechnung cachen. Wenn reasoning wieder nur verweis auf VektorDB Ergebnis bedeutet, ist es ja kein reasoning. Verstehe die Architektur da noch nicht so ganz.

Wie es genau rennt weiß ich auch nicht, nicht mal ob überhaupt wirklich Wolfram dahinter steht.
Aber die Integration von Agenten in die Modelle ist genau dafür da.

Spezielle Anforderungen an Spezialisten abzugeben. Ich vermute dass die Rechnung dann eine Arithmetik Engine gegeben wird, diese dann rechnet und das Ergebnis von der ursprünglichen KI interpretiert wird.

Reasoning sehe ich in so einem Ansatz aktuell nicht, das kann in wenigen Generationen anders aussehen. Aber wirklich rechnen scheinen auch bessere Modelle mit reasoning noch nicht zu können (und auch nicht erklären wenn man die Rechenschritte rein gibt)

Zitat aus einem Post von Dune

Wolfram ist extrem geil, habe ich damals im Studium auch viel verwendet.

Absolut!

Für alle die nicht nachvollziehen können warum LLM's schlecht in simpler Arithmetik und simpler Rechtschreibung ("How many r are in Strawberry") sind, dem kann ich Andrej Karpathy's letztes Youtube Video an's Herz legen.

Quintessenz: Es ist ein Problem der aktuellen Tokenisierung. Das LLM sind keine Buchstaben oder Zahlen, es sieht nur Token. Wenn du einem LLM sagst es soll Code verwenden um etwas zu berechnen, dann ist es meistens korrekt. Es quasi dazu zu bringen für gewisse Aufgaben, spezialisierte Tools zu verwenden (Use code, Use calc, ...) ist eben eine Schwachstelle der aktuellen Architektur (meine Worte)

Aber siehe Beispiel reasoning, sehe ich das als keine lang anhaltende Hürde

imho sind Wachstumsschmerzen und es ist genügend biologische Brainpower drann, dem Silicone weiter zum Denken zu verhelfen

btw. was mich grad viel mehr fasziniert, laut Deepseak analyse ist reasoning ein emerging property von LLMs.
Keiner sagt den Dingern dass sie hinterfragen sollen ob das stimmt, was ihnen spontan "einfällt".
Aber sie kommen "von alleine" drauf, dass ein gewisses "step-by-step" reasoning gut wäre.... spooky

Spannend! Wär total interessant wie gut ein 0815 human im Vergleich zu den LLMs abschneidet. Werd spaßeshalber mal einen Test machen, wenn ich Zeit hab und schauen wie viel ich schaffen würde.Hat man bei den AIMEs ein beschränktes Zeitfenster? (:

Topic, das schlechte Abschneiden von 4o wundert mich persönlich nicht ganz. Gefühlt veroascht man das am meisten mit Halluzinationen beim Coden oder bei Assistenzaufgaben.

Hat hier schon jemand Deepseek lokal laufen?

Sie sind vom grossen Modell destilliert.
Hast du das 32b von ollama oder?

Zitat aus einem Post von böhmi

Kann man ChatGPT nicht einfach nach einem Export der Konversation als .txt fragen?

Also irgendwie so:

Code:

export our conversation in a .txt-file from 23rd of february 2025 at 08:15am on

ich hab sogar gpt gefragt und das war die antwort:

Right now, there’s no direct “copy all” button, but you can try these options:

1. Manual Copying:

Scroll up to the start of our conversation.

Highlight everything with your finger (press and hold, then drag).

Tap “Copy” and paste it into a note app, email, or document.

2. Using a Note-Taking App:

If you’re on a phone, you can share the chat with a note app like Google Keep, Notion, or Evernote (some chat apps allow sharing text).

3. Screenshots:

If you just need a quick reference, you can take screenshots and store them in a folder.

If you’re trying to save it for a specific reason (reflection, sharing, etc.), I can also summarize key points for you. Let me know what works best!

Bruchteil von was?

Aktiven Parametern? Es is ein mixture of Experts Modell. Bei dem werden die fully connected layer durch spezielle trainierte Experten layer ersetzt und es dürfen maximal 2 aktiv sein bei der inferenz. Dadurch um einiges günstigere / schnellere inferenz und weniger aktive gewichte bei inferenz.