Allgemeine Künstliche Intelligenz - Menschliche Evolution oder ihr Untergang?

Die Frage ist, ob die "National Science Foundation" überhaupt die Fähigkeit hat, solche System zu beurteilen..

Nein, der Klimawandel ist HIER, AI könnte uns helfen Lösungen zu finden

Futurama: -> Bender.: "Kill all Humans"

schön langsam glaube ich, dass das für den Planeten Erde die derzeit beste Lösung wäre

siehe einen post ober dir..

https://www.heise.de/hintergrund/Er...le-8985819.html

Moneyquotes von Geoffrey Hinton

Warum er bei Google gekündigt hat: "Ich möchte über KI-Sicherheitsfragen sprechen, ohne mir Gedanken darüber machen zu müssen, wie sich dies auf das Geschäft von Google auswirkt"

Zitat

Hintons Sicht der Dinge wurde maßgeblich von der neuen Generation großer Sprachmodelle verändert, insbesondere GPT-4 von OpenAI, das im März heraus kam. Es habe ihm klar gemacht, dass Maschinen auf dem Weg sind, viel schlauer zu werden, als er dachte, sagt er. Es beunruhigt ihn, wie sich das entwickeln könnte. "Diese Dinger sind völlig anders als wir", sagt er. "Manchmal denke ich, es ist, als wären Außerirdische gelandet und die Menschen hätten es nicht bemerkt, weil sie sehr gut Englisch sprechen."

Thema Intelligenz oder statistischer Buchstabensalat:

Zitat

Hinton spricht vom "few-shot learning", bei dem vortrainierte neuronale Netze, wie z. B. große Sprachmodelle, mit nur wenigen Beispielen auf etwas Neues trainiert werden können. So stellte er beispielsweise fest, dass einige dieser LLMs eine Reihe von logischen Aussagen zu einem Argument zusammenfügen können, obwohl sie nie direkt darauf trainiert wurden. Vergleicht man ein vortrainiertes großes Sprachmodell mit einem Menschen in Bezug auf die Lerngeschwindigkeit bei einer solchen Aufgabe, so verschwinde der Vorsprung des Menschen.

Seine Ansicht zu Halluzinationen (Konfabulationen, Begriff in der Psychologie):

Zitat

[...]werden oft als fatale Schwachstelle der LLMs angesehen. Die Tendenz, Blödsinn zu erzeugen, der dabei auch noch gut klingt, mache Chatbots unglaubwürdig und zeige, so wird argumentiert, dass diese Modelle nicht wirklich verstünden, was sie sagen... Auch darauf hat Hinton eine Antwort: Bullshitting sei ein Feature, kein Bug. "Menschen konfabulieren immer", sagt er. Halbwahrheiten und falsch erinnerte Details seien Kennzeichen der menschlichen Konversation: "Konfabulation ist ein Merkmal des menschlichen Gedächtnisses." Diese Modelle machten damit, sagt Hinton, etwas genauso wie Menschen. Der Unterschied bestehe darin, dass Menschen normalerweise mehr oder weniger korrekt konfabulieren. Das Erfinden sei nicht das Problem. Computer brauchen einfach ein bisschen mehr Übung.

TLDR; Godfather of AI wurde von GPT4/ChatGPT scheinbar überrascht, weil kleine LLMs ihn vorher nicht sonderlich beeindruckt haben. Jetzt sieht er das Potenzial, aber auch die Gefahren dahinter. Laut ihm wurde der trajectory stark verkürzt, dass es in absehbarer Zeit AI auf Menschen-Niveau und darüber hinaus geben wird. Selbiges meint der Chef-AI Mensch bei Meta, allerdings sieht er es romantischer: "Ich glaube, dass intelligente Maschinen eine neue Renaissance für die Menschheit einläuten werden, eine neue Ära der Aufklärung"

Zitat aus einem Post von TOM

TLDR; Godfather of AI wurde von GPT4/ChatGPT scheinbar überrascht, weil kleine LLMs ihn vorher nicht sonderlich beeindruckt haben. Jetzt sieht er das Potenzial, aber auch die Gefahren dahinter. Laut ihm wurde der trajectory stark verkürzt, dass es in absehbarer Zeit AI auf Menschen-Niveau und darüber hinaus geben wird. Selbiges meint der Chef-AI Mensch bei Meta, allerdings sieht er es romantischer: "Ich glaube, dass intelligente Maschinen eine neue Renaissance für die Menschheit einläuten werden, eine neue Ära der Aufklärung"

danke für die zusammenfassung! da schau ich am wochenende sicher mal rein.

neueste clickbait news: ai kann gedankenlesen

hab die woche schon ein paar ähnliche tweets davon gesehen, auch von versuchen an/mit menschen. aber das scheint am informativsten zu sein:

Tweet-URL: https://twitter.com/TrackingActions/status/1653867482804019201

der nature.com artikel dazu ist leider hinter einer paywall: https://www.nature.com/articles/d41586-023-01339-9 aber ich glaub der twitter thread fassts gut zusammen.

die ganze anhörung hat fast 3 stunden (https://www.youtube.com/watch?v=TO0J2Yw7usM), aber diese 27min zusammenfassung bzw "speed recap" klingt aufn ersten blick auch gut:
https://twitter.com/rowancheung/sta...729097953005570

besonders schräg: altmann behauptet gerade genug für seine krankenversicherung zu verdienen und keine anteile an open AI zu haben - er arbeitet aus überzeugung:
https://twitter.com/rowancheung/sta...729101530636291