Cuda für AMD - torch_AMD? - Forum

Kirby

0x19

Registered: Jun 2017
Location: Lesachtal/Villac..
Posts: 878

21.08.2024 - 01:54

Wie im Titel stehe ich vor dem Problem, dass ich einige Modele nur mit Nvidia gpu betreiben kann. Lösungsförschläge für AMD hier sind erwünscht.
Ich kenn mich da eigentlich auch nicht genau aus.

E: Danke an den 1 Stern voter. Ich stehe hier vor einem Problem. Poste lieber was anstadt nur deinen einen Stern abzugeben!

Bearbeitet von Kirby am 21.08.2024, 02:38

Rogaahl

Super Moderator
interrupt

Registered: Feb 2014
Location: K
Posts: 2251

21.08.2024 - 03:10

pyTorch gibt es doch eh für ROCm?

Installing PyTorch for ROCm — ROCm installation (Linux)

Installing PyTorch for ROCm

Link: rocm.docs.amd.com

Was ich so mitbekommen habe, läuft ROCm unter Linux einiges besser als Windows.

charmin

Super Moderator
10x

Registered: Dec 2002
Location: aut_sbg
Posts: 14404

28.08.2024 - 11:00

Schick mal die konkreten Modelle bitte bzw. Links zum git repo.

Kirby

0x19

Registered: Jun 2017
Location: Lesachtal/Villac..
Posts: 878

07.10.2024 - 16:20

Danke Roghaal. ROCM funktioniert nice. Ich hatte mit XFCE probleme wegen python. Da musste ich ein virtuelles environment anlegen. Mit python kenne ich mich halt noch net so aus.
Unter GNOME hat er nichts gemeckert wegen venv bzw. break system packages

@Charmin: Ich benutze ein paar Modelle von CivitAI, bin aber jetzt mit flux-schnell und flux-dev sehr zufrieden. Die Links dazu kann ich dir später gerne schicken.

Hier ein Flux-Schnell Bild:

Bearbeitet von Kirby am 07.10.2024, 16:22

Kirby

0x19

Registered: Jun 2017
Location: Lesachtal/Villac..
Posts: 878

07.10.2024 - 16:33

Aja. Es geht hier hauptsächlich um den GPU Support. Ich nutze gerne ComfyUI weils halt wie im Namen sehr komfortabel ist. Das geht unter Windows auch, halt nur mit Directml aber da nimmt er halt nur die CPU her. GPU support (AMD) dafür gibt leider nur für Linux mit ROCm. Nvidia Karten gehen unter Linux wie auch unter Windows.
So zum Vergleich:
Windows Directml (CPU): 40h/it
Linux AMD-GPU: 15s/it

Longbow

Here to stay

Registered: Feb 2003
Location: Homeoffice
Posts: 5221

07.10.2024 - 16:53

Zitat aus einem Post von Kirby
Danke Roghaal. ROCM funktioniert nice. Ich hatte mit XFCE probleme wegen python. Da musste ich ein virtuelles environment anlegen. Mit python kenne ich mich halt noch net so aus.
Unter GNOME hat er nichts gemeckert wegen venv bzw. break system packages
...

Das venv hat den Vorteil, dass du mit den ganzen packages nicht dein "global" zumüllst und projektbezogen flott löschen/reinstallieren kannst. Mit deinem window manager hat das ungefähr so viel zu tun wie Super95 und dem aktuellen Radioempfang.

https://docs.python.org/3/library/venv.html

Kirby

0x19

Registered: Jun 2017
Location: Lesachtal/Villac..
Posts: 878

07.10.2024 - 17:51

Die Frage ist aber. warum geht es mit gnome ohne warnung um zumülung?

charmin

Super Moderator
10x

Registered: Dec 2002
Location: aut_sbg
Posts: 14404

07.10.2024 - 17:53

Zitat aus einem Post von Kirby
Die Frage ist aber. warum geht es mit gnome ohne warnung um zumülung?

Weil vermutlich das Paket bei gnome fehlt?
Isses ein python Paket? Um welches geht es?

COLOSSUS

Administrator
GNUltra

Registered: Dec 2000
Location: ~
Posts: 12050

07.10.2024 - 17:53

Die Frage beruht auf einer falschen Praemisse, weil dein Desktop Environment wenn dann nur hoechst koinzidienziell die richtigen Python-Dependencies fuer irgendeine genML-Chose mitbringt. Wenn du jedenfalls Dependencies via pip ziehst, solltest du dir ein venv goennen. Inzwischen ist das in Python einfach der (durchaus etwas traurige) Stand der Software-Verteilung :')

Kirby 0x19 Registered: Jun 2017 Location: Lesachtal/Villac.. Posts: 878	21.08.2024 - 01:54 Wie im Titel stehe ich vor dem Problem, dass ich einige Modele nur mit Nvidia gpu betreiben kann. Lösungsförschläge für AMD hier sind erwünscht. Ich kenn mich da eigentlich auch nicht genau aus. E: Danke an den 1 Stern voter. Ich stehe hier vor einem Problem. Poste lieber was anstadt nur deinen einen Stern abzugeben! Bearbeitet von Kirby am 21.08.2024, 02:38
Rogaahl Super Moderator interrupt Registered: Feb 2014 Location: K Posts: 2251	21.08.2024 - 03:10 pyTorch gibt es doch eh für ROCm? Installing PyTorch for ROCm — ROCm installation (Linux) Installing PyTorch for ROCm Link: rocm.docs.amd.com Was ich so mitbekommen habe, läuft ROCm unter Linux einiges besser als Windows.
charmin Super Moderator 10x Registered: Dec 2002 Location: aut_sbg Posts: 14404	28.08.2024 - 11:00 Schick mal die konkreten Modelle bitte bzw. Links zum git repo.
Kirby 0x19 Registered: Jun 2017 Location: Lesachtal/Villac.. Posts: 878	07.10.2024 - 16:20 Danke Roghaal. ROCM funktioniert nice. Ich hatte mit XFCE probleme wegen python. Da musste ich ein virtuelles environment anlegen. Mit python kenne ich mich halt noch net so aus. Unter GNOME hat er nichts gemeckert wegen venv bzw. break system packages @Charmin: Ich benutze ein paar Modelle von CivitAI, bin aber jetzt mit flux-schnell und flux-dev sehr zufrieden. Die Links dazu kann ich dir später gerne schicken. Hier ein Flux-Schnell Bild: Bearbeitet von Kirby am 07.10.2024, 16:22
Kirby 0x19 Registered: Jun 2017 Location: Lesachtal/Villac.. Posts: 878	07.10.2024 - 16:33 Aja. Es geht hier hauptsächlich um den GPU Support. Ich nutze gerne ComfyUI weils halt wie im Namen sehr komfortabel ist. Das geht unter Windows auch, halt nur mit Directml aber da nimmt er halt nur die CPU her. GPU support (AMD) dafür gibt leider nur für Linux mit ROCm. Nvidia Karten gehen unter Linux wie auch unter Windows. So zum Vergleich: Windows Directml (CPU): 40h/it Linux AMD-GPU: 15s/it
Longbow Here to stay Registered: Feb 2003 Location: Homeoffice Posts: 5221	07.10.2024 - 16:53 Zitat aus einem Post von Kirby Danke Roghaal. ROCM funktioniert nice. Ich hatte mit XFCE probleme wegen python. Da musste ich ein virtuelles environment anlegen. Mit python kenne ich mich halt noch net so aus. Unter GNOME hat er nichts gemeckert wegen venv bzw. break system packages ... Das venv hat den Vorteil, dass du mit den ganzen packages nicht dein "global" zumüllst und projektbezogen flott löschen/reinstallieren kannst. Mit deinem window manager hat das ungefähr so viel zu tun wie Super95 und dem aktuellen Radioempfang. https://docs.python.org/3/library/venv.html
Kirby 0x19 Registered: Jun 2017 Location: Lesachtal/Villac.. Posts: 878	07.10.2024 - 17:51 Die Frage ist aber. warum geht es mit gnome ohne warnung um zumülung?
charmin Super Moderator 10x Registered: Dec 2002 Location: aut_sbg Posts: 14404	07.10.2024 - 17:53 Zitat aus einem Post von Kirby Die Frage ist aber. warum geht es mit gnome ohne warnung um zumülung? Weil vermutlich das Paket bei gnome fehlt? Isses ein python Paket? Um welches geht es?
COLOSSUS Administrator GNUltra Registered: Dec 2000 Location: ~ Posts: 12050	07.10.2024 - 17:53 Die Frage beruht auf einer falschen Praemisse, weil dein Desktop Environment wenn dann nur hoechst koinzidienziell die richtigen Python-Dependencies fuer irgendeine genML-Chose mitbringt. Wenn du jedenfalls Dependencies via pip ziehst, solltest du dir ein venv goennen. Inzwischen ist das in Python einfach der (durchaus etwas traurige) Stand der Software-Verteilung :')

Cuda für AMD - torch_AMD?

Forum Index > Software > Artificial Intelligence

Kirby

Rogaahl

charmin

Kirby

Kirby

Longbow

Kirby

charmin

COLOSSUS