Rechner fuer Machine Learning

Ende das Jahres is und Restbudgets muessen investiert werden, ich hab den Auftrag einen Rechner fuer Machine Learning zusammenzustellen.
Budget ~3500eu. Wenn die CPU auch noch flott genug waer fuer Comsol waers nett. Basierend auf einer 2080ti und potentiell soll ein Upgrade in mittelfristiger Zukunft moeglich sein auf 4x2080ti - und genau da liegt mein Problem das hinzubekommen. Bei 1-2 GPUs wuerd ich einfach einen Ryzen9 mit irgendeinem ordentlichen x570 Brettl und ordentlich RAM hinstellen mit extra PSU-Reserven.

So wie ich das seh (in den GH Filtern) waer bei AMD fuer 4xGPU ein TRX4 notwendig, das waer dann wohl over-budget. Intel mit einem ASUS WS Z390 Pro koennt schon mal 4GPUs, hat aber nur 16 PCIe Lanes (insgesamt? also faellt dann noch was weg fuer NVME?) und ich weiss net wie sehr mich das einschraenkt. Hat jemand Vorschlaege wie man die Option auf 4 GPUs beibehaelt mit dem Budget oder ist das hoffnungslos?

Mehr Details bzgl. verwendete Algorithmen, etc gibts leider nicht.

Also ein Basis TRX4 System sollte sich um 3.5k netto ausgehen. Besonders wenn es vielleicht nicht wirklich alles auf einmal sein muss.

Ich würde einfach nichts anderes nehmen als diese Platform - es gibt nichts vergleichbares für deine Anforderungen im Moment. Unmengen an PCIe Lanes, Quad Channel RAM, ordentliche Boards für 4 GPU, ... bald 64+ Core CPUs für zukünftige Upgrades.

3960X - 1260€
Board - 420€
4x16GB RAM - 250€
2080TI - 1000€
1 TB NVMe - 200€
bleibt noch ein bissl was für PSU und Case.

War mobil unterwegs, ansonsten hätte ich wahrscheinlich eine sehr ähnliche Liste zusammengeklickt statt ausm Kopf die Liste hinzufetzen.

Bin jetzt selbst nicht sooo in ML involviert, daher weiß ich nicht ob man bei einzelnen Komponenten noch etwas optimieren kann/soll. Aber als Grundsystem soll das Ding ordentlich was weiterbringen.

Da bin ich ja gespannt. War doch noch etwas mehr Spielraum im Budget als angenommen.

Wie schauts mit Airflow in dem Gehäuse aus wenn einmal 3/4 Stück 2080TI drin sind?

Das ist noch net klar, es ging um einen 2019 endenden Grant wo noch Geld investiert werden musste das ansonsten verfallen waere. Deswegen auch das etwas schwankende Budget, weil da schnell mal ein paar Tausender in Kabel oder sonstiges Zeug gesteckt werden oder eben nicht.
Die letzten Reste gingen jetzt in einen Rechner wo evtl ein bisserl mehr in ML passieren soll als bisher auf einer 2060 gerechnet wurde (Details in here). Bzw wird wahrscheinlich auch comsol ein paar Lasergeometrie-Modelle rechnen, das macht wie ich letzte Woche erfahren hab, momentan ein i7-920 von 2009 - also einer aus dem vorletzten Jahrzehnt


Zwischen den GPUs wirds natuerlich schon kuschelig, die Kiste is aber so riesig das da noch immer massig Platz ist, Kabelmanagement hab ich mich diesmal richtig bemueht und genau ueberlegen wie ich die Luft mach muss ich noch. Evtl vorn/hinten/oben rein und unten alles raus? Lautstaerke is quasi egal, steht sowieso in einem Labor wo genug Vakuumpumpen laufen und Staub ist auch relativ wenig.

// Jedenfalls war ich schon leicht nervoes wie ich das Riesentrumm in den Sockel geklappt hab. Ich haett nicht glaubt das man das orange Trumm permanent drauflaesst.

Freut mich, es sollt auch bald endlich mal die Printversion mit ordentlich supplementary Info rauskommen wenn die Reviewer endlich mal weitertun Wir sind noch relativ neu im ML Feld, generelle Infos zu dem was wir sonst so machen - https://www.graphenelabs.at/.

// Wir sind auf LinkedIn connected? Seh dich nirgns, aber hab dir mal einen connectionrequest gschickt...