Wie wichtig ist CUDA?

[Mirulan]

Hallo Forum.

Ich bin dabei mir langsam Gedanken zu machen über einen neuen Rechner, da mein Aktueller
schon die 10 Jahresschallmauer durchbrochen hat.
Was ich will ist ein NumberCruncher und die Frage für mich ist bei der GraKa wie wichtig ist
CUDA von NVidia?
In engerer Auswahl stehen die Radeon Pro W6600 und die NVidia T1000 mit 8GB Ram. Beide sind
preislich auf ähnlichen Niveau. Was ich im Moment halt nicht abschätzen kann ist die CUDA Sache.
Daddeln tue ich nicht, von daher sollte es auch keine "Spieler"-Karte sein.

Hoffe mal auf Eure Kommentare und freue mich über eine Diskussion, da ich im Moment ziemlich
unbeleckt bin im Wissen um eine Vernünftige Karte mit vielleicht auch noch offenen Standards.
(Also doch AMD oder Intel?) Oder sollte ich noch warten wie Intel den GraKA-Markt aufmischt?

Die Sache eilt nicht. Ich habe Zeit mit dem Rechner, aber mittelfristig ist ein neuer fällig

Fragen, Fragen, Fragen!

TIA

Gruß Mirulan

[Luxuslurch]

Ich bin auch kein Experte, aber wenn ich das richtig verstehe, gibt es bestimmte Programme die auf CUDA zurückgreifen können und dann besser laufen. Auf Wikipedia gibt es da zumindest eine Liste.

Insofern: wie wichtig CUDA für dich ist, hängt zunächst einmal von deinem Anwendungsfall ab.

[willy4711]

Was ich will ist ein NumberCruncher

Wat issn dat ?

Wie auch immer: Cuda ist nur für Nvidia-Karten Interessant.
Kannst mal lesen:
libnvcuvid1 und libcuda1

wird gebraucht z.B. für Hardware-Decodoing von z.B. H.265 Videos

Wird das ein Laptop ?

[Mirulan]

Hallo!

Danke erst mal für den Verweis auf den Wikipedia-Artikel. Der Tenor ist, mal unabhängig von der Marke
der GraKa, daß es sich um eine proprietäre Technik handelt und man somit, wenn man sie nutzt auf Gedeih
und Verderb zukünftig von NVidia abhängt. UND, wenn ich das richtig zwischen den Zeilen verstanden habe
die OpenCL Umsetzung nur mit verminderter Rechenleistung unterstützt wird.

Ich finde das ist ein starkes Argument gegen NVidia, aber ich will mich noch nicht festlegen, ob ich mich für
oder gegen NVidia entscheide. Schau'n mer mal, gell.

@willy4711: Ein NumberCruncher ist ein "Zahlenmahlwerk", wenn man's übersetzt. Es soll also ein Rechner
werden, der primär nicht zum spielen, sondern zum Umgng mit viel Daten dienen soll, wie Rendern, Photobearbeitung,
Videobearbeitung oder Sound um nur einige Beispiele zu nennen. Nebenbei bemerkt soll er dann auch wieder 10 Jahre
halten, wie mein aktueller Rechner, deswegen stellte ich hier die Frage.

Weiß jemand schon was zu den "neuen" Intel-GraKa zu sagen, oder ist das noch zu frisch?

TIA

Gruß Mirulan

[Mirulan]

Hallo Willy4711.

Ich vergaß zu sagen, daß es kein Laptop werden soll, sondern ein Desktop(-Tower) Rechner.

Ich will notfalls noch was ändern können und nicht das ganze Teil dann entsorgen müssen,
wenn's dann soweit ist.

Gruß
Mirulan

[MaGe]

Es soll also ein Rechner
werden, der primär nicht zum spielen, sondern zum Umgng mit viel Daten dienen soll, wie Rendern, Photobearbeitung,
Videobearbeitung oder Sound um nur einige Beispiele zu nennen.

Videobearbeitung - FFmpeg bietet Zugriff auf cuda.

Muster: 1280x720
Videolänge 02:07:31.56

CPU: model: AMD FX-8350 8-core
fps=116 - CPU 90% und mehr.
real 54m44,468s

GPU: GeForce GTX 1660 SUPER -> Cuda - nvenc
fps=1232 - CPU 5%
real 5m10,851s

So viel über Videobearbeitung mit der proprietäre Technik.



gruss MaGe

[eggy]

Wenn's um Rendern geht, frag mal in der Blender Community. Die haben ganz gute Benchmarks[1], die ne Übersicht geben, welche Karte zur Zeit was liefert. Besonders durch die Umstellung des Rendersystems hat sich in den letzten Jahren da einiges geändert, mit der richtigen Beschleunigung bekommst Du _SEHR_ viel bessere Renderzeiten als ohne und auch was den Viewport angeht, alles kein Vergleich.
https://opendata.blender.org/
Auch falls Du nen anderen Renderer einsetzt, schau Dir unbedingt die Doku der jeweiligen Software an. Wäre unschön, wenn Du ne Karte kaufst, die nur Befehlssatz A kann, während die Software Befehlssatz B erwartet.

[MSfree]

Videobearbeitung - FFmpeg bietet Zugriff auf cuda.

CPU: model: AMD FX-8350 8-core
real 54m44,468s

GPU: GeForce GTX 1660 SUPER -> Cuda - nvenc
real 5m10,851s

Interessant wäre hier noch der Vergleich mit einer aktuelleren CPU. Core-i ab 7. Generation haben nämlich auch Videobeschleunigung in der CPU, so daß ich da auch etwas deutlich besseres erwarten würde als die 55 Minuten, die die uralte AMD-Antiquität bringt. Vermutlich kommt ein Core-i3-7100 ohne Cuda beim Transkodieren auf ähnliche Rechenzeiten wie die GTX 1660 .

[MaGe]

="MSfree"]
Vermutlich kommt ein Core-i3-7100 ohne Cuda beim Transkodieren auf ähnliche Rechenzeiten wie die GTX 1660.

Vermutlich aber nur

Da bin ich dabei, such dir was ( ein Video - Trailer 2-5 Minute ) aus dem internet
stell die Adresse hier rein und dann sehen wir weiter



gruss MaGe

[Mirulan]

Hallo!

Ich sage ja nichts grundsätzlich gegen die Technik, aber mir gefällt das Treibermodell von NVidia nicht so sehr.
Meine jetzige uralt-NVidia-Karte fahre ich mit dem Nouvou_Treiber und bin's zufrieden.

Ob allerdings Intel und AMD besser ist, kann ich nicht, oder zumindest noch nicht sagen.

Blender verzichtet auch auf die OpenCL Unterstützung und setzt ziemlich auf CUDA, zumindest im Moment.
Ich weiß nicht ob ich weinen oder lachen soll. CUDA ist mit Sicherheit nicht schlecht, aber
halt auf Gedeih und Verderb an NVidia gebunden.

Was Intel und AMD dagegen setzen wollen/werden, weiß ich nicht und erschließt sich mir im Moment auch noch
nicht.

Außerdem bin ich gespannt auf Euer Benchmark-Race mit der Renderei. Haltet uns mal auf den laufenden.
Danke.

Gruß Mirulan

[MSfree]

Meine jetzige uralt-NVidia-Karte fahre ich mit dem Nouvou_Treiber und bin's zufrieden.

Weißt du zufällig, ob CUDA mit Nouveau überhaupt funktioniert?

Ob allerdings Intel und AMD besser ist, kann ich nicht, oder zumindest noch nicht sagen.

Intel hat graphisch nichts zu bieten. Selbst die XE-Graphik liegt noch unterhalb der Einstiegsmodelle von AMD und Nvidia. Intels Vorteile sind die völlig problemlose Linuxkompatibilität und der geringe Stromverbrauch der integrierten Graphik.

Wenn es also um Stromverbrauch geht, kommt man höchstens mit den Ryzen-G Modellen auf das Niveau von Intel. Sobald man eine PCIe-Karte in den Rechner steckt, schnellt der Stromverbrauch mindestens um 10W im Leerlauf nach oben. Wobei sich stromsparen und numbercrunchen ohnehin widersprechen.

Blender verzichtet auch auf die OpenCL Unterstützung und setzt ziemlich auf CUDA, zumindest im Moment.

Welche Software setzt du ein?
Welche davon unterstützen überhaupt CUDA?
Welchen, von denen, die CUDA unterstützen, werden wie oft eingesetzt?

Wenn das darauf hinaus läuft, daß man einmal im Monat durch CUDA 2h Rechenzeit sparen kann, dann vergiß CUDA ganz einfach. Für sowas viel Geld auszugeben, wäre es mir nicht wert, und zeitaufwändige Berechnungen kann man auch nachts laufen lassen.

Was Intel und AMD dagegen setzen wollen/werden

Intel ist eher auf der AVX-Schiene unterwegs, AMD geht meines Wissen den OpenCL-Weg.

Außerdem bin ich gespannt auf Euer Benchmark-Race mit der Renderei.

Ich sehe das eher nicht als Benchmark-Race, zumindest will ich keinen Wettkampf draus machen. Mich interessiert es einfach, was in diesem Bereich mit und ohne spezielle Hardware möglich ist.

Ich schlage mal sintel-1280-stereo.mp4 vor:
https://wh0rd.org/videos/?C=N;O=D
Der Film ist meines Wissens Creative Commons.
Edit: im Abspann steht, daß der Film Creative Commons ist. Lizenztechnisch ist der Film also unbedenklich.

Ich warte dann mal auf MaGe, damit er die "Bedingungen" nennt, also den Aufruf von ffmpeg, damit wir das mit identischen Parametern aufrufen können.

[eggy]

@msfree: Blender nutzt die Fähigkeiten der Karte auch für den Viewport, "mit" sieht das ganz (!) anders aus, einerseits von der Flüssigkeit bei vielen Objekten, andererseits von der Texturenqualität, mit meiner niedlichen Intel kann man zwar auch arbeiten, ich schiel (und nur wegen Blender) aber trotzdem neidisch auf die Leute, die ne "richtige" Karte im Rechner haben.

Ob die Blederleute nur noch auf nvidia setzen, bin ich mir nicht sicher. Wenn ich das richtig im Hinterkopf hab, gab's letztes ne größere Änderung in Bezug auf amd ... einfach mal in nem Blenderforum fragen, ich hab das nicht im Detail verfolgt
https://code.blender.org/2021/11/next-l ... -amd-gpus/
https://www.amd.com/de/technologies/rad ... er-blender

[MaGe]

="MSfree"]
Ich warte dann mal auf MaGe, damit er die "Bedingungen" nennt, also den Aufruf von ffmpeg, damit wir das mit identischen Parametern aufrufen können.

Direkt download ( wget https://wh0rd.org/videos/sintel-1280-stereo.mp4 )
sintel-1280-stereo.mp4 2010-09-30 08:53 192M
Duration: 00:14:48.06,

NVENC hat mehrere Einschränkungen es unterstützt kein --crf-Flage, CRF ist nicht implementier.
also müßen wir die Bitrate selbst angeben, machen wir -b:v 1000k
Video von .mp4 ( macht normal keinen sinn, mir geht hier nur um die zeit ) zu .mkv

Software: libx264

Code: Alles auswählen

 time ffmpeg -i sintel-1280-stereo.mp4 -c:v libx264 -preset:v medium -profile:v high -b:v 1000k -c:a copy sintel-1280-stereo-cpu.mkv 

real 2m52,964s
user 21m14,166s
sys 0m11,623s


Hardware: h264_nvenc

Code: Alles auswählen

 time ffmpeg -y -hwaccel cuda -hwaccel_output_format cuda -c:v h264_cuvid -i sintel-1280-stereo.mp4 -c:v h264_nvenc -preset:v medium -profile:v high -b:v 1000k -c:a copy sintel-1280-stereo-gpu.mkv 

real 0m17,280s
user 0m7,370s
sys 0m1,622s



gruss MaGe

[MSfree]

Ich mußte jetzt ein wenig experimentieren, um die Intel HW-Beschleunigung zum Laufen zu bekommen. Mein Aufruf ohne Beschleunigung:

Code: Alles auswählen

time ffmpeg \
  -i sintel-1280-stereo.mp4 \
  -c:v libx264 \
  -preset:v medium \
  -profile:v high \
  -b:v 1000k \
  -c:a copy sintel-1280-stereo-cpu.mkv

entspricht dem von MaGe oben (nur lesbarer).

Zusätzlich habe ich dann diesen Aufruf verwendet, um mit Beschleunigung zu transkodieren:

Code: Alles auswählen

time ffmpeg \
  -init_hw_device vaapi=intel:/dev/dri/renderD128 \
  -hwaccel vaapi \
  -i sintel-1280-stereo.mp4 \
  -c:v h264_qsv \
  -preset:v medium \
  -profile:v high \
  -b:v 1000k \
  -c:a copy sintel-1280-stereo-gpu.mkv

Ergebnisse für meinen i3-7100 (Dual-Core, 3.9GHz):
ohne Beschleunigung (CPU-Last 95%):

Code: Alles auswählen

real    4m16.791s
user    16m32.210s
sys     0m3.904s

mit Beschleunigung (CPU-Last ca. 25%):

Code: Alles auswählen

real    1m7.224s
user    1m26.888s
sys     0m22.663s

Der selbe Test mit einem i5-10400 (Hex-Core, 2.9GHz):
ohne Beschleunigung (CPU-Last 80%):

Code: Alles auswählen

real    1m38.593s
user    15m25.731s
sys     0m5.128s

mit Beschleunigung (CPU-Last ca. 13%):

Code: Alles auswählen

real    0m45.664s
user    0m48.296s
sys     0m15.275s

Dem Nvidia-Encoder muß sich Intel klar geschlagen geben, der ist fast 5 mal so schnell wie die 5 Jahre alte Intel Hardware, bzw. fast 3 mal so schnell wie die 2 Jahre alte Intel Hadware.

Als Anwender muß man dann abwägen, ob man sich den höheren Stromverbrauch und die höhere Lärmbelästigung durch den GraKa-Lüfter in den Rechner holt. Wenn man gelegentlich mal eine 90 Minuten TV-Aufnahme transkodiert und das 7 Minuten auf dem i3-7100 dauert, dann lohnt sich meiner Meinung nach eine "richtige" GraKa nicht.

Wer 8h am Tag mit Blender arbeiten muß, der will kein Geruckel oder 4 Kaffeepausen pro Stunden, abgesehen davon, daß man nach einem Arbeitstag mit 32 Tassen Kaffee schlecht schlafen kann.

[JTH]

[…] abgesehen davon, daß man nach einem Arbeitstag mit 32 Tassen Kaffee schlecht schlafen kann.

Immer ein wichtiger Aspekt bei der Auswahl neuer Hardware

[DeletedUserReAsG]

Um auch mal die ältere Generation zum Vergleich zu haben, eine GTX1060:

Code: Alles auswählen

3,33s user 1,04s system 19% cpu 22,518 total

Was den bemängelten Stromverbrauch und Lüfterlärm angeht, sieht das bei dieser Karte im normalen Desktopbetrieb so aus:

Code: Alles auswählen

+-----------------------------------------------------------------------------+
| NVIDIA-SMI 510.54       Driver Version: 510.54       CUDA Version: 11.6     |
|-------------------------------+----------------------+----------------------+
| GPU  Name        Persistence-M| Bus-Id        Disp.A | Volatile Uncorr. ECC |
| Fan  Temp  Perf  Pwr:Usage/Cap|         Memory-Usage | GPU-Util  Compute M. |
|                               |                      |               MIG M. |
|===============================+======================+======================|
|   0  NVIDIA GeForce ...  Off  | 00000000:01:00.0 Off |                  N/A |
|  0%   51C    P5    14W / 120W |      0MiB /  6144MiB |      2%      Default |
|                               |                      |                  N/A |
+-------------------------------+----------------------+----------------------+

Also: zusätzlicher Lärm n.v., und zusätzlicher Stromverbrauch 14W – zumindest ich halte das für mich für tragbar, YMMV.

Aber letztlich ist’s ja auch OT, und im Eingangsbeitrag wurde ja schon dargestellt, dass die GPU zu Rechenzwecken herangezogen werden solle, und es wurde gefragt, ob CUDA wichtig sein könne. Die Antwort darauf ist eigentlich auf der Hand liegend: wenn im angedachten Szenario CUDA zum Einsatz kommen soll, dann ist das wichtig. Wenn nicht, dann nicht.