debianforum.de

Guten Abend liebe Leute...

ich bin mir nicht so sicher wohin der thread gehört ... deswegen hier.

vor kurzem bin ich über folgende hardware gestolpert: https://www.mediamarkt.at/de/product/_l ... lsrc=aw.ds

und jetzt meine frage:

zahlt sich das überhaupt aus fertige hardware kombi zu kaufen und reicht das überhaupt für eine kleine chatGPT3 box?
Bzw wird mein RPG gelüst mit der box befriedigt?

meines wissens ist da auch noch ein m.2 A+E Key anschluss drinnen wo man ein Google Coral TPU reinpflanzen kann.
und eine Nvidia RTX 4060 ist halt auch drinnen .... mag derzeit nix basteln ....

und ja es soll eine debian Box werden (12 bookworm)

gibt es dafür auch die ensprechenden treiber?

ChatGPT Ist ne Webseite. Willst du dein eigenes llm lokal laufen haben?

Dann würde ich erst untersuchen welches du genau willst und wie viel vram die brauchen.

Ich habe mir wegen (Bilder) ai gerade ne rtx 4060ti gekauft mit 16gb vram.

Ich bin nicht so Fan von fertig rechnen. Aber ja, wenn man keine Lust hat auf selber alles zusammensuchen kann es sich lohnen. Ob genau das Modell gut ist kann ich nicht sagen.