this post was submitted on 16 Mar 2026
7 points (88.9% liked)
Technik
1016 readers
2 users here now
die Community für alles, was man als Technik beschreiben kann
the community for everything you could describe as technology
Beiträge auf Deutsch oder Englisch
Posts in German or English
founded 2 years ago
MODERATORS
you are viewing a single comment's thread
view the rest of the comments
view the rest of the comments
Ich hab hier einen wirklich alten Rechner mit einer RX 6600 8GB, auch eher untere Schublade, und das 35B-A3B Modell läuft bei mir in 4-bit mit 8-9 t/s. Ist schon irre was mit so einer Gurke geht. Das hätte ich noch vor ein paar Jahren nicht geglaubt.
Quäl die arme GPU doch nicht, sondern setz' Moonlight auf dem server auf qwq