Deze kaart is goed geschikt voor in een Workstation, het is een blowerkaart die naar buiten blaast, twee slots in beslag neemt en optimaal is voor bijvoorbeeld een HP Z8-G4. Er zit een verloopje bij voor 2VHPWR van 3x8 pin naar 16pin (12+4pin). Ik heb een haakse connector/stekker besteld omdat de kaart vrij lang is en het mij niet goed lijkt als de kabels bijna geknikt zitten.
Gekocht voor het draaien van koboldcpp(-rocm) en dat doet ie goed. Rond de 18T/s met gemma-3-27b-it-Q5_K_M (zie verder). Snel aan de praat te krijgen met Xubuntu 24.4. Je leest veel over ROCm en dat het geen CUDA is, maar mij verrast het positief.
Geluid valt mij erg mee, maar heb 'm nog niet zo lang. Misschien kan ik de T/s ook nog omhoog krijgen.
Dit waren vragen waar ik graag de antwoorden hier op gelezen had, dus vandaar dat ik ze plaats.
Deel je ervaringen en help andere tweakers!