ASUS Dual Radeon RX 7800 XT OC Edition 16GB GDDR6

Drivers

Naast bovenstaande probleem wat ik schaar onder "opstart" problemen die je vaker kunt hebben als je onderdelen vervangt, liep ik nog tegen een ander fenomeen aan: drivers.

Voorheen gebruikte ik mijn GTX 1080 om lokaal wat te experimenteren met lokale aio modellen, maar ik liep al gauw tegen grenzen aan (Vram van 8GB en natuurlijk een oudere generatie grafische kaarten). De verwachting was dat deze kaart met zijn dubbele en snellere Vram de modellen significant sneller zou draaien. Schetste mijn verbazing: het was zo traag als een slak en ik baalde al bijna van mijn aankoop. Wat blijkt: de drivers van 24.10.x en 24.9.x hebben een bug die ervoor zorgt dat een groot gedeelte van de modellen in trager Ram wordt geladen. in 24.11.x zou dit opgelost moeten zijn. het advies was om terug te gaan naar 24.8.x.
Net als in https://github.com/ollama/ollama/issues/7107 wordt gerapporteerd, blijkt het met de oudere drivers wel veel sneller te werken.

Stroomverbrouw:
out of the box gebruikt de kaart best wel wat stroom, maar met een mooie undervolt kwam ik uit op net iets onder de 200W bij full load (hetgeen volgens meerdere sites toch een prima verbruik is).

Al met al twijfelde ik wel tussen 4 sterren en 3 sterren, want out of the box was het niet wat ik had verwacht van een nieuwe videokaart om nog zoveel te moeten uitzoeken en tunen en zeker de problemen met pcie 3.0 had ik eigenlijk van te voren wel willen weten, maar die kwam ik nergens tegen...