Schlagwort: Radeon AI PRO R9700
-
Qwen3.8-27B auf der RTX 5060 Ti
Brauchen lokale KI-Modelle wirklich 24 GB VRAM? Ein 27-Milliarden-Parameter-Modell auf einer Mittelklasse-Grafikkarte mit nur 16 GB VRAM? Was zunächst nach einer technischen Grenze klingt, ist offenbar möglich. Ein Community-Test zeigt, dass Qwen3.8-27B auf einer einzelnen GeForce RTX 5060 Ti* mit bis zu 47,6 Tokens pro Sekunde laufen kann. Dafür sind allerdings eine besonders speichersparende Quantisierung…
-
Qwen3.8-27B lokal auf AMD R9700
Das steckt hinter AMDs Day-0-Versprechen Ein 27-Milliarden-Parameter-Modell, lokal auf einem Mini-PC oder einer einzelnen Grafikkarte und das direkt zum Start? Genau dieses Versprechen macht AMD mit Qwen3.8-27B. Der neue Ableger aus der Qwen-Modellfamilie soll nicht nur leistungsfähig, sondern auch vergleichsweise einfach lokal einsetzbar sein. AMD nennt dabei bis zu 24,5 Tokens pro Sekunde auf einem…
