Schlagwort: Lokale KI
-
NVIDIA RTX PRO 5500
Diese „RTX 5090 mit 84 GB“ ist ein KI-Monster Eine GeForce RTX 5090 mit 84 GB VRAM? Genau diese Schlagzeile dürfte bei vielen KI-Enthusiasten zunächst für Aufsehen sorgen. Denn während lokale Sprachmodelle, Bildgeneratoren und KI-Agenten immer größer und anspruchsvoller werden, stößt selbst NVIDIAs aktuelles Consumer-Flaggschiff mit 32 GB Grafikspeicher schnell an praktische Grenzen. Doch die…
-
Qwen3.8-27B auf der RTX 5060 Ti
Brauchen lokale KI-Modelle wirklich 24 GB VRAM? Ein 27-Milliarden-Parameter-Modell auf einer Mittelklasse-Grafikkarte mit nur 16 GB VRAM? Was zunächst nach einer technischen Grenze klingt, ist offenbar möglich. Ein Community-Test zeigt, dass Qwen3.8-27B auf einer einzelnen GeForce RTX 5060 Ti* mit bis zu 47,6 Tokens pro Sekunde laufen kann. Dafür sind allerdings eine besonders speichersparende Quantisierung…
-
Qwen3.8-27B lokal auf AMD R9700
Das steckt hinter AMDs Day-0-Versprechen Ein 27-Milliarden-Parameter-Modell, lokal auf einem Mini-PC oder einer einzelnen Grafikkarte und das direkt zum Start? Genau dieses Versprechen macht AMD mit Qwen3.8-27B. Der neue Ableger aus der Qwen-Modellfamilie soll nicht nur leistungsfähig, sondern auch vergleichsweise einfach lokal einsetzbar sein. AMD nennt dabei bis zu 24,5 Tokens pro Sekunde auf einem…
-
KI-Supercomputer für den Schreibtisch
Spezial-Hardware oder RTX 4090/5090? Die Ära der Künstlichen Intelligenz hat längst begonnen, und mit ihr der Hype um immer leistungsfähigere Hardware. Während KI-Modelle wie ChatGPT oder Midjourney uns im Web begeistern, träumen viele von der lokalen Power: Ein eigener „KI-Supercomputer“ direkt auf dem Schreibtisch, der uns unabhängig von Cloud-Anbietern macht. Aber sind diese spezialisierten KI-Workstations…
