• Daten vom Hersteller, nichts geschätzt
  • Jeder Rechner passend zu den Modellen, die er schafft
  • Weltweite Lieferung, Zölle und Steuern inklusive

GPU für lokale KI wählen: RTX 5090, R9700, B60

Aktualisiert am 17. November 2026 · 5 Min. Lesezeit

Zuerst der Speicher, dann die Software, dann die Geschwindigkeit. Die RTX 5090 ist die schnellste Karte mit 32 GB und vollständiger CUDA-Unterstützung. Die Radeon AI PRO R9700 bietet dieselben 32 GB bei 300 W statt 575 W, sofern Ihre Tools mit ROCm laufen. Die Intel Arc Pro B60 ist einer der einfachsten Wege zu 24 GB auf einer Karte. Für ein 70B-Modell auf einer einzelnen Karte greifen Sie zur Radeon PRO W7900 mit 48 GB oder zur RTX PRO 6000 mit 96 GB.

Die Karten im Vergleich#

KarteSpeicherBandbreiteLeistungsaufnahmeSoftware
NVIDIA GeForce RTX 509032 GB GDDR71.792 GB/s575 WCUDA
AMD Radeon AI PRO R970032 GB GDDR6640 GB/s300 WROCm
Intel Arc Pro B6024 GB GDDR6456 GB/s120–200 W, je nach BoardpartnerIntel-Tools
NVIDIA GeForce RTX 409024 GB GDDR6X1.008 GB/s450 WCUDA
AMD Radeon RX 7900 XTX24 GB GDDR6960 GB/s355 W (Referenz)ROCm
AMD Radeon PRO W790048 GB GDDR6 mit ECC864 GB/s295 WROCm
NVIDIA RTX PRO 6000 Blackwell96 GB GDDR7 mit ECC1.792 GB/s600 W oder 300 W (Max-Q)CUDA
Intel Arc Pro B5016 GB GDDR6224 GB/s70 W, über den SlotIntel-Tools

Schritt 1: Der Speicher bestimmt die Obergrenze#

Die vollständige Tabelle finden Sie unter Wie viel Speicher brauchen Sie?, und der Modell-Ratgeber prüft jede Karte für jede Modellgröße.

Schritt 2: Die Software entscheidet über Ihren Zeitaufwand#

Schritt 3: Die Bandbreite bestimmt das Tempo#

Sobald ein Modell in den Speicher passt, richtet sich das Tempo der Textausgabe nach der Speicherbandbreite. Bei einem Modell, das auf alle drei Karten passt, schreibt die RTX 5090 (1.792 GB/s) spürbar schneller als die R9700 (640 GB/s) oder die B60 (456 GB/s). Ob das ins Gewicht fällt, hängt von der Aufgabe ab: Für einen Chat-Assistenten sind alle schnell genug zum Mitlesen, bei langen Batch-Jobs spart Bandbreite Stunden.

RTX 5090: die schnellste, wenn Ihr Netzteil mitspielt#

Die RTX 5090 gehört zu den schnellsten Einzelkarten für Modelle, die in 32 GB passen, und ist die schnellste GeForce-Karte für 4K-Gaming. Sie zieht bis zu 575 W über einen 16-poligen 12V-2x6-Anschluss, NVIDIA empfiehlt ein Netzteil mit 1.000 W. Ein 70B-Modell passt nicht auf eine einzelne Karte.

Radeon AI PRO R9700: 32 GB pro Karte, sparsam pro Watt#

Die R9700 ist eine Workstation-Karte mit RDNA 4, ausgelegt für lokale KI. Sie bietet dieselben 32 GB wie die RTX 5090, bei 300 W, und ist dafür gedacht, zu mehreren in einem Rechner zu laufen. Zwei Karten ergeben 64 GB, genug für ein 70B-Modell in 4 Bit. Der Preis dafür: geringere Bandbreite und die oben genannte ROCm-Prüfung.

Intel Arc Pro B60: der Einstieg in 24 GB#

Die Arc Pro B60 ist eine Battlemage-Karte, die von Boardpartnern gefertigt wird; Anschlüsse, Kühlung und Leistungsaufnahme (120 bis 200 W) unterscheiden sich daher je nach Modell. Sie nutzt eine PCIe-5.0-x8-Schnittstelle. Einige Partner setzen zwei B60-GPUs auf eine Platine, zusammen 48 GB; diese Dual-Karten benötigen einen Mainboard-Steckplatz mit x8/x8-Bifurcation.

Wann sich eine Karte mit 48 GB oder 96 GB lohnt#

Die Radeon PRO W7900 bietet 48 GB ECC-Speicher und zertifizierte Workstation-Treiber. Sie eignet sich für große Szenen und aufwendige Video-Timelines ebenso wie für Modelle über 32 GB. Die RTX PRO 6000 hat 96 GB ECC-GDDR7, genug für ein 70B-Modell in 8 Bit auf einer einzigen Karte. Sollen mehrere Karten in ein Gehäuse, ist die Max-Q-Version mit 300 W und Radiallüfter die richtige Wahl, für die schnellste Einzelkarte die 600-W-Version.

Eine große Karte oder zwei kleinere? Verteilt man ein Modell auf zwei Karten, addiert sich ihr Speicher, die Geschwindigkeit verdoppelt sich aber nicht. Außerdem braucht man zwei passende Steckplätze, mehr Strom und eine bessere Belüftung. Wenn das Budget reicht, ist eine einzelne Karte die einfachere Lösung.

Für Gamer#

Wählen Sie die Karte passend zu Ihrem Monitor. Die RTX 5090 ist für 4K mit hohen Bildraten ausgelegt; RTX 4090 und RX 7900 XTX bleiben mit 24 GB starke 4K-Karten. In 1080p bleibt ein Großteil dieser Leistung ungenutzt.

Sind Ihre Modelle 14B groß oder kleiner, genügt eine günstigere Karte. Die Low-Profile-Karte Arc Pro B50 führt sie in 4 Bit mit 16 GB aus und kommt ohne Stromkabel aus.

Häufige Fragen

Reichen 24 GB für lokale KI?

Für Modelle bis etwa 30B in 4 Bit ja, allerdings mit wenig Spielraum für lange Kontexte. Für 70B brauchen Sie rund 42 GB: zwei 24-GB-Karten, eine 48-GB-Karte oder einen Rechner mit gemeinsamem Arbeitsspeicher (Unified Memory).

Lohnt sich die RTX 4090 noch?

Sie ist eine leistungsstarke Karte mit 24 GB und 1.008 GB/s Bandbreite, für alle, die Spitzenleistung wollen, ohne zur RTX 5090 zu greifen. Sie hat 8 GB weniger Speicher als die 5090 oder die R9700.

Kann ich NVIDIA- und AMD-Karten in einem Rechner kombinieren?

Manche Tools können beide nutzen, doch Treiber und Einrichtung werden dadurch komplizierter. Eine Marke pro Rechner ist der einfachere Weg.

Funktioniert eine PCIe-5.0-Karte in einem PCIe-4.0-Steckplatz?

Ja. Die Verbindung läuft dann mit der niedrigeren Geschwindigkeit. Liegt ein Modell vollständig im Speicher der Karte, wirkt sich die Anbindung vor allem auf die Ladezeit aus.

Prüfen, welcher Rechner Ihr Modell schafftWählen Sie eine Modellgröße und sehen Sie alle Rechner und Karten mit genug Speicher dafür.Wunschkonfiguration anfragenSagen Sie uns, was Sie ausführen möchten, Ihr Budget und Ihr Land. Wir antworten mit einer Konfiguration und einem Angebot.Noch unsicher? Fragen SieFragen Sie den Assistenten zu diesem Ratgeber, Ihrem Budget oder dem, was Sie ausführen möchten, und erhalten Sie sofort eine Antwort.

Passende Produkte: Grafikkarten · Hardware für lokale KI