Wie viel Speicher sollte man dem KI-Assistenten beim Streaming in 1080p lassen

Berechnen Sie zuerst, was bereits belegt ist

Der KI-Assistent arbeitet nicht im luftleeren Raum: Er teilt sich die Hardware mit dem Spiel, dem Encoder und dem Stream selbst. Bevor Sie Speicher zuweisen, berechnen Sie, wie viel die übrigen Beteiligten bereits verbrauchen. Bei 1080p lastet die Hauptlast auf dem Encoder — hardwarebasiert auf der Grafikkarte oder softwarebasiert auf dem Prozessor — plus auf dem Spiel selbst und der Bildschirmaufnahme.

Eine praktische Orientierung: Wenn Spiel und Encoder zusammen einen spürbaren Anteil des Videospeichers belegen, geht der freie Rest an das Modell statt an den Cache — und Sie bekommen Einbrüche nicht wegen Speichermangels, sondern wegen seiner ständigen Umverteilung. Rechnen Sie also nicht „wie viel geben“, sondern „wie viel bleibt nach Spiel und Encoder übrig“.

Lokales Modell oder Cloud

Das ist die entscheidende Weiche, und von ihr hängt alles ab.

Ein Cloud-Assistent verbraucht kaum lokalen Speicher: Die Anfragen gehen über das Netz, auf Ihrem Rechner bleibt nur der Client. Die Frage ist dann nicht die nach Gigabyte, sondern nach Kanalstabilität und Latenz — beim aktiven Stream ist der Upload bereits belegt, und der Assistent teilt ihn mit dem Video. Ist der Kanal schmal, antwortet der Assistent mit Verzögerung oder konkurriert mit dem Stream um Bandbreite.

Ein lokales Modell hält die Gewichte dauerhaft im Videospeicher oder im Arbeitsspeicher. Hier ist Speicher ein direkter Aufwand, der im Voraus eingeplant werden muss. Dafür gibt es keine Netzwerklatenzen, und der Upload bleibt frei.

Wie viel Videospeicher ein lokales Modell benötigt

Die genauen Zahlen hängen vom Modell und der Quantisierung ab, aber man kann nach der Formel rechnen: Anzahl der Parameter multipliziert mit der Speicherbreite. Bei 4-Bit-Quantisierung belegt jede Milliarde Parameter etwas mehr als ein halbes Gigabyte — plus Overhead für Hilfspuffer und Kontext-Cache. Daraus ergeben sich praktische Orientierungswerte für VRAM:

• Modell mit 3–4 Mrd. Parametern in 4 Bit — etwa 2–3 GB;
• 7–8 Mrd. Parameter in 4 Bit — etwa 4,5–5,5 GB;
• 13–14 Mrd. Parameter in 4 Bit — rund 8–9 GB;
• 30–34 Mrd. Parameter in 4 Bit — etwa 18–20 GB.

Zu diesen Zahlen kommt der Kontext-Cache hinzu: Er wächst mit der Länge des Dialogs und kann bei längerem Schriftwechsel mehrere Gigabyte obendrauf bedeuten. Volle Präzision statt Quantisierung erhöht das Volumen der Gewichte um das 3–4-Fache und bedeutet beim 1080p-Stream fast immer, dass für das Spiel kein Videospeicher mehr übrig bleibt.

Welche Modelle mit 7–8 Mrd. Parametern fürs Streaming infrage kommen

Die Klasse 7–8B in 4-Bit-Quantisierung ist der brauchbare Mittelweg für Systeme mit 12–16 GB VRAM. Als Chat-Assistent für Streamer schaut man auf Instruct-Versionen von Familien wie Qwen, Llama, Mistral, Gemma: Sie lassen sich vorhersehbar nach der obigen Formel berechnen und passen in die angegebenen Volumina. Der Unterschied zwischen ihnen liegt in der Qualität der Antworten auf Russisch und im Tempo der Generierung, nicht in den Speicheranforderungen — die Parameterzahl ist etwa gleich.

Für einen Assistenten, der den Chat liest und Reaktionen in kurzen Sätzen vorschlägt, reichen 7–8B bei mäßigem Kontext. Modelle mit 3–4B sind in zusammenhängendem Text deutlich schwächer, geben aber 2–3 GB für das Spiel frei. Volle, nicht quantisierte Gewichte in 7–8B belegen ein Vielfaches und passen beim 1080p-Stream nicht ins Budget.

VRAM-Mangel und Offload: Wie sich die Rechnung ändert

Wenn der Videospeicher für die Gewichte nicht reicht, wandern einige Schichten über Offload in den Systemspeicher — und das Modell läuft weiter. Der Preis dafür ist die Geschwindigkeit: Der Austausch läuft über den Bus, die Inferenz wird langsamer, und gleichzeitig gehen RAM und VRAM verloren. Offload hebt die Berechnung nicht auf — er verlagert den Verbrauch von VRAM in den RAM und senkt das Antworttempo.

Deshalb ist „ein größeres Modell nehmen und Offload einschalten“ bei aktivem Stream ein Kompromiss auf der Kippe: Der Assistent denkt länger, und das System beginnt bei Spielspitzen zu swappen. Besser ist es, ein kleineres Modell zu nehmen und es vollständig in den freien Rest zu legen.

Arbeitsspeicher

Läuft das Modell auf der CPU, wandert der Verbrauch in den RAM: dieselben gut halben Gigabyte pro Milliarde Parameter in 4 Bit plus Puffer. Ein Modell mit 7–8B auf dem Prozessor belegt etwa 5–6 GB RAM zusätzlich zum Bedarf von System, Spiel und Encoder, und die Inferenz auf der CPU läuft deutlich langsamer — der Assistent antwortet mit spürbarer Pause. Software-Kodierung in 1080p belastet den Prozessor ohnehin, und die Inferenz auf derselben CPU dazuzulegen ist ein sicherer Weg zu Drops.

Warum man nicht den gesamten freien Speicher abgeben darf

Die Versuchung ist einfach: So und so viel ist frei — ich gebe alles dem Modell. Das ist ein Fehler. Speicher wird als Puffer für Spitzen gebraucht: das Nachladen von Assets im Spiel, Bitraten-Sprünge beim Encoder, Hintergrundarbeit des Systems. Wenn das Modell den Rest belegt, beginnt das System zu swappen — und Sie bekommen Ruckler, deren Ursache Sie nicht sofort finden. Spitzen im Stream kommen zu den ungünstigsten Momenten — in dynamischen Szenen und beim Wechsel der Location.

Womit man den belegten Speicher in der Spitze misst

Durchschnittswerte im Task-Manager täuschen: Sie brauchen die Spitze während des Gefechts, nicht den ruhigen Bildschirm.

• nvidia-smi mit zyklischer Aktualisierung zeigt den belegten VRAM und das Gesamtlimit pro Prozess;
• MSI Afterburner mit RivaTuner-Overlay blendet belegten VRAM und GPU-Auslastung direkt über dem Spiel ein — praktisch, um die Spitze mit dem Auge zu verfolgen;
• die integrierte Statistik oder das Treiber-Overlay liefert dieselben Werte ohne Fremdprogramme;
• Task-Manager und Ressourcenmonitor braucht man für RAM und Swap — dort sieht man, wann das System begonnen hat, Seiten auszulagern.

Schauen Sie nicht auf den Durchschnitt, sondern auf das Maximum pro Sitzung: Genau das bestimmt, was für das Modell übrig bleibt.

Wie man das Volumen auf sein System abstimmt

1. Starten Sie Spiel und Encoder im Einsatzmodus 1080p und messen Sie die Spitze über nvidia-smi oder das Afterburner-Overlay.
2. Ziehen Sie die Spitze vom verfügbaren Volumen ab — das ergibt die Obergrenze für das Modell mit Reserve für Spitzen.
3. Starten Sie den Assistenten und beobachten Sie Frames, Swap und Antwortzeit.
4. Bei Rucklern kürzen Sie zuerst den Kontext, dann senken Sie die Modellklasse oder aktivieren eine aggressivere Quantisierung, und wiederholen Sie das, bis Drops und Swap verschwinden.

Die Methode erfordert wiederholte Messungen: Die Spitzen ändern sich je nach Spiel und Szene.

Was wirklich Speicher spart

Bei Speicherknappheit gibt es mehrere Hebel, und jeder hat seinen Preis:

• kürzerer Kontext und Zurücksetzen der Historie senken den Cache-Verbrauch, aber Sie verlieren den Gesprächsfaden;
• ein kleineres Modell oder aggressivere Quantisierung sparen Gigabyte, aber die Antwortqualität sinkt;
• ein Cloud-Assistent gibt lokalen Speicher vollständig frei, fügt dafür aber Latenz und Netzabhängigkeit hinzu;
• die Umstellung von 1080p auf einen Hardware-Encoder nimmt Last vom Prozessor und bringt oft mehr als das Feilschen um Gigabyte;
• die Begrenzung von Antwortlänge und Historiengröße in den Client-Einstellungen hält den Cache-Verbrauch vorhersehbar.

Fangen Sie beim Encoder und beim Kontext an: Das sind die qualitativ günstigsten Maßnahmen. An Quantisierung und Modellverkleinerung gehen Sie erst, wenn diese Schritte nicht gereicht haben.