Combien de mémoire réserver à l'assistant IA lors d'un stream en 1080p

Calculez d'abord ce qui est déjà occupé

L'assistant IA ne fonctionne pas dans le vide : il partage le matériel avec le jeu, l'encodeur et le stream lui-même. Avant d'allouer de la mémoire, calculez ce que les autres consomment déjà. En 1080p, la charge principale pèse sur l'encodeur — matériel sur la carte graphique ou logiciel sur le processeur — plus sur le jeu lui-même et la capture d'écran.

Repère pratique : si le jeu et l'encodeur occupent ensemble une part notable de la mémoire vidéo, le reste libre ira au modèle et non au cache — et vous aurez des baisses non pas par manque de mémoire, mais à cause de sa redistribution constante. Ne calculez donc pas « combien donner », mais « combien reste après le jeu et l'encodeur ».

Modèle local ou cloud

C'est le choix principal, et tout en dépend.

Un assistant cloud ne consomme presque pas de mémoire locale : les requêtes passent par le réseau, seule l'application cliente reste sur votre machine. La question n'est alors pas en gigaoctets, mais en stabilité du canal et en latence — pendant un stream actif, l'upload est déjà occupé, et l'assistant le partage avec la vidéo. Si le canal est étroit, l'assistant répondra avec une pause ou entrera en concurrence avec le stream pour la bande passante.

Un modèle local garde ses poids en mémoire vidéo ou en mémoire vive en permanence. Ici, la mémoire est une dépense directe qu'il faut réserver à l'avance. En revanche, pas de latence réseau et l'upload reste libre.

Combien de mémoire vidéo exige un modèle local

Les chiffres exacts dépendent du modèle et de la quantification, mais on peut calculer avec la formule : nombre de paramètres multiplié par la largeur de stockage. En quantification 4 bits, chaque milliard de paramètres occupe un peu plus d'un demi-gigaoctet — plus les frais annexes pour les tampons de service et le cache de contexte. D'où des repères pratiques pour la VRAM :

• modèle de 3–4 milliards de paramètres en 4 bits — environ 2–3 Go ;
• 7–8 milliards de paramètres en 4 bits — environ 4,5–5,5 Go ;
• 13–14 milliards de paramètres en 4 bits — de l'ordre de 8–9 Go ;
• 30–34 milliards de paramètres en 4 bits — environ 18–20 Go.

À ces chiffres, ajoutez le cache de contexte : il grandit avec la longueur du dialogue et peut ajouter plusieurs gigaoctets en cas de longue conversation. La précision complète au lieu de la quantification multiplie le volume des poids par 3–4 et, lors d'un stream en 1080p, signifie presque toujours qu'il ne restera pas de mémoire vidéo pour le jeu.

Quels modèles de 7–8 milliards choisir pour le stream

La classe 7–8B en quantification 4 bits est le juste milieu pour les configurations à 12–16 Go de VRAM. Pour un assistant de chat du streamer, on regarde les versions instruct des familles comme Qwen, Llama, Mistral, Gemma : elles se calculent de façon prévisible avec la formule ci-dessus et tiennent dans les volumes annoncés. La différence entre elles réside dans la qualité des réponses en russe et dans le rythme de génération, pas dans les exigences de mémoire — il y a à peu près autant de paramètres.

Pour un assistant qui lit le chat et suggère des réactions en courtes répliques, 7–8B avec un contexte modéré suffit. Les modèles de 3–4B sont nettement plus faibles en texte cohérent, mais libèrent 2–3 Go pour le jeu. Les poids complets, non quantifiés, en 7–8B occuperont plusieurs fois plus et ne rentrent pas dans le budget lors d'un stream en 1080p.

Manque de VRAM et offload : comment cela change le calcul

Si les poids manquent de mémoire vidéo, une partie des couches passe en mémoire système via l'offload — et le modèle continue de fonctionner. Le prix à payer, c'est la vitesse : l'échange passe par le bus, l'inférence ralentit, et la RAM comme la VRAM y perdent simultanément. L'offload n'annule pas le calcul — il transfère la dépense de la VRAM vers la RAM et réduit le rythme des réponses.

Donc « mettre un modèle plus gros et activer l'offload » pendant un stream actif est un compromis limite : l'assistant réfléchira plus longtemps et le système commencera à swapper lors des pics du jeu. Mieux vaut prendre un modèle plus petit et le loger entièrement dans le reste libre.

Mémoire vive

Si le modèle tourne sur le CPU, la dépense passe en RAM : toujours ce demi-gigaoctet par milliard de paramètres en 4 bits, plus les tampons. Un modèle 7–8B sur processeur occupera environ 5–6 Go de RAM en plus des besoins du système, du jeu et de l'encodeur, et l'inférence sur CPU est nettement plus lente — l'assistant répondra avec une pause perceptible. L'encodage logiciel en 1080p charge déjà le processeur à lui seul, et y ajouter l'inférence sur le même CPU est le moyen sûr d'obtenir des drops.

Pourquoi il ne faut pas donner toute la mémoire libre

La tentation est simple : il reste tant — je donne tout au modèle. C'est une erreur. La mémoire sert de tampon pour les pics : chargement des assets dans le jeu, sauts de bitrate de l'encodeur, travail de fond du système. Si le modèle a pris le reste, le système commencera à swapper — et vous aurez des freezes dont vous ne trouverez pas immédiatement la source. Les pics en stream arrivent aux moments les plus gênants — sur les scènes dynamiques et lors des changements de lieu.

Comment mesurer la mémoire occupée en pic

Les valeurs moyennes du gestionnaire des tâches trompent : il vous faut le pic pendant le combat, pas l'écran au repos.

• nvidia-smi avec rafraîchissement en boucle affiche la VRAM occupée et la limite globale par processus ;
• MSI Afterburner avec l'overlay RivaTuner affiche la VRAM occupée et la charge du GPU directement par-dessus le jeu — pratique pour suivre le pic à l'œil ;
• les statistiques intégrées ou l'overlay du pilote donnent les mêmes valeurs sans logiciels tiers ;
• le gestionnaire des tâches et le moniteur de ressources servent pour la RAM et le swap — on y voit quand le système a commencé à décharger des pages.

Regardez non pas la moyenne, mais le maximum sur la session : c'est lui qui détermine ce qui restera au modèle.

Comment choisir le volume pour sa configuration

1. Lancez le jeu et l'encodeur en mode réel 1080p, mesurez le pic via nvidia-smi ou l'overlay Afterburner.
2. Soustrayez le pic du volume disponible — vous obtenez la limite haute pour le modèle avec une marge pour les pics.
3. Lancez l'assistant, surveillez les images, le swap et le temps de réponse.
4. Si des freezes apparaissent — raccourcissez d'abord le contexte, puis réduisez la classe du modèle ou activez une quantification plus agressive, et répétez jusqu'à disparition des drops et du swap.

La méthode exige des mesures répétées : les pics varient selon le jeu et la scène.

Ce qui économise réellement de la mémoire

Si la mémoire est en pénurie, il y a plusieurs leviers, et chacun a son coût :

• un contexte plus court et la réinitialisation de l'historique réduisent la consommation du cache, mais vous perdez le fil du dialogue ;
• un modèle plus petit ou une quantification plus agressive économisent des gigaoctets, mais la qualité des réponses baisse ;
• un assistant cloud libère entièrement la mémoire locale, mais ajoute de la latence et une dépendance au réseau ;
• passer le 1080p sur l'encodeur matériel soulage le processeur et donne souvent plus que l'ajustement des gigaoctets ;
• limiter la longueur des réponses et la taille de l'historique dans les paramètres du client garde la consommation du cache prévisible.

Commencez par l'encodeur et le contexte : ce sont les mesures les moins coûteuses en qualité. Ne touchez à la quantification et à la réduction du modèle que lorsque ces étapes n'ont pas suffi.