Faire tourner un modèle ouvert sur votre propre carte graphique semble gratuit une fois la carte achetée. Voici comment chiffrer la carte, les coûts cachés et le même trafic payé au message, en dinars.
Votre carte a été refusée à l'étranger, alors faire tourner un modèle chez vous ressemble à une sortie. Un modèle ouvert comme Llama se télécharge gratuitement. Il ne demande ni compte étranger ni abonnement.
Le piège, c'est la machine. Cet article met un chiffre en dinars de chaque côté, pour que vous décidiez avec des nombres plutôt qu'avec de l'espoir.
Un modèle vit dans la mémoire de la carte graphique pendant qu'il répond. S'il n'y tient pas, il rame ou ne démarre pas.
La VRAM est la mémoire de la carte graphique. Son rôle est de tenir le modèle pendant qu'il travaille.
Comptez deux octets par paramètre en pleine précision. Un modèle de 8 milliards de paramètres demande donc environ 16 Go pour ses poids seuls, avant que la conversation prenne sa part.
Des versions compressées existent. Elles réduisent le modèle au tiers de sa taille, et elles perdent aussi en qualité. Un modèle de 70 milliards de paramètres, même compressé, demande encore deux cartes de 24 Go qui travaillent ensemble.
La carte n'est que la première ligne de la note. Il lui faut une alimentation assez forte, du refroidissement et une machine autour.
Et si j'achète une carte d'occasion sur Ouedkniss ?
Le prix baisse, et la garantie disparaît avec lui. Une carte qui a tourné jour et nuit chez quelqu'un d'autre peut lâcher en quelques mois, et personne ne vous rembourse.
L'été est l'autre coût. Une carte en pleine charge chauffe la pièce, et en juillet une pièce sans climatisation la force à ralentir pour survivre.
Prévoyez un onduleur. Une coupure de courant au milieu d'un long calcul peut corrompre vos fichiers et abîmer la carte.
Passons de l'autre côté. Avec une API, vous payez chaque message, et rien avant le premier.
Voyons tout de suite ce que ça coûte.
L'assistant de votre boutique répond à 50 000 questions par mois. Llama 3.1 8B Instruct coûte environ 0,028 DA le message sur sa page modèle, lue le 5 octobre 2026. Cela fait environ 1 400 DA par mois, sans machine à acheter.
Un message, sur la page modèle, c'est 1 000 tokens envoyés et 500 reçus. Une conversation plus longue coûte plus cher, et la page vous donne le tarif de chaque côté.
Le grand Llama 3.3 70B Instruct, celui qui demande deux cartes chez vous, coûte environ 0,15 DA le message. Les mêmes 50 000 messages reviennent à environ 7 500 DA par mois.
La comparaison tient en une division. Prenez le prix de la carte et de sa machine, puis divisez-le par ce que l'API vous coûterait chaque mois.
Pour chaque tranche de 100 000 DA de matériel, l'API paie environ 71 mois du trafic ci-dessus sur Llama 3.1 8B. C'est presque six ans, avant l'électricité et avant la première panne.
Acheter une carte d'abord et chercher le trafic ensuite.
Faites tourner un mois sur l'API, lisez votre volume réel sur votre page d'usage, puis décidez si une machine se rembourserait un jour.
Quand vous êtes prêt à appeler un modèle depuis votre code, l'alternative en cinq minutes à l'achat d'un GPU vous montre les deux lignes à changer.
Contexte : vous avez repéré une carte graphique sur une annonce, et votre application envoie environ 20 000 messages par mois.
Consigne : dans un tableur, calculez combien de mois d'API sur Llama 3.1 8B le prix de la carte paierait.
20 000 messages à environ 0,028 DA font environ 560 DA par mois. Divisez le prix de la carte par 560. Une carte annoncée à 100 000 DA vaut environ 179 mois d'API, presque quinze ans.
Oui, un modèle 7B ou 8B compressé tient sur une carte de 8 Go. Il répond lentement et perd en qualité : c'est un bon outil pour apprendre, et une base fragile pour un produit.
OpenDunes est hébergé en Algérie, et son API peut masquer les données personnelles avant qu'une requête parte vers le modèle. Vérifiez ce que vos propres données exigent au titre de la loi 18-07 avant de les envoyer où que ce soit.
Oui. L'API parle le format OpenAI : les bibliothèques officielles OpenAI et les frameworks construits dessus fonctionnent une fois l'URL de base et la clé changées.
Vous savez maintenant ce que coûte vraiment une machine face à un prix au message. Dans l'article suivant, on branche votre code sur l'API en cinq minutes. À tout de suite !