Présentation de Kog
Kog est une startup deeptech spécialisée dans l'inférence LLM haute performance, développant une couche d'exécution IA verticalement intégrée par co-design matériel-logiciel sur GPU datacenter. Notre approche repose sur un moteur d'inférence monokernel propriétaire, sans quantification ni décodage spéculatif, générant plus de 3 300 tokens/seconde par requête sur matériel standard (H200/MI300X). Kog est partenaire technologique d'AMD et collabore avec des acteurs de la recherche dans le développement de ses optimisations bas niveau. La société a lancé sa Tech Preview publique en mai 2026.
Kog propose une couche d'inférence LLM optimisée de bout en bout, conçue pour minimiser la latence sur GPU datacenter standard (AMD MI300X, NVIDIA H200). Contrairement aux solutions existantes reposant sur des compromis de quantification ou de décodage spéculatif, Kog délivre des performances maximales sur des modèles en précision native. La solution s'adresse aux opérateurs d'infrastructure IA, clouds souverains et organisations déployant des LLM à grande échelle.
Cas client : Kog est en cours de qualification comme design partner auprès d'acteurs du secteur de la génération d'applications mobiles par IA. L'objectif : optimiser la vitesse d'inférence dans des pipelines de génération de code et d'interfaces mobiles, où la latence impacte directement la productivité des équipes de développement.
Kog génère plus de 3 300 tokens/seconde par requête sans quantification ni décodage spéculatif, via une architecture monokernel propriétaire. Support natif AMD MI300X et NVIDIA H200. Benchmarks publics disponibles. Tech Preview ouverte en mai 2026 pour évaluation technique directe.
Le problème et la solution
La solution de Kog
Kog propose une couche d'inférence LLM optimisée de bout en bout, conçue pour minimiser la latence sur GPU datacenter standard (AMD MI300X, NVIDIA H200). Contrairement aux solutions existantes reposant sur des compromis de quantification ou de décodage spéculatif, Kog délivre des performances maximales sur des modèles en précision native. La solution s'adresse aux opérateurs d'infrastructure IA, clouds souverains et organisations déployant des LLM à grande échelle.
Pour qui : Grands groupes, TPE/PME
Vous faites partie de l’équipe Kog ?
Cette fiche a été créée à partir d’informations publiques. Revendiquez-la pour la compléter, ajouter le lien vers votre site et vos réseaux sociaux, et remonter dans le classement Intelligence artificielle.
Revendiquer cette startup