IA locale : un assistant sur son PC ou son smartphone

Une IA locale est un assistant qui fonctionne directement sur l’ordinateur ou le smartphone, sans envoyer les requêtes à un serveur distant. Les textes restent sur l’appareil et l’outil répond même hors connexion. En contrepartie, il réclame une machine assez puissante et se montre souvent moins habile qu’un grand service en ligne sur les tâches complexes.

IA locale ou IA en ligne : où se fait le calcul

Tout assistant conversationnel repose sur un modèle de langage, un programme entraîné sur d’immenses volumes de textes pour prédire la suite d’une phrase. En ligne, chaque question part vers les serveurs de l’éditeur, qui calculent la réponse. Avec une IA locale, le modèle a été téléchargé une fois pour toutes et le calcul se fait dans la machine.

Quatre différences en découlent :

• les données : en ligne, le texte transite par les serveurs du prestataire, et l’ANSSI observe, dans ses recommandations de sécurité pour un système d’IA générative du 29 avril 2024, que dans la majorité des offres ces données sont réutilisées pour optimiser les modèles ; en local, elles restent sur l’appareil ;
• la connexion : un modèle installé répond encore dans un train, un avion ou une zone blanche ;
• le coût : l’abonnement des fonctions avancées en ligne cède la place au matériel et à l’électricité ;
• la vitesse : la documentation Android pour les développeurs note que l’exécution locale supprime la latence réseau, mais que sa vitesse dépend alors du matériel.

La frontière n’est pas toujours nette. Apple traite une partie des demandes sur l’appareil et envoie les plus complexes vers ses serveurs Private Cloud Compute, qui, d’après le blog sécurité de l’éditeur du 10 juin 2024, ne gardent les données que le temps de rendre la réponse. Les usages courants de l’IA au quotidien, en ligne pour la plupart, font l’objet d’un panorama séparé.

Le fonctionnement hors connexion reste l’atout le plus concret : dans un refuge de montagne ou pendant une panne de box, l’assistant local continue de reformuler un courriel ou de traduire un paragraphe.

Suivre un sujet qui évolue chaque mois

Peu de domaines du numérique changent aussi vite. Les modèles ouverts, ceux dont les paramètres sont publiés et téléchargeables, connaissent régulièrement de nouvelles générations, les applications qui les font tourner se mettent à jour en continu et chaque famille de processeurs ajoute des circuits consacrés à l’IA. Même le guide de Microsoft pour les développeurs a changé en cours de route l’outil recommandé pour exploiter ces puces.

Pour garder le fil, le lecteur gagne à suivre une rédaction qui essaie les outils avant d’en parler. Les tests publiés par ce média en ligne consacré à l’IA et aux technologies grand public répondent à ce besoin : chaque outil y est pris en main puis expliqué sans jargon, et l’IA locale figure parmi ses sujets suivis. Quand une nouvelle version d’application ou une nouvelle puce arrive, ce compte rendu aide à savoir si la nouveauté change quelque chose sur un ordinateur ordinaire. TECH’ONNECTÉ adosse aussi chacune de ses vidéos courtes à un article qui cite ses sources.

Face à un test, trois informations méritent un coup d’œil : sa date, la mémoire de la machine utilisée et la taille du modèle essayé.

Le matériel : mémoire vive, puce graphique et NPU

Un modèle de langage compte des milliards de paramètres, des valeurs numériques ajustées pendant l’entraînement, que l’appareil charge en mémoire vive, la mémoire de travail rapide de la machine. Une technique réduit cette charge : la quantification, qui stocke chaque paramètre sur moins de bits, au prix d’une perte de précision variable. D’après la documentation de Hugging Face, un modèle de 8 milliards de paramètres demande environ 16 Go pour ses poids en précision standard, 8 Go en 8 bits et 4 à 5 Go en 4 bits.

Sur un ordinateur

Trois composants entrent en jeu :

• la mémoire vive, qui doit contenir le modèle avec une marge pour le système ;
• le processeur graphique, conçu pour l’affichage mais très efficace pour les calculs en parallèle, surtout avec sa propre mémoire ;
• le NPU, une puce dédiée aux calculs d’IA que Microsoft, dans son guide consacré aux PC Copilot+, décrit comme capable de plus de 40 000 milliards d’opérations par seconde et plus économe qu’un processeur classique pour ces tâches.

Le même guide précise qu’un modèle doit souvent être quantifié pour tourner sur le NPU, et toutes les applications ne savent pas exploiter ce composant.

Sur un smartphone

Le téléphone, moins doté en mémoire, doit ménager sa batterie. La documentation Android pour les développeurs présente Gemini Nano, un modèle compact qui tourne dans le service système AICore pour résumer un texte ou corriger un message court sans appeler de serveur ni garder trace des requêtes. Ces fonctions dépendent toutefois de l’appareil et se limitent à des tâches courtes.

Côté logiciel : applications, taille des modèles et licences

Sur ordinateur, l’IA locale passe le plus souvent par une application qui télécharge un modèle ouvert puis le fait tourner derrière une fenêtre de discussion. Deux exemples, cités sans ordre de préférence :

• Ollama, logiciel sous licence MIT pour macOS, Windows et Linux d’après son dépôt officiel, qui propose aussi des modèles exécutés en ligne : le caractère local du modèle choisi se vérifie donc avant usage ;
• LM Studio, pour Mac à puce Apple Silicon, Windows et Linux, dont la page de configuration requise recommande au moins 16 Go de mémoire vive et précise que l’outil tourne entièrement hors ligne une fois les modèles récupérés.

Chaque modèle y existe en plusieurs tailles : mieux vaut partir d’une version qui tient largement dans la mémoire disponible, sous peine de ralentir tout le système.

Des licences à lire avant usage

Ouvert ne veut pas dire sans conditions, car les modèles ouverts arrivent avec une licence, et l’écart entre deux exemples est net :

• Mistral AI publie plusieurs modèles, dont sa gamme compacte Ministral, sous licence Apache 2.0 selon sa documentation, une licence qui accorde un droit gratuit, mondial et irrévocable de reproduire, modifier et redistribuer ;
• la licence communautaire de Llama 3.1, publiée par Meta le 23 juillet 2024, accorde un droit d’usage gratuit mais limité, impose la mention « Built with Llama » aux produits qui l’intègrent et réserve à l’accord de Meta les services de plus de 700 millions d’utilisateurs actifs mensuels.

Pour un particulier, ces clauses pèsent peu ; elles comptent dès que le modèle sert dans un produit proposé à d’autres.

Ce que l’IA locale fait bien au quotidien

Les modèles à la portée d’un ordinateur grand public brillent sur des tâches bien délimitées :

• résumer un rapport, un contrat ou un compte rendu sans qu’il quitte la machine ;
• traduire un courriel ou un article, y compris hors réseau en voyage ;
• reformuler, corriger ou changer le registre d’un texte, avec une aide à l’écriture disponible partout ;
• interroger ses propres notes, quand l’application sait les lire.

L’intérêt grandit avec la sensibilité du contenu : un dossier médical ou des notes confidentielles restent sur le disque. Pour l’actualité, un modèle figé à la date de son entraînement et privé de web répond en revanche mal.

Les limites d’un assistant qui tourne sur l’appareil

Trois limites se retrouvent d’une machine à l’autre :

• la qualité : un modèle compact se trompe en général plus souvent qu’un grand modèle en ligne et peut inventer un fait avec aplomb ;
• la consommation : la puce tourne à plein régime, le portable chauffe et la batterie baisse vite, un effet qui s’ajoute sur téléphone aux causes habituelles d’une batterie qui se vide trop vite ;
• les mises à jour : sur ordinateur, chaque nouvelle version d’un modèle représente plusieurs gigaoctets à récupérer et à installer à la main.

Vie privée et sécurité : les repères de la CNIL et de l’ANSSI

Garder les textes sur l’appareil ne règle pas tout. L’affiche « IA générative et vie privée », publiée par la CNIL avec son homologue sud-coréenne le 27 mai 2026, invite à lire la politique de confidentialité, à ne confier ni son adresse, ni ses mots de passe, ni ses informations bancaires, et à garder un esprit critique sur les réponses : des réflexes valables aussi en local.

Le fichier du modèle mérite autant d’attention que l’application. L’ANSSI, dans son guide déjà cité, recommande des formats sécurisés comme safetensors et proscrit le format pickle, que la documentation de Hugging Face décrit comme capable d’exécuter du code arbitraire au chargement. Mieux vaut donc télécharger ses modèles chez des éditeurs identifiés.

Un modèle ouvert peut aussi avoir mémorisé des données personnelles issues de son entraînement : Genmod, l’outil de la CNIL mis à jour en août 2026, retrace la généalogie des modèles publiés en source ouverte pour repérer ceux qui ont pu en hériter. Les réflexes de cybersécurité habituels s’appliquent enfin à la machine qui héberge le modèle.

Avant un premier essai

Vérifiez d’abord la mémoire vive de votre ordinateur : elle décide de la taille de modèle envisageable. Choisissez ensuite un modèle compact et récent, lisez sa licence et testez-le sur un texte sans enjeu. Si les réponses vous conviennent pour vos usages courants, l’assistant local peut prendre le relais d’un service en ligne sur ces tâches.

Questions fréquentes sur l’IA locale

Une IA locale fonctionne-t-elle sans connexion internet ?

Oui, une fois l’application et le modèle installés. La connexion sert au départ, pour récupérer des fichiers de plusieurs gigaoctets, puis pour les mises à jour. Ensuite, l’assistant répond en avion, en montagne ou pendant une coupure de réseau, puisque tout le calcul se fait sur la machine. Seules les fonctions qui consultent le web ou un service distant s’arrêtent avec la connexion.

Un ordinateur de quelques années peut-il faire l’affaire ?

Souvent, avec un modèle compact. La quantité de mémoire vive compte davantage que l’âge de la machine. LM Studio recommande au moins 16 Go et réclame un processeur compatible avec le jeu d’instructions AVX2 sur les PC x64, une puce Apple Silicon sur Mac. Un portable moins équipé fait tourner de petits modèles quantifiés, plus lentement et avec des réponses plus simples.

Les données restent-elles vraiment sur l’appareil ?

Pour le calcul, oui : avec un modèle local, le texte saisi n’est envoyé à aucun serveur. Deux réserves demeurent. Certaines applications proposent aussi des modèles exécutés en ligne, et le choix du modèle décide alors du trajet des données. L’historique des conversations est en général enregistré sur le disque : l’appareil doit donc être protégé par un mot de passe et tenu à jour.

Une IA locale est-elle légale et gratuite ?

Son usage est légal, à condition de respecter la licence du modèle. Beaucoup de modèles ouverts se téléchargent sans redevance : la licence Apache 2.0, retenue par Mistral AI pour plusieurs modèles, est très permissive, alors que celle de Llama 3.1 fixe des conditions d’usage. La gratuité du téléchargement ne couvre pas tout : le matériel, l’électricité et le temps de réglage forment le vrai coût.