6 min read
5 à 7 mots par seconde. C’est la vitesse à laquelle, selon Microsoft, son framework BitNet open source peut faire tourner un très grand modèle d’IA, spécialement compressé, sur un seul processeur ordinaire, soit à peu près la vitesse de lecture d’une personne. Il y a quelques années, il aurait fallu une baie entière de matériel spécialisé. Aujourd’hui, c’est un téléchargement gratuit.
Pas besoin d’utiliser BitNet lui-même pour profiter de ce changement. L’essentiel est ailleurs : des modèles d’IA performants tournent désormais entièrement sur un ordinateur portable classique, sans rien envoyer dans le cloud. Pour un entrepreneur indépendant qui gère des contrats clients, des formulaires d’admission médicale, des documents financiers ou des travaux encore inédits, c’est une vraie solution de confidentialité, pas une expérience de bidouilleur. Ce guide vous montre comment la mettre en place en moins d’une heure et, tout aussi important, quand ça n’en vaut pas la peine.
Pourquoi faire tourner une IA sur votre propre machine
Les assistants cloud comme ChatGPT, Claude et Gemini sont plus performants que tout ce que votre ordinateur portable peut faire tourner. Les arguments en faveur de l’IA locale sont donc limités, mais bien réels :
- Documents confidentiels. Certains contrats clients interdisent de transférer leurs documents vers des services tiers. Un modèle local n’envoie le texte nulle part.
- Informations réglementées. Si vous traitez des données de santé, juridiques ou financières, les garder hors des serveurs externes simplifie les échanges avec vos clients et, souvent, le respect des règles que nous présentons dans notre guide simple sur les nouvelles lois des États américains en matière d’IA.
- Travail hors ligne. Avions, chantiers en zone rurale et Wi-Fi capricieux du café ne posent plus de problème.
- Aucun coût à l’usage. Une fois installé, un modèle local ne coûte rien d’autre que l’électricité.
La contrepartie : les modèles locaux sont plus petits, donc moins bons pour le raisonnement complexe et les longs documents. Voyez-le comme un assistant efficace pour rédiger, résumer et trier, pas comme un stratège.
Étape 1 : vérifiez votre ordinateur portable
Le chiffre qui compte le plus, c’est la mémoire vive (RAM). Une règle pratique :
- 8 Go de RAM : petits modèles (environ 3 milliards de « paramètres », une mesure approximative de la taille d’un modèle). Suffisant pour de courts résumés et des reformulations.
- 16 Go de RAM : modèles de taille moyenne (environ 7 à 8 milliards de paramètres). C’est le meilleur compromis pour la plupart des tâches de rédaction professionnelle.
- 32 Go ou plus : des modèles plus grands, qui deviennent vraiment utiles pour les longs documents.
Les Mac récents équipés d’Apple Silicon comme les PC portables Windows dotés d’un processeur moderne conviennent très bien. Pas besoin d’une carte graphique de gamer pour commencer.
Étape 2 : choisissez une application conviviale
Deux outils gratuits couvrent les besoins de presque tous les indépendants.
LM Studio (le plus simple, tout à la souris)
LM Studio est une application de bureau pour Mac, Windows et Linux qui ressemble à un assistant de chat et s’utilise comme tel. Vous parcourez un catalogue de modèles ouverts, cliquez sur télécharger et commencez à discuter. Si vous n’avez jamais ouvert de fenêtre de terminal, commencez par là.
Ollama (simple, un peu plus technique)
Ollama s’installe comme n’importe quelle application et lance les modèles avec une seule commande courte. Il est populaire parce que d’autres outils s’y connectent facilement, notamment des interfaces de chat gratuites comme Open WebUI si vous souhaitez plus tard une fenêtre plus agréable.
Les deux sont gratuits. Choisissez LM Studio si vous ne voulez rien taper, Ollama si vous comptez connecter d’autres applications plus tard.
Étape 3 : téléchargez un petit modèle ouvert
Les modèles ouverts sont des modèles d’IA dont les fichiers sont publiés pour que chacun puisse les faire tourner. Parmi les familles que vous verrez dans les deux applications : Llama (Meta), Gemma (Google), Mistral et Qwen. Pour un premier essai :
- Cherchez dans le catalogue de l’application un modèle dont la taille correspond à la RAM identifiée à l’étape 1.
- Privilégiez les versions marquées « instruct » ou « chat », optimisées pour suivre des instructions.
- Téléchargez-en un. Comptez un fichier de quelques gigaoctets.
Avec Ollama, tout le processus tient en une seule commande, par exemple ollama run llama3.2, qui télécharge un petit modèle Llama et ouvre une conversation dans votre terminal.
Étape 4 : testez-le d’abord sur une vraie tâche (non sensible)
Avant de lui confier des fichiers clients, faites trois tests avec des documents que vous seriez prêt à partager :
- Résumez un document de deux pages que vous connaissez bien. A-t-il omis quelque chose d’important ?
- Reformulez un e-mail écrit à la va-vite sur un ton plus chaleureux. Est-ce que ça sonne comme vous ?
- Extrayez les dates, noms et montants d’une facture d’exemple. Sont-ils corrects ?
Si les résultats sont décevants, essayez la taille de modèle supérieure ou une autre famille. La qualité varie davantage d’un modèle à l’autre que d’une application à l’autre.
Étape 5 : mettez en place un flux de travail simple avec une « voie privée »
La configuration la plus judicieuse n’est pas 100 % locale. C’est un système à deux voies :
- Voie privée (modèle local) : tout ce qui contient des noms de clients, des données de santé ou financières, ou des documents couverts par un accord de confidentialité. Résumés, premiers jets et extraction d’informations à partir de documents.
- Voie publique (assistant cloud) : textes marketing, recherches générales, questions de stratégie et tout ce qui est déjà public.
Une astuce utile : laissez le modèle local supprimer les noms et les détails permettant d’identifier quelqu’un, puis collez la version anonymisée dans votre assistant cloud pour la réflexion plus poussée. Vous obtenez la qualité du cloud sans exposer l’original.
Quand l’IA locale n’en vaut pas la peine
Laissez tomber si votre ordinateur portable a moins de 8 Go de RAM, si aucun de vos travaux n’est vraiment confidentiel, ou si vous avez surtout besoin de raisonnement approfondi et de recherche. Dans ces cas, les offres professionnelles payantes des assistants cloud, qui s’engagent généralement à ne pas s’entraîner sur vos données, sont un meilleur choix. Notre décryptage des idées reçues sur les outils d’IA gratuits explique pourquoi « gratuit » ne veut pas toujours dire moins cher, et notre analyse des baisses de prix d’Anthropic en octobre montre à quelle vitesse les coûts du cloud diminuent.
En résumé
L’IA locale n’est plus un projet de laboratoire. Avec un ordinateur portable de 16 Go, une application gratuite et 30 minutes de configuration, vous pouvez garder vos dossiers clients les plus sensibles entièrement sur votre propre machine, tout en continuant à utiliser les outils cloud pour tout le reste. Installez une application, testez un modèle et confiez-lui une tâche confidentielle cette semaine. Vous saurez vite s’il mérite une place permanente dans votre boîte à outils.
À lire aussi
- Que signifient les nouvelles lois des États sur l’IA pour un indépendant ?
- 5 idées reçues sur la propriété des contenus IA publiés par votre petite entreprise
- 5 idées reçues sur les outils d’IA gratuits qui coûtent plus cher qu’on ne le pense aux patrons de petites entreprises
- Claude Haiku 5.5, Sonnet moins cher et crédits API mensuels
