6 min read
De 5 a 7 palabras por segundo. Esa es la velocidad a la que, según Microsoft, su framework BitNet de código abierto puede ejecutar un modelo de IA muy grande y especialmente comprimido en un solo procesador común y corriente, más o menos la velocidad a la que lee una persona. Hace unos años eso habría requerido un rack de hardware especializado. Hoy es una descarga gratuita.
No necesitas BitNet en sí para aprovechar ese cambio. Lo importante es esto: los modelos de IA capaces ya funcionan por completo en una laptop normal, sin enviar nada a la nube. Para un negocio unipersonal que maneja contratos de clientes, formularios de ingreso médico, registros financieros o trabajo aún no publicado, es una opción de privacidad práctica, no un experimento de aficionados. Esta guía te muestra cómo configurarlo en menos de una hora y, igual de importante, cuándo no vale la pena el esfuerzo.
Por qué usar IA en tu propia computadora
Los asistentes en la nube como ChatGPT, Claude y Gemini son más capaces que cualquier cosa que pueda ejecutar tu laptop. Por eso, los argumentos a favor de la IA local son limitados, pero reales:
- Documentos confidenciales. Algunos acuerdos con clientes prohíben subir su material a servicios de terceros. Un modelo local nunca envía el texto a ningún lado.
- Información regulada. Si manejas datos de salud, legales o financieros, mantener esa información fuera de servidores externos simplifica la conversación con tus clientes y, a menudo, con las normas que explicamos en nuestra guía en lenguaje sencillo sobre las nuevas leyes estatales de IA.
- Trabajo sin conexión. Los aviones, las obras en zonas rurales y el Wi-Fi intermitente de la cafetería dejan de importar.
- Sin costo por uso. Una vez instalado, un modelo local no cuesta nada más allá de la electricidad.
La contrapartida: los modelos locales son más pequeños, así que rinden menos en razonamientos complejos y documentos largos. Piensa en uno como un asistente capaz para redactar, resumir y organizar, no como un estratega.
Paso 1: Revisa tu laptop
El número que más importa es la memoria (RAM). Una regla práctica:
- 8 GB de RAM: modelos pequeños (alrededor de 3 mil millones de “parámetros”, una medida aproximada del tamaño del modelo). Sirven para resúmenes cortos y reescrituras.
- 16 GB de RAM: modelos medianos (alrededor de 7 a 8 mil millones de parámetros). Es el punto ideal para la mayoría de las tareas de redacción de negocios.
- 32 GB o más: modelos más grandes que empiezan a ser realmente útiles para documentos largos.
Las Mac recientes con Apple Silicon y las laptops con Windows y un procesador moderno funcionan bien. No necesitas una tarjeta gráfica para videojuegos para empezar.
Paso 2: Elige una app amigable
Dos herramientas gratuitas cubren a casi cualquier emprendedor independiente.
LM Studio (la más fácil, todo con clics)
LM Studio es una app de escritorio para Mac, Windows y Linux que se ve y se siente como un asistente de chat. Exploras un catálogo de modelos abiertos, haces clic en descargar y empiezas a chatear. Si nunca has abierto una ventana de terminal, empieza aquí.
Ollama (sencilla, un poco más técnica)
Ollama se instala como cualquier app y ejecuta modelos con un solo comando corto. Es popular porque otras herramientas se conectan a ella fácilmente, incluidas interfaces de chat gratuitas como Open WebUI si más adelante quieres una ventana más agradable.
Ambas son gratuitas. Elige LM Studio si no quieres escribir nada, u Ollama si planeas conectar otras apps más adelante.
Paso 3: Descarga un modelo abierto pequeño
Los modelos abiertos son modelos de IA cuyos archivos se publican para que cualquiera pueda ejecutarlos. Entre las familias que verás en ambas apps están Llama (Meta), Gemma (Google), Mistral y Qwen. Para una primera prueba:
- Busca en el catálogo de la app un modelo cuyo tamaño corresponda a tu RAM del Paso 1.
- Prefiere las versiones marcadas como “instruct” o “chat”, que están ajustadas para seguir instrucciones.
- Descarga uno. Espera un archivo de unos cuantos gigabytes.
En Ollama, todo el proceso es un solo comando, como ollama run llama3.2, que descarga un modelo Llama pequeño y abre un chat en tu terminal.
Paso 4: Pruébalo primero con una tarea real (no sensible)
Antes de confiarle archivos de clientes, haz tres pruebas con material que no te importaría compartir:
- Resume un documento de dos páginas que conozcas bien. ¿Omitió algo importante?
- Reescribe un correo improvisado con un tono más amable. ¿Suena como tú?
- Extrae fechas, nombres y montos de una factura de ejemplo. ¿Son correctos?
Si los resultados son flojos, prueba el siguiente tamaño de modelo o una familia diferente. La calidad varía más entre modelos que entre apps.
Paso 5: Arma un flujo de trabajo sencillo con un “carril privado”
La configuración más inteligente no es solo local. Es un sistema de dos carriles:
- Carril privado (modelo local): todo lo que contenga nombres de clientes, datos de salud o financieros, o material protegido por un acuerdo de confidencialidad. Resúmenes, primeros borradores y extracción de datos de documentos.
- Carril público (asistente en la nube): textos de marketing, investigación general, preguntas de estrategia y todo lo que ya sea público.
Un truco útil: deja que el modelo local elimine los nombres y los datos identificables, y luego pega la versión anonimizada en tu asistente en la nube para el trabajo más pesado. Obtienes calidad de nivel nube sin exponer el original.
Cuándo no vale la pena la IA local
Olvídate de esto si tu laptop tiene menos de 8 GB de RAM, si nada de tu trabajo es realmente confidencial o si lo que más necesitas es razonamiento profundo e investigación. En esos casos, los planes de pago para empresas de los asistentes en la nube, que normalmente prometen no entrenar con tus datos, son la mejor compra. Nuestro análisis de los mitos sobre las herramientas de IA gratuitas explica por qué “gratis” no siempre sale más barato, y nuestro repaso de los recortes de precios de Anthropic en octubre muestra lo rápido que están bajando los costos de la nube.
En resumen
La IA local ya no es un proyecto de ciencias. Con una laptop de 16 GB, una app gratuita y 30 minutos de configuración, puedes mantener tu trabajo más sensible para clientes completamente en tu propia computadora mientras sigues usando herramientas en la nube para todo lo demás. Instala una app, prueba un modelo y dale una tarea confidencial esta semana. Pronto sabrás si se gana un lugar permanente en tu caja de herramientas.
Lecturas relacionadas
- ¿Qué significan las nuevas leyes estatales de IA para un negocio unipersonal?
- 5 mitos sobre quién es dueño del contenido de IA que publica tu pequeño negocio
- 5 mitos sobre las herramientas de IA gratuitas que les cuestan a los dueños de pequeños negocios más de lo que creen
- Claude Haiku 5.5, Sonnet más barato y créditos mensuales de API
