LLM offline para textos

Lisa Ernst · 24.11.2025 · Tecnología · 9 min

La IA de escritura local en tu propio PC permite la creación de borradores de blogs, esquemas, variantes de títulos y versiones preliminares de forma completamente offline. Mientras que inicialmente los LLM locales se utilizaban principalmente para programar, se están consolidando cada vez más como asistentes de escritura. A diferencia de los servicios en la nube como ChatGPT o Claude, los modelos locales ofrecen control total de los datos y ningún coste de suscripción recurrente.

Fuente: Presentación propia

Fundamentos de la IA local

La búsqueda de „best ai for writing“ a menudo conduce a servicios alojados como ChatGPT, Claude o herramientas SaaS especializadas, que requieren conexión a Internet y comparten textos y metadatos con terceros. El deseo de ayuda automatizada para escribir es grande, como demuestra la popularidad de "best ai for writing" como una de las consultas "best ai for ..." más buscadas en Google Trends, justo detrás de "best ai for coding".

Los modelos locales cambian el enfoque: los datos brutos permanecen en el propio ordenador, la latencia es baja y los costes dependen del precio de la electricidad, no de suscripciones. Entornos de ejecución modernos como LM Studio, Ollama o AMD Gaia empaquetan estos modelos en interfaces fáciles de usar. Para los escritores, esto crea una categoría propia: "local llm for writing offline". Esto significa un modelo que está integrado directamente en editores como VS Code o Obsidian y funciona sin conexión externa.

Aspectos técnicos

Un "local llm for writing offline" consta típicamente de tres capas: un modelo abierto (por ejemplo, Llama, Qwen, Gemma, Phi o DeepSeek-Distillate), un entorno de ejecución como Ollama o LM Studio y un cliente (editor, plugin de navegador o aplicación de escritorio).

Modelos de lenguaje abiertos

Los modelos de lenguaje abiertos sientan las bases. Meta Llama 3 und 3.1 están disponibles como pesos abiertos, con tamaños desde 8 hasta 405 mil millones de parámetros; las variantes de 8B están diseñadas para hardware de consumo. Qwen3 von Alibaba abarca modelos densos y Mixture-of-Experts de menos de 1.000 millones a más de 200.000 millones de parámetros y pone un fuerte énfasis en la multilingüidad. Google Gemma 3, Microsoft Phi-3 y DeepSeek-R1 complementan el campo con modelos más pequeños y eficientes y variantes de razonamiento especializadas.

Entornos de ejecución

Los entornos de ejecución permiten el funcionamiento de los modelos. Ollama ofrece una interfaz y API uniformes para descargar y desplegar localmente varios modelos con un solo comando. La instalación y la gestión de modelos se realizan a través de una aplicación de escritorio y una sencilla CLI. LM Studio sigue un enfoque similar, pero se centra en un flujo de trabajo de GUI para descargar, comparar y ejecutar modelos, y además puede proporcionar un servidor local compatible con OpenAI. AMD Gaia complementa estas herramientas en Windows, haciendo accesibles LLM locales, incluidos agentes RAG, a través de una capa de backend basada en ONNX y optimizando los sistemas AMD Ryzen AI.

Integración en herramientas de escritura

La integración en herramientas de escritura es crucial para el flujo de trabajo. Continue.dev es una extensión común para VS Code y JetBrains, que integra modelos locales a través de Ollama o LM Studio como asistente de chat y en línea. Para Obsidian existen varios plugins comunitarios como „AI LLM“ o integraciones de Copilot, que se conectan directamente a servidores locales de Ollama o LM Studio.

Para la generación de texto, los requisitos de hardware para un LLM son menos exigentes que para la codificación compleja o el razonamiento multimodal. La LM-Studio-Dokumentation recomienda para sistemas Windows un mínimo de 16 GB de RAM y una GPU con al menos 4 GB de VRAM, especialmente con ventanas de contexto más grandes.

Un modelo de 3-4B como Phi-3-Mini ya se ejecuta en sistemas de solo CPU con 16 GB de RAM en cuantificación de 4 bits de forma útilmente rápida, siempre que la longitud del contexto se mantenga en 4-8K tokens. Para modelos de 7-8B como Llama 3.1 8B o Qwen3-8/14B se recomienda una GPU con 8 GB de VRAM o más para permitir una interacción fluida con un contexto de 8-32K. Una regla general es que para un modelo de 8B en cuantificación de 4 bits son suficientes unos 6-8 GB de VRAM, con la posibilidad de necesitar 4-6 GB de VRAM adicionales para el caché KV en un contexto de 32K. Para modelos de 14-32B se requieren en consecuencia más memoria o configuraciones multi-GPU.

Para la escritura pura, se recomienda un término medio: 16-32 GB de RAM, una GPU con 8-12 GB de VRAM (o Apple Silicon con memoria unificada) y un modelo de 7-14B bien cuantificado. Esto permite tiempos de respuesta agradables, textos coherentes y la edición de series de blogs más largas en una sola sesión.

Selección de modelos y contexto

Para escribir, una sensación lingüística estable y natural es más importante que el último punto de referencia, especialmente en alemán. Una visión general actual de LLM abiertos para el alemán destaca Qwen3-235B-A22B, Meta-Llama-3.1-8B-Instruct y Qwen3-14B como candidatos particularmente fuertes, debido a su multilingüismo y sólida competencia en alemán. Qwen3 fue entrenado en unos 36 billones de tokens y admite 119 idiomas y dialectos, incluido el alemán.

Meta Llama 3.1 8B en su tercera generación se describe explícitamente como multilingüe y ofrece un contexto de 128K, lo que resulta atractivo para proyectos de escritura con muchas notas y referencias. Gemma-2 und Gemma-3 se caracterizan por su eficiencia; Gemma-2-2B-IT funciona bien en idiomas europeos. Gemma 3 aumenta las ventanas de contexto a 32K en variantes de 1B y 128K en modelos más grandes.

Microsofts Phi-3-Mini-4K-Instruct se mantiene pequeño con 3,8B de parámetros, pero funciona bien en benchmarks y es adecuado para portátiles o escritorios menos potentes. DeepSeek-R1 y sus modelos derivados son fuertes en el área de razonamiento y están disponibles como código abierto. Las preocupaciones sobre la privacidad en el uso online hablan a favor de variantes que funcionen estrictamente de forma local.

Para un flujo de trabajo de escritura cotidiano, tres clases han demostrado ser exitosas:

• Modelos pequeños (2-4B) como Phi-3-Mini o Gemma-2-2B-IT en hardware menos potente, para textos cortos, notas y colecciones de ideas.
• Modelos medianos (7-8B) como Llama 3.1 8B o Qwen3-8B/14B como "punto óptimo" para artículos de blog con una coherencia sólida y buena calidad en alemán.
• Modelos más grandes (14-32B) para proyectos exigentes o series largas; aquí aumentan los requisitos de memoria y el consumo de energía, lo que resulta más rentable en estaciones de trabajo.

La longitud del contexto determina cuánta información puede procesar el modelo simultáneamente. Para un artículo de blog típico de 1500-2500 palabras, 4-8K tokens son suficientes. Para investigaciones exhaustivas, artículos anteriores o briefings SEO, una ventana de 32K resulta atractiva. Qwen3 fue entrenado por defecto con un contexto de 32K y puede extenderse hasta 128K. Llama 3.1 también eleva el contexto para los modelos de 8B hasta 128K tokens, lo que permite procesar colecciones de contenido completas.

El precio de los contextos largos es la complejidad cuadrática: aumentar la ventana de contexto de 8K a 128K puede aumentar teóricamente la carga computacional hasta 256 veces. Los contextos largos solo deben utilizarse donde aporten valor, por ejemplo, al reescribir varios artículos o para carpetas de investigación exhaustivas. Para escribir blogs, una ventana compacta de 8K para la generación rápida de ideas y una ventana de 32K para grandes proyectos han demostrado ser efectivas. LM-Studio-Leitfäden recomiendan tener en cuenta la longitud del contexto y la demanda de caché KV al seleccionar un modelo, ya que un contexto de 32K en modelos de 8B puede requerir 4-6 GB de VRAM adicionales.

Integración en editores

La integración de un LLM local directamente en el editor es crucial para un flujo de trabajo eficiente.

VS Code: Asistente de escritura en línea

Continue.dev es una extensión de código abierto para VS Code que integra modelos locales a través de Ollama o LM Studio como asistentes de editor. La configuración permite especificar el punto final de la API de un servidor local (por ejemplo, http://localhost:11434 en Ollama) como fuente para el chat y las autocompletaciones en línea. Un flujo de trabajo común es instalar Ollama, descargar un modelo como Llama 3.1 8B o Qwen3-14B y ejecutarlo como servidor. Continue se instala en VS Code y se configura para que todas las solicitudes vayan a este endpoint local. Las sugerencias en línea ayudan a formular introducciones, subtítulos o transiciones, mientras que los prompts de chat reescriben secciones más largas o las transforman a otras tonalidades.

Quienes prefieran

pueden activar su modo servidor y conectarlo a través de extensiones como CodeGPT como proveedor local de IA. Una guía muestra cómo utilizar el servidor LM Studio local como fuente para la interacción de chat y las sugerencias de texto en VS Code.

„Build a FREE AI Coding Assistant Locally in VS Code“ – útil para la configuración básica de Continue + Ollama, que se puede aplicar a modelos de escritura.

„Local AI Coding in VS Code: Installing Llama 3 with Continue“ – muestra de forma ejemplar cómo se conecta Llama 3 localmente con Continue; la misma configuración funciona para prompts de escritura.

Obsidian: Gestión del conocimiento y escritura en uno

Para los escritores que utilizan Obsidian como Zettelkasten o base de datos de contenido, una integración local es especialmente interesante. El „AI LLM“-Plugin-Eintrag describe explícitamente el soporte para LLM locales a través de Ollama, incluyendo funciones para ampliar y reescribir texto directamente en el documento Markdown. Una guía muestra cómo conectar Obsidian Copilot con LM Studio configurando el servidor local en una URL compatible con OpenAI.

Un ejemplo práctico: En LM Studio se ejecuta un modelo Qwen3-7B-Instruct, que se proporciona como servidor a través del "Local LLM Service"; Obsidian Copilot o el plugin AI-LLM envían fragmentos seleccionados a este servidor para generar sugerencias de mejores transiciones, formulaciones alternativas o meta-descripciones, sin que los datos salgan de la nube.

Consejos en vídeo para Obsidian + local:

„How To Run Local AI With Obsidian Copilot Plugin + LM Studio“ muestra paso a paso cómo configurar LM Studio como proveedor local para Obsidian Copilot.

„Ollama + Obsidian (LocalGPT): Writing with local models“ demuestra cómo un modelo Ollama local ayuda a escribir a través de un plugin de Obsidian.

Privacidad y riesgos

El funcionamiento offline ofrece una solución a las cuestiones de privacidad de datos. Sin embargo, es importante comprobar qué modelos e interfaces funcionan realmente solo localmente. DeepSeek ha marcado fuertemente el discurso del código abierto, pero también ha recibido críticas por posibles accesos estatales en China a servicios en la nube. La NÚKIB checa advirtió oficialmente contra el uso de productos DeepSeek en infraestructuras críticas, ya que las leyes chinas obligan a las empresas a cooperar con las autoridades. Dichas preocupaciones afectan principalmente a los servicios alojados, menos a los pesos de modelos almacenados localmente. No obstante, es importante revisar las herramientas utilizadas: algunas interfaces gráficas conectan modelos locales y APIs en la nube de forma predeterminada en el mismo interfaz, y la telemetría puede enviar datos incluso en funcionamiento puramente localhost.

En sectores regulados, los LLM locales pueden tender un puente: los datos de pacientes o clientes permanecen en la propia red, mientras que el modelo solo accede a información sintética o anonimizada. La obligación de revisar profesional y legalmente cada texto generado sigue vigente; ninguno de los estudios actuales recomienda su uso sin control humano.

La IA de escritura local se ha convertido en un componente serio en el flujo de trabajo de escritura. Un bien configurado „local llm for writing offline“ – – como Llama 3.1 8B, Qwen3-14B o un modelo eficiente de Gemma o Phi – ofrece hoy calidad para borradores, variantes y sugerencias de estructura para blogs, boletines o textos largos, sin que los contenidos abandonen la propia infraestructura. La integración en editores como VS Code o Obsidian es crucial. Quienes ya hayan configurado un sistema para asistencia de programación local pueden utilizar la misma infraestructura para escribir contenido. El modelo se encarga de las versiones preliminares, variantes y sugerencias, mientras que la estructura, la verificación de hechos y el toque final quedan en manos del usuario. La IA de escritura local actúa como un coautor productivo que nunca sale de casa.