Agentes de IA locales para empresas: qué son y qué pueden hacer en tu propio servidor

A un agente de IA, una empresa le pide tareas del día a día: ordenar el correo, buscar en los documentos, abrir un ticket. Un agente de IA local las hace en un servidor que controlas tú, y tus datos no llegan a ningún proveedor de modelos.

Qué es un agente de IA y cómo funciona

Un agente de IA es un modelo de lenguaje que usa herramientas en un bucle. En una automatización (en inglés, workflow), tu código fija el siguiente paso. Un agente decide él mismo sus pasos y sus herramientas, y para eso tiene cuatro piezas:

1. El modelo decide el siguiente paso.
2. Las herramientas consultan o cambian algo: una consulta a la base de datos, un archivo, un correo.
3. El bucle ejecuta las herramientas y devuelve los resultados.
4. Los límites: número máximo de pasos, herramientas permitidas, permisos, aprobación de una persona.

Agente de IA o automatización: ejemplos para tu empresa

La solución más sencilla que funciona suele ser la buena, porque cada paso de más cuesta tiempo de GPU y tiempo de espera. Nuestras reglas prácticas:

Un agente de IA en local: qué cabe en tu propio servidor

Las cuatro piezas caben en una máquina propia:

• El modelo. Modelos abiertos como Qwen3 y gpt-oss traen de serie las llamadas a herramientas (tool calling).
• El servidor de modelos. vLLM y Ollama pasan las llamadas a herramientas a través de sus API (Ollama vs vLLM).
• Las herramientas. La base de datos, el servidor de archivos, el sistema de tickets y la búsqueda en documentos ya son internos. Con el Model Context Protocol (MCP) se conectan todos igual.
• El bucle es código normal que revisa cada llamada antes de ejecutarla.

Cómo mantener los datos en casa

Un agente es tan local como sus herramientas. El modelo, el bucle, el registro y tus herramientas internas funcionan en tu servidor. La búsqueda en tus documentos también se queda en casa si usa un modelo de embeddings local, el pequeño modelo que hace buscable un texto.

Las herramientas que apuntan hacia fuera, como la búsqueda web o el correo, envían lo que necesita su tarea: la consulta, el mensaje. Dos reglas lo mantienen bajo control:

1. El servidor solo abre conexiones hacia una lista fija de direcciones, así que un agente manipulado no puede mandar datos a otro sitio.
2. Las herramientas hacia fuera reciben datos muy acotados: una búsqueda que solo admite un término corto no puede sacar un documento.

Seguridad de los agentes de IA: riesgos y controles

Los dos riesgos principales figuran en el Top 10 de OWASP de riesgos para aplicaciones LLM. La inyección de prompt: instrucciones escondidas en un correo, una web o un archivo que lee el agente. La agencia excesiva: más herramientas, permisos o autonomía de los que pide la tarea. En el ejemplo de OWASP, un asistente que resume correos también puede enviarlos, y un correo preparado le lleva a reenviar información sensible al atacante. Una herramienta de solo lectura lo habría evitado.

Estos controles deberían estar en cualquier agente, la mayoría en los pasos 03, 04 y 06 del bucle de arriba:

1. Solo las herramientas necesarias, con los permisos de la persona para la que trabaja el agente.
2. Permisos comprobados en el sistema de destino, no en el modelo. Que un modelo se niegue no es una medida de seguridad.
3. Aprobación de una persona antes de lo irreversible: enviar, borrar, pagar, publicar.
4. Un límite de pasos y límites de frecuencia para las herramientas.
5. Primero, un entorno de pruebas aislado, porque los errores pueden sumarse en muchos pasos.
6. Un registro austero: qué herramienta se ejecutó y cuándo, si funcionó y quién la aprobó. El contenido completo, solo con una finalidad clara y un plazo de borrado.

Agentes de IA y RGPD

En tu propio servidor, los prompts, documentos y respuestas se procesan sin un proveedor de modelos de por medio, y eso resuelve la gran cuestión de protección de datos. Firmamos un contrato de encargo del tratamiento con cada cliente. Tres reglas valen en cualquier caso: las decisiones con efectos jurídicos, como en una selección de personal, las toman personas, y el agente las prepara. Las personas deberían saber cuándo están tratando con una IA. Y muchos proyectos de IA necesitan una evaluación de impacto, así que conviene implicar pronto al delegado de protección de datos. Más en IA privada y RGPD.

Requisitos de hardware de un agente de IA local

Sobre todo memoria de GPU (VRAM). En cada paso, un agente reenvía todo su historial con los resultados de las herramientas, así que necesita más contexto que un chat, y el contexto ocupa memoria.

Un servidor GPU de 20 GB mueve con rapidez modelos medianos. Para agentes que leen documentos largos, el servidor de 96 GB da más margen: en él funciona Qwen3.6 35B-A3B, que nuestro catálogo de modelos propone para agentes, herramientas y contexto largo, y cabe entero gpt-oss-120b. Más en Qué LLM caben en 20, 24 o 96 GB de VRAM y en la calculadora de VRAM.

¿Quieres un agente que trabaje con tus datos en un servidor propio? Es justo lo que construimos con IA privada: tu modelo en un servidor GPU dedicado en Alemania, una API para tus herramientas, las automatizaciones y los agentes encima y un contrato de encargo del tratamiento. La primera llamada es gratuita.