OCTOO AI Laboratorio independiente de IA

Revista

Tu propia IA: notas desde el laboratorio

Guías prácticas desde nuestro laboratorio para tener tu propia IA: qué modelo cabe en qué GPU, vLLM en un servidor de Hetzner, modelos sin censura, RGPD y agentes de IA que hacen trabajo real. Y, si tienes una web, Astro frente a WordPress.

Feed RSS

Todos los artículos

  1. Explicación 6 min de lectura

    ¿Qué es Astro y cómo se compara con WordPress en velocidad, SEO, edición y coste?

    Astro convierte una web en archivos HTML terminados antes de que nadie la visite. WordPress suele montar cada página en el momento en que alguien la pide. Esa diferencia explica casi toda la comparación, de la velocidad y la seguridad a la edición y el coste. Esta web pasó de WordPress a Astro en septiembre de 2026.

  2. Explicación 5 min de lectura

    Agentes de IA locales para empresas: qué son y qué pueden hacer en tu propio servidor

    Un agente de IA es un modelo de lenguaje con herramientas que trabaja en bucle hasta acabar la tarea. El modelo, el bucle y tus herramientas internas caben en un servidor propio, así que tus documentos y tickets no llegan a ningún proveedor de modelos. Aquí verás qué puede hacer un agente por tu empresa, qué controles necesita y cuándo basta con una automatización sencilla.

  3. Guía 6 min de lectura

    Ollama o vLLM: cuál usar para un LLM en tu propio servidor, y cuándo conviene más llama.cpp

    Ollama pone a hablar un modelo en un portátil con un solo comando. vLLM está hecho para servir muchas peticiones desde un servidor con GPU. Esta guía te muestra cuál encaja en tu caso, con cifras del servidor vLLM que usamos nosotros mismos.

  4. Explicación 6 min de lectura

    Cómo pierde un modelo su «no»: abliteration, Heretic y LLM sin censura

    La abliteration quita los rechazos de un modelo directamente de sus pesos. No hay que reentrenarlo: bastan unos cientos de prompts de ejemplo y algo de álgebra lineal. Bien hecha, el modelo responde a lo que se le pregunta y conserva casi todo lo que sabe.

  5. Guía 6 min de lectura

    Qué LLM abiertos y sin censura caben en 20, 24 o 96 GB de VRAM

    Qué cabe de verdad en una GPU de 20, 24 o 96 GB cuando sumas el archivo del modelo, el contexto y a todos los que lo usan a la vez.

  6. Guía 5 min de lectura

    IA privada y RGPD: qué resuelve un servidor de IA propio

    Con tu propio servidor de IA en Alemania desaparecen las mayores dudas del RGPD: ningún proveedor del modelo lee lo que escribes, el modelo no exige transferencias a EE. UU. y tú decides qué se guarda. Qué significa para contratos, logs, borrado y la EIPD, y qué sigue en tu mano.

  7. Notas de campo 5 min de lectura

    Cómo ejecutamos un LLM con vLLM en un servidor GPU de Hetzner

    Servimos un modelo de pesos abiertos, Qwen3-14B, desde una GPU de 20 GB alquilada en Hetzner, en Alemania. Aquí tienes el comando que usamos, en qué se va la memoria, a qué velocidad responde y cuánto cuesta un servidor GPU en Hetzner.