Por qué alojar tu propio LLM
Cuando usas una API de IA alojada, cada prompt que envías se procesa en el hardware de otra persona. El proveedor ve el texto completo de tus entradas y salidas, generalmente los retiene durante algún tiempo, y aplica su propia política de contenidos sobre lo que el modelo puede o no puede decir. Para cualquier información sensible —código propietario, documentos confidenciales, datos personales, o simplemente trabajo que preferiría no ceder a un tercero— eso supone una exposición significativa.
Alojar tu propio LLM elimina al intermediario. Alquilas un servidor GPU, cargas un modelo de pesos abiertos y ejecutas la inferencia tú mismo. Los prompts nunca abandonan la infraestructura que controlas, nada se retiene salvo que tú lo decidas, y el modelo es el que tú elegiste, incluidos modelos abiertos sin restricciones incorporadas. Combinado con un servidor GPU offshore sin KYC, el autoalojamiento te proporciona un endpoint de IA privado que ninguna empresa registra, limita por política ni puede ser obligada a entregar. Esta guía cubre la elección del hardware y del modelo, cómo ponerlo en marcha, y cuánto cuesta.
Adapta la GPU al modelo
El único número que lo decide todo es la VRAM, es decir, la memoria de la GPU. Un modelo debe caber en la VRAM para ejecutarse correctamente, y la cantidad que necesita depende del número de parámetros y de la precisión con la que se carga. Como referencia aproximada, un modelo cuantizado a 4 bits necesita algo más de medio gigabyte de VRAM por cada mil millones de parámetros; cargado a precisión completa de 16 bits necesita aproximadamente el doble, más margen para la ventana de contexto.
En la práctica, esto se corresponde claramente con las tarjetas disponibles:
- RTX 4090 / RTX 5090 (24-32 GB VRAM) — ejecuta cómodamente modelos de hasta unos 30.000 millones de parámetros cuantizados, y modelos más pequeños a precisión completa. El punto óptimo para la mayoría de los usuarios que se autoalojan: rápida, asequible y suficiente para los mejores modelos abiertos de tamaño medio.
- H100 SXM5 (80 GB VRAM) — ejecuta modelos de clase 70B cuantizados con margen, gestiona grandes ventanas de contexto y atiende muchas solicitudes simultáneas con alto rendimiento. La opción para los modelos abiertos más grandes o cargas de trabajo de nivel productivo.
- Multi-GPU (2x H100, 160 GB) — para los modelos de pesos abiertos más voluminosos y servicio concurrente intensivo.
Parte del modelo que quieres ejecutar, calcula su necesidad de VRAM y elige la tarjeta más pequeña que lo admita con margen. Pagar por más VRAM de la que el modelo usa es presupuesto desperdiciado.
Elige tu modelo
El ecosistema de pesos abiertos en 2026 es lo suficientemente maduro como para que, en la mayoría de las tareas, un modelo autoalojado sea genuinamente competitivo con una API alojada. Las principales familias que conviene conocer:
- Modelos de la familia Llama — modelos de propósito general bien soportados en distintos tamaños; la opción segura por defecto para la mayoría de las cargas de trabajo.
- DeepSeek — gran rendimiento en razonamiento y codificación, con tamaños que funcionan bien en una sola tarjeta de alta VRAM.
- Qwen y Mistral — excelente capacidad por parámetro, con variantes más pequeñas que se ejecutan cómodamente en una tarjeta de 24-32 GB.
- Variantes no censuradas o abliteradas — ajustes finos comunitarios de los anteriores con el comportamiento de rechazo eliminado, para usuarios que quieren un modelo que no aplique la política de contenidos de un proveedor alojado.
Elige el modelo más pequeño que realmente haga bien tu tarea. Un modelo bien elegido de 14B-30B parámetros en una sola 4090 o 5090 es suficiente para la gran mayoría de los usos reales —ayuda con código, redacción, resúmenes, análisis— y mucho más económico que recurrir por costumbre a un modelo de 70B.
Paso 1 — Aprovisiona el servidor GPU
En ServPrivacy, elige un plan GPU con la tarjeta que hayas seleccionado y la jurisdicción que desees, y paga en criptomonedas. El servidor se aprovisiona automáticamente — CUDA y los drivers de NVIDIA vienen preinstalados, por lo que la máquina está lista para inferencia en el momento en que arranca; no hay que lidiar con instalación de drivers.
Conéctate por SSH. Un rápido nvidia-smi confirma que la GPU es visible y muestra su VRAM libre. A partir de aquí estás a un par de comandos de tener un modelo en marcha.
Paso 2 — Pon un modelo en servicio
Hay dos caminos bien establecidos, según prefieras simplicidad o máximo rendimiento.
La vía rápida: Ollama. Para tener un modelo respondiendo prompts en minutos, Ollama es la opción más sencilla. Instálalo con su instalador de una sola línea, luego descarga y ejecuta un modelo con un único comando —por ejemplo ollama run llama3.1. Ollama gestiona la descarga, la cuantización y la descarga en GPU, y expone una API local. Para uso personal y desarrollo, esto es todo lo que la mayoría necesita.
La vía de alto rendimiento: vLLM. Si necesitas atender muchas solicitudes concurrentes de forma eficiente —un backend de aplicación más que un asistente personal— vLLM es la opción estándar. Es un servidor de inferencia de alto rendimiento que extrae muchos más tokens por segundo de la misma GPU, y expone una API compatible con OpenAI, por lo que el código existente escrito para una API alojada puede apuntar a tu propio servidor con solo cambiar la URL.
De cualquier manera, pocos minutos después de arrancar el servidor tienes un modelo aceptando prompts.
Paso 3 — Úsalo con privacidad y asegura el endpoint
Por defecto, el servidor de inferencia escucha localmente. Tienes dos formas razonables de acceder a él, y una regla.
La regla: no expongas la API de inferencia en bruto a internet abierto. De fábrica no tiene autenticación, y un endpoint abierto será descubierto y abusado. En su lugar, haz un túnel SSH —de modo que la API permanezca vinculada a localhost y accedas a través de la conexión SSH cifrada— o colócala detrás de un proxy inverso que exija autenticación y TLS. Para un asistente personal, el túnel SSH es la opción más sencilla y privada; para una aplicación, el proxy autenticado.
Hecho así, los prompts viajan únicamente entre tú y tu propio servidor. Ningún tercero los registra, nada se retiene más allá de lo que tú configures, y el modelo responde sin que ninguna política de contenidos externa interfiera. Es, en sentido literal, tu IA.
Qué cuesta
La economía del autoalojamiento depende enteramente del patrón de uso. Una API alojada cobra por token, lo que es excelente para un uso ligero y ocasional, pero caro para un uso intensivo y sostenido. Un servidor GPU alquilado tiene un coste mensual fijo independientemente del número de tokens que proceses.
El punto de equilibrio llega rápidamente para quien ejecuta cargas de trabajo reales. Un servidor con una sola RTX 4090 parte de unos $122/mes en ServPrivacy; si tu gasto mensual en una API alojada ya se sitúa en ese rango —y para asistentes de código, procesamiento por lotes o cualquier backend de aplicación, a menudo es así— una GPU dedicada es a la vez más barata e ilimitada. Además ganas lo que una factura por token no puede darte: sin límites de velocidad, sin rechazos por política, coste predecible y privacidad total. Para preguntas esporádicas y puntuales, una API es suficiente; para cualquier uso regular, el autoalojamiento gana en coste y control.
Cuándo el autoalojamiento es la decisión correcta
Alojar tu propio LLM es la elección adecuada cuando cualquiera de estas tres cosas te importa: privacidad —los prompts contienen información que no pondrías en los servidores de un tercero—; control —quieres un modelo específico, incluidos modelos abiertos sin restricciones alojadas—; o economía —tu uso es lo suficientemente intensivo como para que un coste fijo de GPU supere la factura por token.
Si solo haces al modelo alguna pregunta ocasional, una API alojada es más simple y barata. Pero para un uso sostenido, material sensible o la necesidad de un modelo que responda en tus propios términos, un servidor GPU con tu propio modelo es la mejor opción —y en un host GPU offshore sin KYC, es un endpoint de IA privado que no le pertenece a nadie más que a ti.