La inteligencia artificial dejó de ser experimento. Hoy es infraestructura. Y con ese salto llegó una línea nueva en el balance: el coste de inferencia.
La paradoja es real. El precio de una capacidad fija de IA se ha derrumbado. El rendimiento de frontera del año pasado cuesta hoy una fracción de lo que costaba. Pero cada nuevo modelo de frontera cobra una prima sobre el anterior. Y el consumo se compone: los flujos de trabajo agénticos multiplican la computación que consume una sola tarea.
Inteligencia más barata por unidad. Unidades más caras. Y más de ellas. Esa es la aritmética detrás de la factura.
El modelo fija la tarifa. La arquitectura fija el volumen. Los dos se multiplican.
Elegir la clase de modelo equivocada para una tarea puede mover los costes por órdenes de magnitud. Un flujo de trabajo agéntico que introduce documentos completos en cada solicitud costará dramáticamente más que uno que recupera solo lo que la tarea requiere. Eso es independiente del modelo subyacente.
Ambas disciplinas —selección de modelo y gestión de contexto— se pueden ingeniar. Son también las señales más claras de que un proveedor ha hecho el trabajo.
Los modelos pequeños cambian la ecuación.
Una de las estrategias más prometedoras es adoptar modelos de lenguaje pequeños (SLM). A diferencia de los LLM —entrenados sobre conjuntos de datos masivos y de propósito general—, los SLM son compactos. Muchos son de peso abierto. Se pueden ajustar con datos específicos del dominio y desplegar en infraestructura propia.
La diferencia de coste es dramática. Para tareas específicas y repetibles, los SLM pueden igualar o superar a sus contrapartes más grandes. Extraer nombres y cláusulas, clasificar documentos, operaciones de precisión en alto volumen: ahí los SLM ganan.
Pero más pequeño no siempre es mejor. Los LLM de frontera siguen justificando su prima en razonamiento abierto, problemas novedosos y trabajo de bajo volumen donde la flexibilidad importa más que el coste unitario.
La disciplina que hay que buscar es el pensamiento de portafolio. Asignar el modelo a la tarea. Reservar la inferencia cara para los problemas que la necesitan.
Coste y seguridad van de la mano.
Cuando la inferencia de IA pasa por un proveedor externo de LLM, los datos cruzan hacia infraestructura ajena. Información privilegiada o sensible se procesa fuera del control directo del comprador. La diferencia significativa es la gobernanza. Cuando los datos permanecen en un repositorio gobernado y los modelos acceden a ellos mediante estándares como el Model Context Protocol, ese acceso es con permisos, auditable y acotado a la tarea.
Lo que el mercado ya está midiendo.
La presión económica para controlar los costes de IA solo se intensificará. El consumo sigue componiéndose. Los costes absorbidos hoy se trasladan mañana. Los compradores de tecnología deben tratar la gestión de costes de IA como criterio central en la evaluación de proveedores, al nivel de seguridad, escalabilidad y fiabilidad.
Desde Ágora Capital, el mensaje es directo: la libre empresa premia a quien asigna capital con disciplina. Un proveedor que no puede explicar cómo enruta tareas entre clases de modelos —o que aplica el mismo modelo caro a todo— es un riesgo de costes, no solo una elección técnica. El precio de la inteligencia de ayer seguirá cayendo. La frontera seguirá cobrando prima. Y la factura seguirá creciendo. Capital busca reglas claras, y aquí la regla es simple: el portafolio de modelos es ya una decisión financiera.
