La gobernanza de costos de IA es un problema de arquitectura

Una CTO de tecnología sanitaria con la que trabajé superó su presupuesto trimestral de IA en seis semanas. Su equipo de doce ingenieros había adoptado Claude Code en todos los flujos de trabajo, los resultados eran genuinos y el modelo de facturación cambió a mitad de trimestre. Algunos desarrolladores generaban entre 80 y 200 dólares en cargos diarios. El director financiero llamó, el consejo hizo preguntas y el cambio de precios resultó ser la parte menos interesante de la historia.

Lo que no podía permitirse era no tener forma de responder. No existía ninguna política de selección de modelos para dirigir tareas rutinarias a modelos más baratos. No había presupuestos de token a nivel de sesión que limitaran cuánto podía durar una partida autónoma. No había límites de tasas a nivel de equipo que impidieran que un desarrollador consumiera una parte desproporcionada del presupuesto del trimestre. Tenía una alerta de gasto que se activaba cuando se agotaba el dinero, y era toda la arquitectura de gobernanza de costos.

Su historia no es inusual. Entre noviembre de 2025 y junio de 2026, el entorno de precios de la IA cambió bajo los pies de todos. Anthropic separó el uso programático de las suscripciones. GitHub Copilot pasó a los créditos basados en tokens el 1 de junio. Cursor se reestructuró a precios de doble pool con sobrecostos escalonados. El CEO de GitLab advirtió públicamente que las facturas de herramientas para desarrolladores podrían aumentar 100 veces. La encuesta State of FinOps 2026 de la Fundación FinOps, que abarcó a 1.192 profesionales, encontró que el 98% gestiona ahora el gasto en IA, frente al 31% hace dos años. El gasto se convirtió en problema de todos en menos de ocho meses.

El ciclo de mandato y luego restricción

El patrón se repite en diferentes sectores. Una organización exige la adopción de la IA, celebra las métricas de uso y descubre el coste tres a seis meses después.

Uber impulsó la adopción de Claude Code del 32% al 84% entre 5.000 ingenieros, quemó todo el presupuesto de IA de 2026 en cuatro meses e impuso un límite de 1.500 dólares mensuales por desarrollador. Salesforce comprometió 300 millones de dólares en gasto anual en tokens de Anthropic y pausó la contratación de ingeniería. Amazon creó clasificaciones internas clasificando a los empleados por consumo de tokens, y luego los eliminó después de que los ingenieros crearan agentes innecesarios para inflar sus puntuaciones. El informe «Tokenpocalypse» de 404 Media documentó que Atlassian, Adobe y Accenture limitaron el uso de IA tras haber exigido la adopción meses antes.

El informe State of AI in FinOps 2026 de Harness lo cuantifica: el gasto en IA es ahora un punto de partida mensual de 1 millón de dólares para el 20% de las empresas, y dos de cada tres gastan más de 250.000 dólares al mes. A esa escala, el análisis de Gartner es directo: «los sistemas autónomos pueden actuar en gran medida de forma independiente», y el responsable de infraestructura y operaciones «necesitará controles en tiempo de ejecución para mantener el gasto en IA en producción predecible y alineado con el valor empresarial.»

Las organizaciones que gestionan este ciclo no son irresponsables. Están gobernando los costos de la IA como lo hacían hace diez años: con presupuestos, alertas y una cadencia de revisión trimestral. Eso funcionaba cuando la factura se movía predecible y las herramientas cambiaban anualmente. Los proveedores de herramientas de IA cambian los precios trimestralmente y las funciones mensualmente. Una revisión anual de proveedores regula un sistema que ya no existe.

La distinción arquitectónica

El error del CTO de healthtech aclara la distinción. El enfoque financiero para la gobernanza de costos establece un presupuesto mensual y alerta cuando se consume el 80%. Detecta el pico de costos tras el cierre del trimestre. El enfoque de arquitectura configura la herramienta de modo que los modelos frontera requieran una invocación explícita, las sesiones autónomas lleven presupuestos de tokens, los límites de tarifas a nivel de equipo distribuyan el gasto proporcionalmente, y las etiquetas de atribución de costos conecten cada dólar con un equipo, un proyecto y una categoría de tarea. Previene el pico de costes antes de que comience la sesión.

Esto no es una idea nueva. Scaling Cloud FinOps (2024) dedica su cuarto capítulo a la gobernanza de costes en la nube como disciplina de ingeniería, argumentando que los criterios de provisión, los procesos de aprobación y las revisiones de arquitectura conscientes de los costes son los mecanismos que controlan el gasto, no los paneles que lo informan después. El problema de costes de la IA es el problema de costes en la nube, con el reloj corriendo más rápido.

AWS y Microsoft ahora exponen partes de esta superficie de control a través de sus respectivas herramientas, aunque las capacidades varían. AWS lanzó su Agente FinOps en 2026, que permite a los ingenieros hacer preguntas de costes en lenguaje natural contra datos de uso real, con contexto consciente de la organización que resuelve «¿Cuál es el coste del Equipo X?» a cuentas reales. el Pilar de Machine Learning del Well-Architected Framework (MLCOST06-BP01) codifica la estrategia de etiquetado: nombre del proyecto, entorno, fase de ML, propietario, centro de costes, con etiquetas de asignación de costes activadas en facturación y detección de anomalías configuradas encima. En el lado de Microsoft, Azure API Management aplica límites de tasa de token a nivel de gateway, con alcance por identidad de llamante. El Foundry Control Plane proporciona vistas a nivel de flota del consumo de agentes, modelos y herramientas. Y los límites de ejecución acotados en tamaño de prompt, pasos, agentes generados y gasto por tarea impiden que las cargas de trabajo autónomas se ejecuten sin límites.

Lo que ambos comparten es la ubicación de la aplicación: los controles están en la infraestructura, aplicados por la plataforma antes de que la solicitud llegue al modelo. Una política que dice «no exceder los 5.000 dólares al mes por equipo» y una configuración de infraestructura que imponga 5.000 dólares al mes por equipo son instrumentos de gobernanza completamente diferentes. El primero depende de que la gente lea la política. El segundo la hace cumplir independientemente de si alguien lee algo.

Cómo es la arquitectura de costos en la práctica

Un CTO que trata esto como un problema de arquitectura comienza con cuatro controles antes de que las herramientas sean ampliamente adoptadas.

La selección de modelos por defecto. La mayoría de las tareas de codificación por IA no requieren modelos frontera. La finalización rutinaria de código, la generación de documentación y el andamiaje de pruebas funcionan bien en modelos más pequeños y baratos. Los modelos frontera se reservan para razonamientos complejos, decisiones arquitectónicas y tareas donde la calidad de salida justifica el coste. La configuración impone esto como predeterminado y requiere escalada explícita para el acceso a frontera. El análisis de Gartner de mayo de 2026 sostiene que este es el cambio fundamental: pasar de «coste por solicitud» a «arquitecturas coste por resultado» donde el modelo utilizado coincide con el valor del resultado.

Presupuestos de tokens a nivel de sesión. Las sesiones de agentes autónomos son donde los costos se acumulan más rápido, porque un modelo que ejecuta un bucle largo genera tokens a velocidad de máquina sin juicio humano sobre si el bucle es productivo. Un presupuesto de sesión limita cuántos tokens puede consumir una ejecución autónoma antes de requerir revisión humana. Esto evita los bucles descontrolados que generaron los cargos diarios de 200 dólares del CTO de healthtech.

Límites de tasa a nivel de equipo y atribución. Cada equipo recibe una asignación proporcional a su carga de trabajo, y cada solicitud lleva etiquetas que conectan el gasto con el propietario. Cuando llega la factura mensual, debería ser atribuible a equipos específicos, proyectos concretos y categorías de tareas concretas. Si la factura no puede atribuirse, nadie puede optimizarla. El propio hallazgo de la Fundación FinOps es revelador: el 98% de las organizaciones gestionan ahora el gasto en IA, pero Gartner señala que los costos van más allá de modelos, tokens e infraestructura, hacia personas y factores de procesos que la mayoría de las organizaciones aún no han mapeado.

Detección de anomalías de coste. AWS Cost Anomaly Detection y Microsoft Cost Management proporcionan alertas automáticas para patrones de gasto que se desvían de la línea base. El valor no es la alerta en sí, sino la velocidad de la respuesta: detectar una anomalía de coste en el segundo día de un ciclo de facturación es gobernanza, y detectarla en el día veintiocho es una autopsia.

La dimensión de dependencia

Hay una dimensión de la gobernanza de costos de la IA que la herramienta no resuelve: lo que ocurre cuando el proveedor cambia sus precios y no puedes responder.

El verdadero problema de la CTO de healthtech iba más allá de la factura. Todo el flujo de trabajo de su equipo estaba codificado en un formato propietario que no se portaba a ninguna herramienta alternativa. Pasó ocho semanas reconstruyendo una portabilidad que debería haber llevado dos días si la dependencia se hubiera gestionado desde el principio.

He estado escribiendo sobre este problema en un contexto más profundo: cómo la dependencia del proveedor en IA opera en un espectro, desde equipos que podrían cambiar de herramienta en una semana hasta equipos que no pueden describir su propio flujo de trabajo sin referenciar el conjunto de funciones del proveedor. La arquitectura de costos descrita aquí se encarga del problema del gasto diario. La gobernanza del proveedor se encarga del problema principal: qué ocurre cuando el proveedor alrededor del cual construiste tu flujo de trabajo cambia los términos y si puedes moverte cuando lo necesites. Llamo a la versión más sencilla de esa prueba la pregunta de las 48 horas: ¿qué ocurre en las primeras 48 horas si esta herramienta deja de estar disponible? Próximamente hablaré más sobre eso.

La responsabilidad de gobernanza de costos del CTO

La gobernanza de costos para la IA es un problema de arquitectura de ingeniería que el CTO asume, porque las decisiones que determinan el coste, desde la selección del modelo hasta los presupuestos de sesiones, los límites de tasas y la atribución a umbrales de anomalía, son decisiones de configuración tomadas en infraestructura, no partidas negociadas en la adquisición.

Escribí anteriormente sobre por qué las migraciones a la nube tienen éxito y las operaciones no, el patrón en el que las organizaciones invierten mucho en pasar a la nube y descubren que operar allí requiere un músculo completamente diferente. La gobernanza de costos de IA es el mismo patrón, pero comprimida. Los CTOs que configuraron los controles de costos junto con su adopción en la nube evitaron la remediación y rearquitectura que llevó meses a quienes añadieron controles tras la primera factura sorpresa. La misma elección está delante de todos los CTO que adoptan herramientas de IA ahora mismo, y la ventana para hacerlo deliberadamente es más corta que para la nube.

Configura los valores predeterminados del modelo, establece los presupuestos de la sesión, etiqueta el gasto y detecta las anomalías antes de que la adopción escale. Si esos controles faltan cuando llega la factura, la arquitectura ya ha tomado la decisión de costos y el CFO es quien se entera.

Ricardo