Dos años de inferencia más barata
En Money20/20 USA, a fines de octubre, el CEO de PicPay compartió cifras que cambian la conversación sobre costos en los servicios financieros de América Latina. El costo unitario de cada token de IA en la compañía es 98% menor que hace dos años, y 94% de sus 4,500 empleados ya usa Nitro, su herramienta interna de IA. En la misma sesión agregó una advertencia: la IA exige gestión, porque sin ella el consumo de tokens sube tanto que las ganancias de eficiencia pueden no alcanzar para pagar la cuenta.
Los datos globales apuntan en la misma dirección. Según el AI Index 2025 de Stanford, la inferencia con un desempeño equivalente a GPT-3.5 bajó de US$20.00 por millón de tokens en noviembre de 2022 a US$0.07 en octubre de 2024. El consumo se movió en sentido contrario: los datos de Ramp muestran que el gasto empresarial en tokens creció 13 veces entre enero de 2025 y principios de 2026, y Gartner proyecta que el gasto en aplicaciones centradas en inferencia llegará a US$20,600 millones en 2026, frente a US$9,200 millones en 2025, superando por primera vez al entrenamiento. El tema creció lo suficiente como para que la Linux Foundation lance una Tokenomics Foundation dedicada a dar disciplina de costos al gasto en IA.
Para bancos, aseguradoras y BPOs de la región, el caso de negocio de la IA ahora tiene que mostrar el costo de cada conversación resuelta a lo largo de meses de volumen en producción. El precio por token, por sí solo, dice poco sobre la cuenta final, y noviembre es el mes en que se aprueba buena parte de los presupuestos de atención de 2027.
Referencias: Let’s Money, noviembre de 2026 / Stanford HAI AI Index 2025, vía Workd / HPCwire, agosto de 2026 / Gartner, vía Nscale / The Next Web, 2026
IA en finanzas: lo que muestran tres años de atención con IA en PicPay
PicPay es una referencia útil porque su IA lleva más de tres años frente a los clientes. En marzo de 2023 un agente ya conversaba con clientes, y en el tercer trimestre de ese año todo el primer nivel de atención pasó a la IA, en un momento en que el estándar del mercado era usarla solo como copiloto. La transición llegó después de un largo período de validación: el agente funcionó seis meses en modo espejo junto a la atención humana, y el cambio solo se hizo cuando el NPS de la IA quedó por delante. El resultado informado fue 45% más puntos de NPS con 3% del costo anterior.
La curva de costo salió de decisiones operativas. La compañía elige el modelo para cada tarea, así que la elección no queda en manos de cada empleado. El contexto se guarda en caché una sola vez y cada conversación envía solo lo nuevo. Un modelo aparte reescribe cada solicitud antes de que llegue al modelo principal, y todo corre sobre una capa propia de orquestación.
En un contact center financiero, la misma lógica se aplica a cada interacción. El volumen de tokens de una conversación de atención crece con el tamaño del system prompt, el conocimiento recuperado en cada turno, las llamadas a los sistemas core, los reintentos y, en voz, los minutos de reconocimiento y síntesis. Una consulta de saldo y una renegociación de deuda pueden diferir en un orden de magnitud de consumo, aunque la mayoría de los reportes cuente ambas como una conversación. Las operaciones que mantienen costos de IA predecibles suelen enviar los contactos rutinarios (consultas de estado, recordatorios de pago, solicitudes de documentos) a modelos más livianos y rápidos, y reservan los modelos más grandes para negociación, reclamos o interpretación de documentos. También recuperan conocimiento solo cuando la conversación lo necesita y reportan el costo por conversación junto al resultado que produjo: una promesa de pago, una póliza renovada, un caso cerrado en un solo contacto.
La gobernanza forma parte del mismo diseño. PicPay abrió plugins en asistentes externos para consultas de cuenta manteniendo la autenticación dentro de su propia app, de modo que la conversación puede ocurrir en otro lugar mientras la seguridad sigue bajo control de la institución. El período de seis meses en modo espejo también es un modelo que supervisores y comités de auditoría reconocen: un proceso automatizado nuevo se prueba contra una línea base medida antes de recibir el volumen completo.
Referencias: Let’s Money, noviembre de 2026
Producto Coru: ADI Platform y el costo de cada conversación
ADI Platform es una plataforma enterprise para operar agentes conversacionales con IA sobre voz (PSTN inbound y outbound), WhatsApp Business y widget web embebido, pensada para operaciones de contact center que buscan automatizar entre 30% y 80% de su volumen.
El modelo adecuado para cada agente
Cada agente define su LLM principal, su temperatura (se recomiendan valores bajos para producción financiera) y uno o más modelos de fallback que se intentan en orden. La inferencia pasa por una capa de ruteo que elige proveedor por costo y latencia, multinube por diseño y sin dependencia de un único proveedor.
Conocimiento y datos bajo demanda
Las bases de conocimiento vinculadas a un agente se consultan en tiempo real solo cuando la conversación lo requiere. Las HTTP tools y un MCP gateway llegan a los sistemas del cliente para traer el dato específico que necesita cada caso, como un saldo o el estado de una póliza, sin cambios en el core.
Costo visible por cliente, agente y día
Los dashboards de FinOps muestran el costo de LLM por cliente por día y pueden disparar una alerta cuando se supera un umbral. La vista de cuenta sigue el consumo del ciclo (tokens de entrada y salida, minutos de voz inbound y outbound) frente a los límites definidos, con avisos cuando cada recurso se acerca a su tope.
Costo junto al resultado
La analítica compara conversaciones, tasa de contacto y costo contra el período anterior, con filtros por canal, agente y fecha, junto a las métricas personalizadas que los agentes extraen en cada caso de uso. En cobranza, eso significa promesas de pago, tasa de acuerdo, valor comprometido y cumplimiento D+1 en la misma pantalla que el gasto que los produjo.
Validación antes del volumen completo
Cada edición queda en borrador hasta que se prueba y se publica como una versión numerada. Las versiones se comparan lado a lado y se restauran de inmediato, y el despliegue canary envía una versión nueva a un porcentaje del tráfico mientras se monitorean sus métricas, lo que le da a cada cambio de prompt o de modelo su propio período de prueba medido.
Una configuración para todos los canales
El mismo prompt, las mismas herramientas, la misma base de conocimiento y los mismos guardrails sirven para voz, WhatsApp y web, así que una optimización hecha una vez aplica en todos los canales activos.
Consumo por cartera
Una Organization puede operar agentes para muchos Clients, cada uno con su propio plan y consumo, de modo que un BPO puede asignar el costo de IA a cada cartera financiera que atiende. Permisos por rol, registro de cambios de configuración y aislamiento por tenant del lado del servidor vienen incluidos.
Guardrails que no se apagan
Una capa obligatoria protege contra prompt injection y exfiltración de datos personales y no se puede desactivar, mientras una capa configurable define cuándo el agente responde y cuándo transfiere el caso a una persona.
Coru Weekly Picks
Recomendación de película: Moneyball (2011)
Billy Beane, gerente general de los Oakland Athletics, tiene una de las nóminas más chicas del béisbol y un equipo que reconstruir. Con un economista recién graduado a su lado, empieza a pagar por las estadísticas que de verdad producen victorias y deja de pagar por reputaciones que no las producen. La película son dos buenas horas sobre cómo elegir la métrica que conecta el gasto con el resultado, el mismo ejercicio que hoy exige cualquier presupuesto de IA.
Recomendación de libro: How to Measure Anything, Douglas W. Hubbard
Hubbard sostiene que todo lo que importa para una decisión se puede medir, casi siempre con menos datos de lo que se supone, y que el esfuerzo de medición debe ir a las variables cuya incertidumbre cuesta más. Para quien defiende una línea de IA en el presupuesto, el libro ofrece un método práctico para estimar el valor de una conversación resuelta, una transferencia evitada o una promesa de pago cumplida, antes de que los números sean perfectos.
Hacia adelante
Los precios unitarios seguirán bajando. Gartner proyecta que la inferencia sobre un modelo de un billón de parámetros costará 90% menos en 2030, y aun así espera que tokens más baratos no se traduzcan en cuentas de IA empresarial más bajas, porque los modelos agénticos consumen muchos más tokens por tarea. Las instituciones financieras y los BPOs que usen la planificación de 2027 para definir el ruteo de modelos por tarea, la disciplina en la recuperación de conocimiento y reportes de costo atados a resultados podrán escalar la automatización con un presupuesto que se sostiene.
La estrategia de proveedores también conecta costo con resiliencia. En Brasil, un coordinador del Banco Central advirtió en septiembre que muchas entidades reguladas contratando al mismo proveedor de IA listo para usar podrían generar riesgo de concentración, un punto que aparece en los resultados preliminares de un mapeo en curso. Una arquitectura capaz de cambiar de modelo y de proveedor según la tarea atiende al equipo de finanzas y al de riesgos con la misma decisión.
Referencias: Cockroach Labs, citando a Gartner / Let’s Money, septiembre de 2026
En Coru construimos la inteligencia operativa que se ubica entre un modelo de IA y un proceso regulado. En América Latina eso significa sistemas conversacionales fluidos en los canales y las reglas locales, con arquitectura compliance-first debajo. Cada interacción se convierte en un caso resuelto con un registro detrás.
