Qué es realmente Laya AI
El lema de la página principal de Laya es "decisions, not text" (decisiones, no texto), y ese es todo el producto en tres palabras. La mayor parte de la IA que has usado es autorregresiva: predice el siguiente token, luego el siguiente, y va construyendo una frase. Eso es estupendo para redactar una respuesta y pésimo para una decisión de sí o no, porque ejecutas un modelo de lenguaje para obtener un solo bit de información y luego parseas texto libre para recuperarlo.
Laya es el otro tipo de modelo. Es un codificador bidireccional que lee toda la entrada de una vez y responde a una pregunta fija puntuando tus opciones, en lugar de escribirlas. Convai lo llama un modelo System 1: el juicio instantáneo y reflejo, frente al razonamiento System 2, lento y deliberativo, de un LLM generativo. El creador, Nandakishor Mukkunnoth, de Convai Innovations, expone la motivación sin rodeos:
"Not every AI problem requires an autoregressive chatbot."
Tiene razón, y si alguna vez has conectado un modelo de 8B a un prompt que termina en "respond only with JSON", has sentido el dolor que describe.
La idea: System 1, no System 2
El planteamiento se apoya en una ineficiencia real. Cuando llamas a un modelo generativo para enrutar un ticket o marcar un correo de phishing, pagas tres veces: de 500 a 2.000 ms de latencia, coste real de inferencia y un parseo de cadenas frágil a la salida. Peor aún, el número de confianza que te da un LLM es teatro. Como dice Nandakishor:
"When an LLM outputs 'confidence: 0.95', it is just predicting tokens that sound confident. There is zero mathematical calibration behind it."
La respuesta de Laya es convertir la decisión refleja en su propio modelo, uno que devuelve una distribución de probabilidad real en lugar de una frase que suena segura. Ese contraste es toda la razón de ser del modelo.
Esta es la parte que me parece más interesante, porque coincide con algo que aprendí por las malas. El fallo peligroso en la automatización del soporte no es un bot que dice "no lo sé". Es un bot que está seguro de algo equivocado. Un modelo que informa de probabilidades honestas vale más que uno que tenga un punto más de precisión bruta, porque puedes poner un umbral a la confianza y escalar los casos dudosos. Laya está construido sobre esa idea desde cero.
Cómo funciona Laya por dentro
Mecánicamente, Laya toma un estado más una o más preguntas tipadas y las responde todas en una sola pasada en paralelo. Hay tres primitivas de pregunta, y una vez que las ves te das cuenta de que cubren la mayoría de las "decisiones" de un flujo de soporte:
- choice elige una opción de un conjunto que tú defines (enrutamiento, intención, tema).
- score sitúa el estado en una rúbrica ordinal, por ejemplo de 0 a 3 (urgencia, frustración, gravedad).
- noul es un booleano que devuelve un P(true) calibrado de 0.0 a 1.0 (phishing, spam, jailbreak, riesgo de abandono).
Lo ingenioso es cómo puntúa las opciones. Cada opción se empaqueta con su propio token [MASK], y el modelo lee el estado oculto en ese marcador para producir un logit, y luego aplica softmax sobre las opciones de la pregunta. Como el espacio de respuestas se define en el momento de la petición, los nuevos esquemas no necesitan reentrenamiento, simplemente pasas otras opciones. El checkpoint en inglés es ModernBERT-large con 421M de parámetros, con una pequeña cabeza de decisión entrenada encima.
Luego está el entrenamiento, que es de donde sale la calibración. Laya se entrena con lo que Convai llama RLCD, aprendizaje por refuerzo contra reglas de puntuación estrictamente propias. La versión corta: el entrenamiento ingenuo enseña a un modelo a ser demasiado confiado, porque empujar la probabilidad ganadora hacia 1.0 maximiza una recompensa de precisión simple. La frase de Nandakishor sobre esto es la más afilada de toda la publicación:
"Naive RL maximizes accuracy by destroying calibration. It turns your model into a confidently wrong machine."
RLCD, en cambio, recompensa al modelo solo cuando su probabilidad declarada coincide con la realidad, así que la confianza honesta es la forma de ganar. Es una decisión de diseño real y verificable, no un eslogan, y es lo que yo buscaría en Laya.
Los tres checkpoints
"Laya" es en realidad una familia de tres checkpoints agrupados en un único repositorio de Hugging Face, y elegir el correcto importa más de lo que sugiere el marketing.
| Checkpoint | Backbone | Parámetros | Mejor en |
|---|---|---|---|
convaiinnovations/laya | ModernBERT-large | 421M | Guardrails en inglés, triaje de correo |
laya-multilingual | mmBERT-base | 322M | Más de 100 idiomas, ~2,2 veces más rápido |
laya-typed-decisions | ModernBERT-large | 421M | Los cuatro flujos de decisiones tipadas (0.766 de precisión) |
El modelo raíz en inglés se desploma fuera de los alfabetos latinos, y no con elegancia. En el barrido de 51 idiomas obtuvo 0.000 de precisión en jemer mientras informaba de 0.952 de confianza, justo la trampa de "seguro y equivocado" que el modelo debería evitar. El filtrado por confianza no puede salvarte ahí, así que Laya incluye un Router integrado que detecta el alfabeto en menos de medio milisegundo y elige el checkpoint multilingüe antes de que se ejecute la pasada hacia adelante.
Los benchmarks y la advertencia que todos pasaron por alto
Esta es la comparación completa que el proyecto publicó frente a Jev. Es mucha información, pero el titular es que Laya (con enrutamiento) supera ligeramente a Jev en los conjuntos de datos públicos compartidos, siendo mucho más rápido y estando mejor calibrado.
Las cifras que merece la pena recordar, todas medidas en una sola Tesla T4 (con las cifras de Jev publicadas por terceros, ya que Convai no tenía acceso a la API):
- Latencia: 32,8 ms p50 para una pregunta enrutada, frente a 236 a 276 ms de Jev. Ese es el 7,8x.
- Calibración: ECE de 0.081 tras reajustar la temperatura, frente a 0.246 de Jev, una puntuación de calibración 3 veces mejor.
- Precisión: 0.766 en el conjunto tipado de 2.000 decisiones, frente a 0.727 de Jev, y supera el techo del modelo maestro de 0.735.
Y luego el asterisco que dominó la conversación. Ese 0.766 es el checkpoint con fine-tuning. Los modelos base, de fábrica, puntúan alrededor de 0.362 en el mismo benchmark, apenas por encima del 0.318 de la línea base aleatoria. La propia sección de limitaciones del proyecto lo dice claramente: trata a Laya como una base rápida que hay que especializar, no como un oráculo zero-shot. En Hacker News, donde el lanzamiento superó los 1.300 puntos, el comentario crítico más votado fue exactamente este:
"This should be way up in the article. Fine tuning is a pain, requiring it for good results put Laya in a whole different category vs Jev"
Es un golpe justo. Jev se vende como utilizable en zero-shot; Laya, leído con honestidad, es una base que se especializa. Los defensores también tenían una réplica razonable: un modelo rápido, controlable por prompt y calibrado, que puedes afinar en una tarde, sigue siendo un gran paso frente a gestionar una flota de clasificadores a medida.
Para qué lo usarías realmente
Si quitas el drama con Jev, Laya es un clasificador rápido con confianza honesta, así que encaja en cualquier lugar donde ahora mismo pagas de más a un modelo generativo para tomar una pequeña decisión estructurada. El proyecto informa de la precisión real por flujo de trabajo, y la dispersión te dice dónde es fuerte:
- Filtrado de spam en correo: 0.993
- Detección de phishing: 0.980
- Guardrails de LLM y detección de jailbreak: 0.755 a 0.762 (0.931 con 50 % de cobertura selectiva)
- Relevancia de pasajes en RAG: 0.657
- Enrutamiento de tickets de soporte, 10 clases: 0.522
Las decisiones de seguridad binarias son excelentes; la clasificación amplia y difusa es donde necesita el fine-tuning. El argumento de los profesionales a favor de un modelo así se expuso bien en HN, y coincide con lo que oigo de equipos ahogados en reglas de enrutamiento sueltas:
"The ability to knock out any arbitrary classification problem in minutes instead of in a week is a big deal... I don't want to spend a week to create a dataset, finetune a model, and set up infrastructure to run the model, every time I have a small routing or classification problem."
Hay una tensión real en ese hilo que conviene nombrar, porque es la decisión de compra de verdad. Algunos desarrolladores quieren algo listo para usar que no tengan que entrenar nunca:
"I don't want to manage GPUs / CPUs now. I don't want to maintain my corpus and retrain as my product's data distribution shifts... I just want a reasonably good general classifier served to me with a great devex and calibrated confidence scores to help me figure out when to fallback."
Ese es el límite honesto de Laya para muchos equipos: es un componente excelente si estás dispuesto a ejecutarlo y especializarlo, y encaja menos si querías algo que simplemente funcione de fábrica.
Velocidad, idiomas y coste
Donde Laya es claramente fuerte es en lo operativo y aburrido. Funciona en 45 de 51 idiomas por encima de 3 veces el azar con enrutamiento, frente a cero cifras multilingües publicadas por Jev.
En cuanto al coste, es Apache 2.0 y autoalojado, así que son $0.00 por millón de tokens frente a los $0.042 de Jev, y funciona aislado de la red en tu propio hardware, algo que importa a quien tenga restricciones de HIPAA o RGPD. La instalación es una sola línea, pip install laya, y Router(preload=True) mantiene todos los checkpoints residentes para evitar una recarga en frío de 7 a 10 segundos al cambiar de idioma. El repositorio de GitHub supera las 9.000 estrellas, y hay un Space de demostración en vivo por si quieres probarlo antes de escribir código.
La única advertencia para problemas de alta cardinalidad: las preguntas choice se degradan con más de unas 20 opciones con el presupuesto de tokens por defecto. En Banking77 (77 etiquetas), Laya obtuvo 0.425 frente al 0.870 de Jev, porque cada opción solo dispone de 3 a 4 tokens para distinguirse. La solución es aumentar el presupuesto o dividir en una jerarquía de lo grueso a lo fino, pero de fábrica, un enrutador de 10 clases es cómodo y uno de 77 no.
La polémica: quién lo construyó primero
No se puede escribir sobre Laya sin su historia de origen, porque es la mitad de la razón por la que la publicación se hizo viral. El planteamiento de Nandakishor es una reclamación de prioridad: dice que publicó este enfoque de decisión no autorregresivo, entrenado con RL, en un artículo de arXiv de marzo de 2025 y en un seguimiento de septiembre de 2025, un año completo antes de que TypeSafe lanzara Jev con bombo y platillo.
"It is incredibly frustrating when something you poured your heart into for months as an open-source researcher gets overlooked because it was built for a vertical use case, while a funded lab packages the same core idea horizontally and gets all the glory."
La comunidad se dividió, con razón. Algunos señalaron que una marca limpia y una API usable son en sí mismas el producto, y que su trabajo anterior se comercializó como una herramienta de nicho de "conversión de ventas" que nadie leyó. Otros se mostraron comprensivos, y varios se alegraron de que exista la versión abierta, aunque pusieran los ojos en blanco ante el bombo del lanzamiento de ambos modelos:
"I had used versions of bert to achieve the same functionality years ago. But to me it seems like they were able to trick the VCs with 'can't hallucinate' etc. To the above author, kudos for sharing your work and making it open."
Mi opinión: el argumento de la prioridad distrae de una publicación sólida. Haya sido Laya el primero o no, es abierto, rápido, está documentado con honestidad y funciona bien en los trabajos de los que es honesto. Eso vale más que la disputa por el crédito.
Dónde encaja un modelo de decisión frente a un compañero de IA
Esta es la parte que más me importa, porque construyo esto para ganarme la vida. Un modelo de decisión y un compañero de IA no son competidores. Viven en capas distintas.
Laya es infraestructura. Responde a "¿a qué cola pertenece este ticket?" o "¿es urgente?" en 33 ms, y hace esa única cosa de maravilla. Pero no lee tu centro de ayuda, no redacta la respuesta, no consulta el estado del pedido y no cierra la conversación. Esos son los trabajos reales que un equipo de soporte necesita ver hechos, y necesitan un modelo que actúe, no solo que clasifique.
Esa es la diferencia entre un componente y un empleado. eesel es una plataforma de compañeros de IA, y el compañero de IA para el helpdesk es el contratado para soporte: se incorpora a tu cola actual en Zendesk, Freshdesk o donde ya trabajes, lee tus tickets y documentos anteriores y resuelve el ticket completo de principio a fin. Por dentro toma el mismo tipo de decisiones rápidas y calibradas de enrutamiento y confianza en las que Laya es buena, pero las envuelve en la lectura, la redacción y la acción que convierten una clasificación en una conversación resuelta. Si eres desarrollador y quieres programar o automatizar ese compañero directamente, la CLI de eesel y el servidor MCP permiten que una persona, un script o un agente de código como Claude Code maneje el mismo espacio de trabajo que usa el panel.
Prueba eesel
Si estás mirando Laya porque quieres decisiones de soporte más inteligentes y rápidas, conviene tener claro qué estás comprando. Un modelo de decisión te da un componente con el que construir. Un compañero de IA para soporte te da el trabajador terminado.
Confío en el argumento de calibración de Laya porque he vivido la alternativa. Hemos visto bots que suenan seguros dar respuestas erróneas en silencio en colas reales, por eso cada despliegue de eesel ejecuta primero una simulación sobre tus propios tickets históricos, para que veas la tasa de resolución exacta y las respuestas exactas antes de tocar a un solo cliente. El precio es una tarifa mensual fija, desde $299/mes por 500 créditos (1 crédito por ticket o chat), sin cargos por usuario, y hay un plan gratuito con 100 créditos. Si quieres que la decisión se ejecute y no solo se etiquete, esa es la capa que debes mirar.
Lo que le diría a un amigo
Laya es una contribución real y me alegra que sea abierto. Si eres desarrollador con problemas de clasificación o enrutamiento y ganas de hacer fine-tuning, es una de las herramientas nuevas más interesantes del año: rápida, calibrada, multilingüe y gratuita. Lee la tarjeta del modelo, es refrescantemente honesta sobre sus propios límites.
Pero lee esa sección de limitaciones antes de construir sobre él. Los resultados zero-shot están cerca del azar, la confianza necesita reajustarse con tus datos y la clasificación amplia pide fine-tuning. Trátalo como la excelente base que dice ser, y si lo que realmente necesitas es todo el trabajo de soporte hecho en lugar de una sola decisión devuelta, recurre a un compañero, no a un componente.
Preguntas frecuentes
¿Qué es Laya AI?
Laya AI es un modelo de decisión de código abierto, con 421M de parámetros, de Convai Innovations. En lugar de generar texto como un chatbot, recibe un estado (un ticket, un correo o JSON) más preguntas tipadas y devuelve respuestas tipadas con probabilidades calibradas en una sola pasada hacia adelante de unos 33 ms. Se publica bajo Apache 2.0 y se presenta como la respuesta abierta a Jev, el modelo cerrado de TypeSafe AI.
¿Cuánto cuesta Laya AI?
Laya es gratis. Los pesos están bajo Apache 2.0 en Hugging Face, así que alojarlo tú mismo cuesta $0.00 por millón de tokens frente a los $0.042 por millón de tokens que cobra la API cerrada de Jev. Tu único coste es la GPU o CPU en la que lo ejecutes. Si prefieres no ejecutar ningún modelo, un compañero de IA para el helpdesk se encarga de la clasificación y de la respuesta por ti.
¿Es Laya AI bueno para enrutar tickets?
Es una base sólida para ello. En un benchmark de triaje de soporte de 10 clases, el modelo base obtiene 0.522 y el checkpoint con fine-tuning supera el techo del modelo maestro en el conjunto de decisiones tipadas, y cada respuesta incluye una puntuación de confianza calibrada para activar el plan alternativo. Consulta nuestra comparativa de herramientas de IA para el triaje de tickets para ver cómo encaja en un stack de soporte real.
¿De verdad Laya AI no puede alucinar?
Dentro de su espacio de salida, sí. Laya nunca emite tokens de texto; solo devuelve probabilidades sobre un conjunto fijo de opciones que tú defines, así que una respuesta malformada o una categoría inventada es imposible por construcción. Aun así puede equivocarse, y por eso la puntuación de confianza calibrada importa más que el eslogan de marketing.
¿Necesito hacer fine-tuning de Laya AI?
Para una precisión seria, normalmente sí. De fábrica, los checkpoints base puntúan casi al azar (~0.362) en el benchmark de decisiones tipadas; el 0.766 de los titulares viene del fine-tuning en esa tarea. Trata a Laya como una base rápida que hay que especializar, no como un oráculo zero-shot, y reajusta su temperatura con tus propios datos antes de fiarte de los números de confianza.