El 5 de agosto, la empresa de bases de datos Neon publicó un informe de rendimiento sorprendente: un modelo abierto de 4.000 millones de parámetros (4B), afinado mediante aprendizaje por refuerzo sobre la base de Qwen3.5 de Alibaba, logró una puntuación de 1,447 en una tarea especializada de búsqueda e información («retrieval»). En comparación, GPT-5.6 Sol, el modelo insignia más costoso de OpenAI, obtuvo 1,369 puntos. El modelo pequeño de código abierto ganó la prueba, procesando cada solicitud a aproximadamente 1/100 del costo de su competidor.
La noticia generó cerca de 200 votos a favor y decenas de comentarios en Hacker News, despertando tanto asombro como escepticismo. En este artículo explicamos qué implica la tarea de recuperación, cómo se calculó la diferencia de costo de 100 veces y qué tan fiables son estos resultados.
Recuperación: El primer paso en las respuestas de la IA
Para entender el avance, primero debemos definir qué es la recuperación («retrieval»). Cuando le preguntas a un asistente de IA algo como «¿Con cuántos días de antelación debo reservar un billete de tren para pasar el gasto de empresa?», el modelo no memoriza toda la biblioteca corporativa para responder. En su lugar, localiza la estantería correcta, saca el manual adecuado, abre la página correspondiente y lee la respuesta. Ese acto de buscar y extraer el contexto correcto es la recuperación.
La precisión de herramientas como ChatGPT depende en más de un 50% de esta fase. Si los documentos recopilados son los correctos, la respuesta generada será acertada aunque la redacción sea mejorable. Si la búsqueda falla, por muy fluida que sea la respuesta, terminará siendo una alucinación. En entornos empresariales (bots de atención al cliente o bases de conocimiento internas), la IA debe extraer información precisa de entre miles de manuales, tickets y documentos.
Figura: Comparativa entre el proceso de búsqueda tradicional (una sola consulta) y el flujo agentico (búsqueda iterativa en múltiples pasos). Fuente: neon.com
Antes, la recuperación se realizaba en una sola consulta. La IA moderna actúa como un investigador humano: busca una vez, analiza los resultados, ajusta la consulta y vuelve a buscar a lo largo de varios pasos. Neon calculó que ejecutar un flujo de búsqueda iterativo con GPT-5.6 Sol requiere más de 10 segundos y cuesta unos 3 centavos de dólar por consulta. Dado que cada consulta adicional consume tokens de un modelo de frontera costoso, la recuperación se ha convertido en una de las fases más caras del proceso.
Por qué la recuperación ha sido la primera trinchera en caer
¿Por qué un modelo pequeño de código abierto ha logrado superar a un gigante cerrado precisamente en la tarea de recuperación? Principalmente por tres razones.
En primer lugar, el alcance de la tarea es sumamente acotado. El objetivo de la recuperación es claro: encontrar el documento exacto. Entrenar a un modelo para esta única acción es mucho más sencillo que construir un sistema omnisciente. Como se destacó en las discusiones de Hacker News: «No contratas a un doctor para trabajar en una línea de montaje». Para tareas de búsqueda repetitivas y estructuradas, un modelo especializado y ligero es más que suficiente.
En segundo lugar, la evaluación es objetiva. Si el modelo encuentra la información correcta, el resultado se evalúa automáticamente de forma objetiva. Esto facilita el entrenamiento mediante aprendizaje por refuerzo (RL): el modelo interactúa con herramientas de búsqueda mediante ensayo y error, ganando puntos por aciertos y perdiendo por fallos. Tras decenas de miles de iteraciones, el modelo aprende cuándo y qué buscar. La puntuación media de recompensa del modelo de Neon pasó de 0,382 a 1,447. El rendimiento aumentó a base de entrenamiento iterativo, demostrando la madurez del ajuste fino en la comunidad de código abierto sin necesidad de entrenar modelos desde cero.
Figura: La puntuación media de recompensa sube de forma constante a medida que avanzan los pasos de entrenamiento. Fuente: neon.com
En tercer lugar, los datos permanecen en la propia empresa. Las organizaciones pueden convertir automáticamente sus propios documentos en pares de preguntas y respuestas para entrenar modelos específicos. Los datos no salen de la empresa, lo que resuelve los problemas de privacidad y seguridad.
La cuenta del 100x: ¿De dónde sale la cifra?
Afirmar que un modelo es «100 veces más barato» puede sonar a estrategia publicitaria, pero se basa en números verificables.
Primero, analicemos el precio por token de las API. GPT-5.6 Sol cuesta 5,00 USD por millón de tokens de entrada y 30,00 USD por millón de tokens de salida. Los modelos pequeños alojados de código abierto cuestan alrededor de 0,03 USD (entrada) y 0,15 USD (salida) por millón de tokens, lo que representa una diferencia directa en tarifa de 160 a 200 veces.
Segundo, veamos los costos reales medidos por solicitud. Neon registró un costo promedio por consulta de recuperación de 0,0873 USD con GPT-5.6 Sol, frente a 0,00092 USD con el modelo de 4B. Esto supone una diferencia real de 94,9 veces, redondeada comercialmente a «100 veces».
Figura: Costo por solicitud en el eje X frente a puntuación de evaluación en el eje Y (la esquina superior izquierda es la posición óptima). Fuente: neon.com
Llevado a escala de producción: una empresa que ejecuta 100.000 consultas de búsqueda diarias gastaría unos 8.700 USD al día (más de 260.000 USD al mes) con Sol, mientras que con el modelo pequeño pagaría unos 92 USD diarios. A gran escala, una diferencia de costo de 100 veces determina la viabilidad comercial de un servicio. La guerra de precios de la IA ha pasado del descuento de API a la sustitución por modelos especializados.
Debate: Puntos de vista a favor y en contra
La crítica principal se centra en la metodología de evaluación. La comparativa fue realizada internamente por Neon con un conjunto de datos sintético propio; el conjunto completo de preguntas no se ha hecho público ni se probó frente a benchmarks estándar de la industria (como BEIR). Varios usuarios de Hacker News mostraron su desconfianza hacia los informes publicados por proveedores, señalando que «todos los benchmarks se adaptan para favorecer al autor». Un análisis independiente de AI Pricing Guru también indicó la falta de registros numéricos detallados, lo que impide la reproducción por terceros.
Por otro lado, existen argumentos sólidos a favor. El criterio de puntuación en recuperación es bastante objetivo y la curva de entrenamiento (0,382 → 1,447) muestra una mejora real. En la comunidad, algunos desarrolladores compartieron sus pruebas señalando que los modelos pequeños suelen ser más eficientes al buscar hechos en documentos, ya que los modelos gigantes tienden a sobrepensar o desviarse en tareas simples. Además, la diferencia de tarifas de token de 200 veces es un hecho indiscutible.
Nuestra conclusión es que la diferencia de costo de 100 veces es real, mientras que la ventaja en rendimiento solo se ha demostrado por ahora en el escenario de prueba definido por la propia empresa. Incluso en el texto del blog de Neon existe una discrepancia entre el costo por consulta mencionado (~3 centavos) y el del gráfico (8,7 centavos), lo que demuestra lo variable que puede ser la contabilidad de costos. En el mundo real, los datos son más complejos: los documentos quedan obsoletos, las preguntas son ambiguas y las respuestas están ocultas. Solo el uso a gran escala confirmará si los modelos pequeños mantienen su eficacia. Para tareas de programación o razonamiento complejo, los modelos especializados aún están lejos de sustituir a los gigantes generalistas.
Hacia dónde se dirige la guerra de precios de la IA
Más allá de la controversia, este caso marca una tendencia clara: la arquitectura de la IA está evolucionando de gigantes monolíticos multipropósito hacia conjuntos de modelos pequeños, económicos y altamente especializados. Para las empresas, esto se traduce en una reducción drástica de los costos de adopción de IA interna.
Para la industria, el campo de batalla ha cambiado: ya no se trata solo de reducir el precio del token, sino de decidir qué modelo usar para cada tarea. Cada vez que un modelo pequeño open source alcance a un gigante cerrado en una función específica, el poder de fijación de precios de las API propietarias se reducirá. La recuperación ha sido el primer dominio afectado, pero difícilmente será el último.
Enlaces de referencia:
- Blog de Neon: How Castform + Neon Beats Frontier Models on Price and Efficiency
- Debate en Hacker News (item?id=49186762)
- AI Pricing Guru: Castform Beats GPT-5.6 Sol: Cost Impact (August 2026)
