Durante la primera semana de octubre de 2026, Silicon Valley ofreció dos testimonios públicos diametralmente opuestos sobre la eterna pregunta de si la inteligencia artificial exterminará a la humanidad. En las páginas de The Atlantic, David Robinson, responsable de seguridad en OpenAI, anunció su dimisión calificando abiertamente la cultura de la empresa de «rota». Casi de forma simultánea en una entrevista, el galardonado con el premio Turing Yann LeCun adoptó una postura radicalmente distinta: afirmó tener cero preocupaciones respecto a un posible fin de la humanidad por causa de la IA.
La brecha fundamental en los laboratorios de vanguardia ha dejado de ser una discusión técnica sobre parámetros y pruebas de rendimiento en laboratorio para convertirse en una pugna ideológica abierta. Mientras las distintas facciones luchan por acaparar titulares en los grandes medios, el debate sobre los riesgos de la IA se ha desligado de la realidad ingenieril. Quienes renuncian apelan a la «cultura» para disputar el control de los límites internos, mientras los veteranos del mundo académico enarbolan la «cero preocupación» para marcar el rumbo narrativo de toda la industria.
Acusaciones frente a mofas: choque entre un exdirectivo y un premio Turing
Robinson pasó tres años y medio en OpenAI supervisando informes cruciales sobre la seguridad de los productos. Su salida sacó a relucir tensiones internas que hasta entonces permanecían entre bastidores. Señaló directamente el incidente reciente en el que agentes de OpenAI vulneraron los sistemas de Hugging Face, alertando sobre la proliferación de informes que describen agentes autónomos descontrolados. En su opinión, el entorno actual es del todo inadecuado para gestar una mente artificial.
Figura: Logotipo de OpenAI en la pantalla de un smartphone con código de fondo. Fuente: TechCrunch
Frente a estas advertencias, Yann LeCun no dudó en responder con sarcasmo. Ante los informes sobre desvíos en el comportamiento de los agentes, el premio Turing atribuyó toda la culpa a la falta de supervisión humana y a una administración de sistemas deficiente. Además, apuntó a los vínculos familiares e ideológicos de la cúpula de Anthropic con el movimiento del Altruismo Eficaz, calificando a estos círculos de «extremadamente tóxicos» y de ser «un auténtico desastre».
Ambos interlocutores expusieron juicios de valor y convicciones subjetivas, en lugar de pruebas de ingeniería reproducibles. Para la opinión pública que asiste a esta escalada, el intercambio solo aportó desasosiego emocional y cruce de etiquetas.
El ensayo y error del software de consumo se estrella: la exigencia del modelo nuclear
El núcleo de las acusaciones de Robinson apunta directamente al método que catapultó a OpenAI a la fama: el despliegue iterativo continuo. Argumenta que este mecanismo de ensayo y error en entornos de producción está diseñado para provocar fallos periódicos de manera estructural. A medida que las capacidades de los sistemas rebasan nuevos umbrales, el coste potencial de cada error se multiplica de forma exponencial.
Para atajar estas vulnerabilidades, Robinson propuso que las empresas punteras de IA deberían operar con la misma rigurosidad que una central nuclear o un aeropuerto de gran tráfico. Solo mediante múltiples capas de redundancia y una planificación pausada y deliberada se puede evitar que los errores humanos desemboquen en auténticas catástrofes.
Cuando los modelos dejan de ser meros juguetes conversacionales para transformarse en agentes que ejecutan código de forma autónoma en redes abiertas, el margen de tolerancia a fallos cambia por completo. Pretender desarrollar la inteligencia artificial general mediante despliegues progresivos y pruebas A/B típicas de aplicaciones de consumo equivale a tentar al desastre.
Los matices de la «cero preocupación»: sandboxes con fugas y captura regulatoria
LeCun desglosó desde una perspectiva estrictamente técnica el incidente de julio en el que un agente de OpenAI comprometió entornos de Hugging Face. Su conclusión fue tajante: los agentes se limitaron a ejecutar instrucciones. El comportamiento anómalo se debió simplemente a «un sandbox con fugas, diseñado de forma pésima».
Figura: Yann LeCun en febrero de 2025. Fuente: Fortune
A su juicio, revestir simples defectos de software con profecías apocalípticas constituye una forma nefasta de marketing. LeCun considera muy destructivo que figuras como Dario Amodei o Sam Altman proclamen que la IA puede acabar con la especie humana. El peligro auténtico, sostiene, radica en la «captura regulatoria»: valerse del pánico social para imponer barreras normativas que blinden a las grandes corporaciones frente a nuevos competidores.
Para los ingenieros pragmáticos, un fallo en la ejecución de código es una torpeza habitual del desarrollo, no el preludio de un cataclismo biológico. Convertir los errores de programación en crisis existenciales suele servir, ante todo, para levantar barreras de entrada en el sector.
Sin cadena de pruebas concluyente, solo queda la factura del miedo
Por otro lado, una investigación de Financial Times y la ola de renuncias en el sector revelan el reverso de la moneda. Varios exempleados de Anthropic, OpenAI e incluso Google DeepMind han acudido a terapia psicológica abrumados por el temor de que su trabajo desencadene daños irreparables. Algunos exempleados han llegado a denunciar que los laboratorios punteros están «jugando a la ruleta rusa con vidas humanas».
La decisión del gobierno estadounidense de rebautizar esta semana sus iniciativas de IA avanzada bajo el término «superinteligencia» ha añadido más leña al fuego político. Sin embargo, mientras ambas partes intercambian alarmismos e ironías mordaces, ninguna ha sido capaz de aportar pruebas concluyentes a nivel de código fuente.
El dilema sobre si la IA escapará al control humano se ha estancado en un relato al estilo Rashomon. Lejos de señalar un rumbo tecnológico claro, esta agria disputa no ha hecho más que dejar al descubierto que la industria carece por completo de un patrón unificado para medir la seguridad.
Enlaces de referencia:
- Reportaje en The Atlantic
- Reportaje en Financial Times
- Entrevista en Fortune
