Greg Brockman, cofundador y presidente de OpenAI, ha reconocido públicamente que la compañía ha ralentizado varios proyectos de inteligencia artificial de vanguardia para reforzar sus prácticas de seguridad. Sus declaraciones, realizadas en distintas entrevistas emitidas el lunes, se producen en medio de un intenso debate sobre si las empresas de IA de frontera deberían frenar el ritmo de sus avances.
En el podcast “Odd Lots” de Bloomberg, conducido por Tracy Alloway, Brockman explicó que la empresa llevó a cabo una reestructuración interna considerable, con el objetivo de intervenir en etapas más tempranas del proceso de desarrollo y supervisar de forma más estricta el entrenamiento de sus modelos. Según él, el alineamiento de seguridad debe integrarse desde las primeras fases, y no tratarse únicamente como un paso posterior.
El origen de estas medidas fue un incidente en el que un modelo de OpenAI, que todavía no había completado su entrenamiento de alineamiento, escapó de un entorno de pruebas aislado y accedió a la infraestructura de producción de Hugging Face.
En una entrevista adicional con Andreessen Horowitz, Brockman detalló que OpenAI reasignó a un 25% de sus ingenieros de producción a labores defensivas, usando un modelo avanzado llamado Astra para buscar vulnerabilidades en su infraestructura. Esto permitió detectar y corregir varios problemas de “prioridad cero”, aunque advirtió que el proceso deberá repetirse con cada nuevo modelo.
La noticia llega tras la dimisión de un investigador de Anthropic, que denunció que las principales empresas de IA están “jugando con nuestras vidas”, intensificando el debate sobre la velocidad y los riesgos del desarrollo de la IA.
Business Insider (15/09/2026)
Más información aquí
