Dario Amodei, consejero delegado de Anthropic, ha lanzado una de las advertencias más contundentes hasta la fecha sobre los riesgos asociados al desarrollo acelerado de la inteligencia artificial. En un nuevo documento público, el directivo sostiene que la tecnología está avanzando mucho más rápido que la capacidad de gobiernos y reguladores para supervisarla, por lo que reclama medidas de control más estrictas y urgentes.
Amodei considera que los actuales compromisos voluntarios de las empresas tecnológicas son insuficientes para afrontar los desafíos que plantearán los modelos más avanzados. En su opinión, los gobiernos deberían establecer mecanismos obligatorios de evaluación y auditoría antes de permitir el despliegue de sistemas de IA con capacidades especialmente elevadas.
Entre los riesgos identificados destacan la posibilidad de que la inteligencia artificial facilite ciberataques sofisticados, contribuya al desarrollo de armas biológicas o alcance niveles de autonomía difíciles de controlar. El fundador de Anthropic argumenta que algunas de estas amenazas ya no pertenecen al terreno de la ciencia ficción y podrían materializarse durante los próximos años si no se establecen salvaguardas adecuadas.
Uno de los puntos más llamativos de su planteamiento es que las autoridades deberían tener capacidad para impedir la puesta en marcha de determinados modelos si los análisis de seguridad detectan riesgos considerados inaceptables. Para Amodei, la regulación de la IA debería acercarse a la existente en industrias críticas como la aviación, la energía nuclear o el sector farmacéutico.
La preocupación se produce en un momento de intensa competencia entre las principales compañías tecnológicas para desarrollar modelos cada vez más potentes. Según su visión, el sector podría acercarse en pocos años a sistemas con capacidades intelectuales comparables o superiores a las de grandes equipos de expertos humanos, lo que aumentaría significativamente los desafíos de supervisión y gobernanza.
Business Insider (11/06/2026)
Más informacióna aquí
