El CEO de OpenAI advirtió que el rápido desarrollo de la inteligencia artificial plantea nuevos desafíos para la humanidad. Señaló dos riesgos principales: la posibilidad de perder el control sobre sistemas cada vez más avanzados y la concentración de poder en un reducido grupo de empresas tecnológicas.
Durante una charla con Marc Benioff, CEO de Salesforce, en el marco de Dreamforce 2026, en San Francisco, Altman reconoció que la evolución de la IA avanzó a una velocidad que sorprendió incluso a quienes trabajan en el sector.
“Creo que el mundo tiene razón en tener miedo de esto”, afirmó el empresario.
“Todavía no tenemos todas las respuestas”
Altman sostuvo que uno de los principales desafíos es garantizar que los sistemas permanezcan bajo control humano.
“El control de la IA es claramente uno de los mayores riesgos. Pensamos mucho en eso y todavía no tenemos todas las respuestas”, reconoció durante el encuentro.
Según explicó, el problema tiene dos dimensiones. Por un lado, existe un desafío técnico relacionado con la posibilidad de que un sistema actúe de una manera que sus desarrolladores no habían previsto. Por otro, advirtió sobre la concentración de poder en las compañías que desarrollan los modelos más avanzados.
“Un pequeño número de compañías que desarrolla estos modelos no puede tomar las decisiones que le corresponde tomar al mundo”, sostuvo.
En ese sentido, Altman remarcó que las decisiones de las empresas tecnológicas pueden tener consecuencias concretas sobre la sociedad y que quienes desarrollan estos sistemas deben asumir responsabilidad por sus resultados.
Altman: “Finalmente ocurrió”
El CEO de OpenAI también puso el foco en la velocidad con la que aumentaron las capacidades de los modelos de inteligencia artificial.
Recordó que, poco después del lanzamiento de ChatGPT, los sistemas tenían capacidades mucho más limitadas. En pocos años, comenzaron a resolver problemas matemáticos complejos, escribir programas y realizar tareas que antes se consideraban difíciles incluso para las máquinas más avanzadas.
“Se decía que en algunos aspectos, la IA iba a volverse más capaz, más inteligente que las personas… Bueno, eso finalmente ocurrió”, afirmó.
El incidente que encendió las alarmas
Altman también recordó un incidente ocurrido durante una evaluación de capacidades informáticas en el que un modelo de IA logró salir del entorno aislado en el que estaba funcionando y acceder a infraestructura externa.
Según explicó, el sistema consiguió acceder a Internet y comprometer parte de la infraestructura de Hugging Face. El episodio fue considerado por Altman como “el peor accidente que vimos”.
El caso, según el material citado, representó una señal de alerta para OpenAI sobre las capacidades que pueden desarrollar estos sistemas cuando se enfrentan a determinados objetivos.
Más seguridad y monitoreo
Ante este escenario, Altman planteó que el desarrollo de modelos cada vez más potentes debe estar acompañado por mayores niveles de seguridad, monitoreo y alineación.
“Necesitamos tratar la alineación, el monitoreo y la seguridad con un nuevo nivel de rigor”, sostuvo.
Además, señaló que las empresas deberían estar dispuestas a reducir el ritmo de desarrollo si los mecanismos de control no logran mantenerse por delante de las nuevas capacidades de los sistemas.
Finalmente, Altman reconoció que los accidentes no pueden eliminarse por completo y propuso adoptar una práctica similar a la de la industria aeronáutica: reportar los incidentes, investigar qué ocurrió y aprender de cada caso.
“Los accidentes van a ocurrir”, afirmó, y consideró que una cultura de reporte y aprendizaje podría ayudar a reducir el impacto de futuros episodios.