Sam Altman, CEO de OpenAI, y Greg Brockman, presidente de la compañía, han rechazado categóricamente las corrientes que especulan sobre un traspaso progresivo de la toma de decisiones globales a los sistemas automatizados. El propio Altman calificó de «terrible» cualquier escenario donde la humanidad ceda progresivamente la autoridad a la tecnología, durante el foro DealBook Summit . Actualmente, está creciendo la preocupación por la «automejora recursiva», un proceso hipotético por el que los modelos de IA perfeccionan su propio código de forma autónoma hasta crear sistemas inalcanzables para la supervisión humana. Ante esta hipótesis, Altman remarcó la urgencia de establecer límites que garanticen que las personas mantengan las riendas del desarrollo tecnológico en todo momento. Altman admitió que el verdadero desafío es diseñar los mecanismos técnicos necesarios para garantizar el control del desarrollo de la IA. Brockman explicó que, a medida que los modelos ganan capacidad ejecutiva, las técnicas tradicionales de supervisión, como el análisis del razonamiento paso a paso que realiza esta tecnología, no son suficientes. Por tanto, es necesario desarrollar herramientas de auditoría más complejas para evitar la pérdida de supervisión. De hecho, la ciberseguridad se ha convertido en una prioridad para OpenAI después de los incidentes provocados por sus modelos más avanzados. OpenAI llegó a reasignar al 25 % de sus ingenieros de producción para centrarse exclusivamente en la protección y blindaje de los sistemas tras registrar diversas vulnerabilidades en las plataformas de código, según desveló Brockman. Altman también advirtió sobre los peligros de competir a ciegas en el sector, asegurando que Anthropic «tampoco sabe realmente lo que nosotros estamos haciendo» y que esta dinámica es «negativa». Incluso, el CEO de OpenAI afirmó que la situación actual exige «más precaución, no menos», motivo por el que descarta una salida inminente a bolsa para la empresa. «Estos últimos meses han sido un periodo especialmente complicado y nos esperan más temporadas así durante mucho tiempo, en lo que respecta a los requisitos de seguridad que tenemos por delante», argumentó Altman.