Satya Nadella ha fijado un límite claro para el desarrollo de la inteligencia artificial avanzada, sosteniendo que «cualquier iniciativa encaminada a la superinteligencia debe basarse en el principio fundamental de que, si la IA que creamos no ayuda a la humanidad y no está bajo control humano, no merece la pena llevarla a cabo», como dijo en su perfil de X . El CEO de Microsoft llamó así a la seguridad y la distribución democrática del poder tecnológico. Dario Amodei, CEO de Anthropic ; Sam Altman, CEO de OpenAI , y Elon Musk, CEO de SpaceXAI, también expresaron públicamente su deseo de ralentizar el desarrollo de la IA durante este fin de semana, alegando la pérdida de control de la misma. Nadella defendió que la gobernanza de la superinteligencia no debería estar únicamente en las manos de unos pocos actores corporativos y abogó por incorporar a gobiernos, universidades y a la comunidad científica al sector para garantizar un proceso de decisión representativo e inclusivo. Asimismo, el director ejecutivo de la multinacional respaldó soluciones técnicas como contar con «evaluadores integrados», unas herramientas que pueden verificar de forma continua que los principios de seguridad estén realmente cumpliéndose. «También debemos acelerar y difundir los beneficios de la IA, de modo que se extiendan ampliamente por todos los países, comunidades y empresas», añadió Nadella, «esto requiere un ecosistema de vanguardia en el que puedan prosperar tanto los modelos cerrados como los de código abierto». El directivo también propuso proteger la autonomía operativa del tejido empresarial frente a los grandes proveedores de tecnología. Nadella advirtió contra el peligro de que las organizaciones desarrollen una dependencia permanente respecto a una única plataforma de IA. «Toda organización debería poder crear su propio ciclo de aprendizaje continuo o ‘máquina de escalada’, sin depender de ningún proveedor de modelos en concreto, y tener la capacidad de integrar su propio conocimiento en los modelos y los pesos que controla», afirmó. Además, añadió que «la clave es que esto no puede estar controlado por un puñado de entidades, sino que debe contar con una amplia representación en todo el ecosistema, los países y los ámbitos, incluido el mundo académico». Como complemento a esta visión, Nadella confirmó que la empresa estadounidense presentará un Código de Conducta que fundamenta los modelos Microsoft AI, con lo que pretende ofrecer libertad de elección y control efectivo a las organizaciones.
