Cuando a finales de la década de 1860, Julio Verne hablaba de un submarino eléctrico que cruzaba los mares o de un viaje de la Tierra a la Luna, posiblemente la mayor parte de la ciudadanía creyó que se trataba de la fantasía portentosa de un genio de la literatura. No podían estar más equivocados: ambas ideas se revelaron visiones proféticas y constituyen realidades con las que convive la población mundial actualmente. Un siglo después de la publicación de las obras del autor francés, Harlan Ellison creó ‘No tengo boca y debo gritar’, un cuento postapocalíptico en el que las máquinas exterminan a la especie humana . La historia del escritor estadounidense narra un levantamiento de la inteligencia artificial en el que una supercomputadora militar llamada AM adquiere conciencia y extermina a toda la humanidad salvo a cinco personas, mantenidas con vida para torturalas de manera interminable como forma de venganza contra sus creadores. Para muestra, un botón. La literatura de ciencia ficción cuenta con infinidad de obras sobre la rebelión de las máquinas que probablemente, a mediados del siglo XX, sonaban igual de improbables que las inventos de Verne. Ahora los expertos en IA han comenzado a alertar de que tal vez no se trate de una posibilidad tan remota . Líderes de investigación de OpenAI , Anthropic, Meta y Microsoft han pedido, junto a especialistas del mundo académico, a los responsables políticos que investiguen hasta qué punto sus empresas han automatizado la investigación en inteligencia artificial, con lo que se suman a los llamamientos de todo el sector para una mayor supervisión de esta. Lo han hecho en un artículo científico publicado este lunes por la Universidad de Cambridge en el que alertan de una «explosión de inteligencia» que puede conllevar consecuencias catastróficas para la humanidad. De acuerdo con estos expertos, que incluyen a Jakub Pachocki (OpenAI), Jack Clark (Anthropic), Eric Horvitz (Microsoft) y Dawn Song (Meta), este desarrollo podría «comprimir años de progreso de la IA en meses o menos» . Afirman que, aunque actualmente solo unos pocos miles de investigadores humanos se dedican a la I+D de inteligencia de frontera -el nivel más avanzado-, la automatización de este trabajo podría añadir el equivalente a millones de investigadores más. «Una explosión de inteligencia podría adelantar de forma dramática los beneficios de la IA, pero también plantea riesgos extremos. Podríamos obtener rápidamente sistemas superinteligentes que transformen muchos sectores de la sociedad, al aportar avances sin precedentes en la ciencia y la industria. Al mismo tiempo, es posible que estos acontecimientos lleguen a una velocidad que excede ampliamente la capacidad de adaptación de la sociedad a los riesgos intrínsecos, tales como « pandemias facilitadas por IA, ciberataques a infraestructuras críticas y disrupción laboral a gran escala», señalan. Alertan, además, de que la población podría tener poca o ninguna supervisión sobre la I+D automatizada de la IA, lo que «aumenta el riesgo de que los sistemas escapen de forma irreversible al control humano y actúen para marginar a la humanidad». Asimismo, advierten de que una explosión de inteligencia tendría la capacidad de transformar «ventajas modestas» en capacidades de IA en «decisivas» y de que la perspectiva de disponder de estas últimas podría «provocar un conflicto internacional». En la misma línea, hablan de una posible «erosión» de «los sistemas de pesos y contrapesos dentro y entre los estados, las empresas y las ramas del Gobierno». Para tratar de evitar esta hipotética debacle, los expertos plantean visibilizar la automatización de la I+D de IA mediante la supervisión de las empresas del sector a través de auditores. Asimismo, sugieren que las compañías tengan la obligación de informar sobre indicadores clave, como el alcance de estos procesos, el ritmo del progreso y los criterios para la asignación del gasto, entre otros. En el mismo sentido, proponen desarrollar formas de dirigir y restringir una explosión de inteligencia , como establecer requisitos de seguridad concretos para el desarrollo y el despliegue continuos, fijar un límite de velocidad al crecimiento de las capacidades, supervisar los experimentos de I+D de IA de alto riesgo y crear la opción de cerrarlos si fuera necesario. Hablan igualmente de que los experimentos se lleven a cabo en entornos seguros y aislados y de que exista un intercambio internacional de incidentes. Además, instan a preparar a la sociedad para los impactos de una explosión de inteligencia, de manera que la IA cumpla con la ley y que los ciudadanos, la sociedad civil y los Gobiernos dispongan de las herramientas para detectar, documentar y refutar los usos ilegales o dañinos de esta tecnología. Asimismo, urgen a elaborar planes de respuesta de emergencia para incidentes graves de ciberseguridad o bioseguridad impulsados por la IA. En las últimas semanas se han multiplicado los llamamientos del sector a frenar el desarrollo de la inteligencia artificial, aunque hay quien se empeña en relativizar las amenazas de esta tecnología. Hace apenas unos días, el presidente de Estados Unidos, Donald Trump , expresó su firme rechazo a la regulación interna al sostener que las advertencias apocalípticas son infundadas o exageradas. El tiempo dirá quién está en lo cierto .
