Claude, el modelo de inteligencia artificial de Anthropic, ya capitanea el 26 % del trabajo de investigación y desarrollo de la empresa, como informó en su blog . La compañía de Dario Amodei es un ejemplo de cómo los sistemas informáticos participan directamente en el diseño y perfeccionamiento de sus propias sucesoras. Desde agosto, «Claude no opera de forma totalmente autónoma» en ninguna tarea, pero «colabora» estrechamente con los ingenieros humanos en más del 90 % de los proyectos de investigación, según cifras ofrecidas por Anthropic. Claude ha alcanzado un nivel de capacidad que le permite completar procesos complejos durante todo su recorrido a partir de una instrucción general, pero siempre se mantiene la supervisión de un humano especializado en la materia. «En agosto, había aproximadamente 30.000 agentes realizando tareas de investigación e ingeniería en Anthropic en un momento dado en nuestra plataforma interna más utilizada», enumeró la empresa. «Los sistemas de IA están adquiriendo una potencia cada vez mayor de forma exponencial y han comenzado a automatizar cada vez más el proceso de su propio desarrollo», destacó la compañía. La progresión es inmensa, ya que en marzo la contribución del modelo en este nivel de liderazgo era de apenas un 1 %. En cuanto al debate sobre la seguridad y la velocidad del desarrollo de la IA, Dario Amodei, CEO de Anthropic, fue claro durante su intervención en Dreamforce : «La forma más responsable de responder a esto es decir: ‘En primer lugar, echemos un vistazo a nuestro propio historial’. Puede que no hayamos tenido ningún incidente grave de gran repercusión, pero estoy seguro de que no somos perfectos. Analicemos todo y veamos cómo podemos mejorar siempre. Mejoremos nuestras prácticas. Reafirmemos nuestro compromiso con la transparencia. Invirtamos más en seguridad». «Después, organicemos al resto del sector y preguntémonos: ‘¿Qué podemos hacer para establecer normas para todos? ¿Qué podemos hacer para mejorar las normas de todos?’», continuó el CEO, «por último, debería haber un componente internacional». «Debemos hacer todo lo posible para minimizar la brecha entre lo que saben los laboratorios de frontera y lo que sabe el público», enfatizó la empresa sobre la importancia de la apertura pública.
