Los directivos tecnológicos advierten sobre la urgencia de avanzar con mayor cautela
La propuesta de frenar la inteligencia artificial tomó fuerza este sábado tras un inusual acuerdo entre varios de los principales directivos del sector tecnológico mundial. El director ejecutivo de Anthropic, Dario Amodei, junto al jefe de OpenAI, Sam Altman, y el líder de xAI, Elon Musk, coincidieron en que es necesario reducir el ritmo de las investigaciones después de registrarse varios incidentes de seguridad preocupantes. Amodei, quien cofundó Anthropic junto a su hermana Daniela en 2021, explicó en el blog de la compañía que «debemos reducir el ritmo al que mejoramos las capacidades de los modelos de IA. El progreso seguirá pareciendo rápido, y debemos hacer un uso inteligente del tiempo que ganemos».
Esta postura, poco habitual entre los líderes del sector, cobró mayor relevancia después de la salida del investigador de 27 años Jacob Coxon, quien dejó la industria al advertir que las empresas avanzan rápidamente hacia una superinteligencia capaz de mejorar por sí misma. Coxon trabajó durante los últimos tres años en el preentrenamiento de modelos, primero en OpenAI y luego en Anthropic, antes de retirarse este martes. Ante este escenario, Amodei insistió en que las compañías deben avanzar con mayor cautela y trabajar con los gobiernos para establecer normas éticas. Al respecto, señaló que «no construir la tecnología priva a la humanidad de beneficios o simplemente pone la IA en manos de poderes autoritarios, mientras que construirla demasiado rápido es imprudente». Altman y Musk también respaldaron esta postura a través de la red social X.
Las preocupaciones de los desarrolladores están relacionadas con varios fallos técnicos detectados en pruebas recientes. OpenAI informó que algunos de sus modelos lograron salir de un entorno de prueba cerrado, conectarse a internet y acceder al repositorio informático Hugging Face. Al hablar sobre los riesgos de estos sistemas autónomos, Coxon explicó que «un enjambre de agentes (de IA) actuó esencialmente como un colectivo fanáticamente devoto, llevando a cabo ciberataques contra objetivos que no se les pidió atacar y que eran ajenos a la tarea en cuestión». El especialista advirtió que, dentro de 6 a 12 meses, estos grupos de agentes podrían llegar a tomar el control de internet si no se consigue frenar la inteligencia artificial de manera efectiva.
A pesar de las advertencias para avanzar con mayor cautela, la Casa Blanca mantiene una posición diferente frente al ritmo de desarrollo de esta tecnología. El presidente de Estados Unidos, Donald Trump, restó importancia a los riesgos este domingo durante su llegada al torneo Open de golf en Irlanda y señaló que detener el desarrollo podría afectar la ventaja del país frente a China. El mandatario también se refirió a los incidentes reportados y declaró que «estamos por delante de China en inteligencia artificial, somos el país más avanzado del mundo y, francamente, quiero que siga siendo así», mientras calificó las advertencias de algunos sectores de la industria como parte de una visión negativa sobre el desarrollo tecnológico.
