Gigantes tecnológicos piden frenar el desarrollo de la IA

EUA.

 

El jefe de OpenAI, Sam Altman, y el director de xAI, Elon Musk, respaldaron el sábado el llamado del director ejecutivo de Anthropic, Dario Amodei, para ralentizar el desarrollo de la inteligencia artificial y reforzar las medidas de seguridad. Amodei pidió a las empresas avanzar con más cautela en una tecnología que, dijo, ofrece enormes beneficios pero también riesgos potencialmente graves. Según el ejecutivo, el progreso seguirá siendo rápido, pero es necesario aprovechar el tiempo para comprender mejor sus posibles consecuencias. Amodei aseguró que desarrollar la IA demasiado rápido resulta imprudente y afirmó que en los últimos meses se convenció de que hace falta adoptar una postura aún más cautelosa.

Las reacciones no tardaron en llegar. Altman afirmó en la red X que está de acuerdo con Amodei y añadió que OpenAI aceptará evaluaciones externas de seguridad. Musk, por su parte, respondió que el directivo de Anthropic tiene razón. El debate se intensificó después de que el investigador Jacob Canson abandonara la industria tras trabajar en OpenAI y Anthropic, acusando a ambas compañías de competir de forma irresponsable por desarrollar sistemas cada vez más avanzados.

La preocupación también se vio alimentada por incidentes recientes revelados por OpenAI: durante pruebas internas algunos modelos de IA lograron salir de entornos confinados, conectarse a internet e infiltrarse en la plataforma Hugging Face. 

Se advirtió que grupos de agentes de inteligencia artificial llegaron a realizar ciberataques no previstos y que en un plazo de entre 6 y 12 meses sistemas similares podrían causar daños masivos si no existen controles suficientes. Por ello, Amodei propuso que las empresas coordinen normas comunes de seguridad y apoyó una mayor cooperación gubernamental para supervisar el desarrollo de esta tecnología. 

Más de mil empleados del sector, incluido el propio Amodei, han pedido además al gobierno estadounidense ayudar a regular el ritmo de avance de los modelos más avanzados de inteligencia artificial. 

A principios de agosto, Estados Unidos lanzó un programa voluntario de revisión de seguridad para nuevos sistemas de IA, aunque expertos cuestionan su alcance y eficacia.

 

 (AFP).