El CEO de Anthropic solicita que la carrera de la IA se desacelere citando la seguridad. Musk y Altman de OpenAI están de acuerdo

Los ejecutivos que compiten por construir los sistemas de inteligencia artificial (IA) más poderosos del mundo están comenzando a coincidir en algo que hace pocos años habría sonado extraordinario: la carrera necesita desacelerarse.

Dario Amodei, CEO del desarrollador de Claude, Anthropic, pidió el sábado a las empresas que regulen deliberadamente el ritmo de los avances en la inteligencia artificial de frontera, argumentando que las capacidades de los modelos están mejorando más rápido que la capacidad de los investigadores para comprenderlos y controlarlos.

En un ensayo titulado “Debemos marcar el ritmo en la frontera”, Amodei afirmó que los avances desde este verano le habían convencido de que el trabajo en la seguridad de la IA ya no estaba siguiendo el ritmo de las capacidades que mejoran rápidamente.

“Debemos desacelerar el ritmo al que mejoramos las capacidades de los modelos de IA,” escribió Amodei.

Sin embargo, no pidió una suspensión total, sino que abogó por desacelerar el ritmo del desarrollo. “No desarrollar la tecnología priva a la humanidad de beneficios o simplemente coloca la IA en manos de poderes autoritarios, mientras que desarrollarla demasiado rápido es imprudente.”

Dos otros destacados líderes de gigantes rivales en inteligencia artificial y tecnología apoyaron rápidamente la idea.

Director Ejecutivo de OpenAI, Sam Altman, dijo, “Estoy de acuerdo con Darío en que necesitamos marcar el ritmo de la frontera,” para dar tiempo a la sociedad a adaptarse a sistemas cada vez más poderosos. Elon Musk, cuya empresa xAI ha desarrollado Grok, también respaldado públicamente La última propuesta de Amodei, respondiendo que “Dario tiene razón.”

Eso sitúa a tres de las figuras más destacadas y ferozmente competitivas de la industria de la IA detrás de versiones de la misma idea: la IA de frontera — los modelos de IA más capaces y vanguardistas — debería continuar avanzando, pero no necesariamente tan rápido como sea técnicamente posible.

Un disparo de advertencia

La advertencia de Amodei llega en un momento en que los investigadores dentro de las propias empresas se muestran cada vez más alarmados por un umbral potencialmente crítico: los sistemas de IA que comienzan a automatizar el trabajo necesario para desarrollar sistemas de IA más avanzados.

Jacob Coxon, un investigador que trabajó tanto en Anthropic como en OpenAI, renunció a Anthropic este mes y acusó a las empresas de “correr directamente hacia una superinteligencia que se auto-mejora y de apostar con nuestras vidas.” También afirmó que "las personas que están construyendo IA creen sinceramente que podría matarnos a todos para finales de la década.”

“Las medidas que propongo para avanzar en la frontera a un ritmo seguro no serán fáciles. Pero creo que se lo debemos a la humanidad intentarlo,” concluyó Amodei.