El presidente ejecutivo de Anthropic, Dario Amodei, instó a las empresas de IA a moderar el ritmo al que mejoran las capacidades de sus modelos, ante los crecientes temores sobre el uso indebido de la inteligencia artificial.

"Debemos ralentizar el ritmo al que mejoramos las capacidades de los modelos de IA. El progreso seguirá pareciendo rápido y debemos hacer un uso prudente del tiempo que ganemos", afirmó Amodei en un artículo publicado en X.

Su ensayo se produce después de que Anthropic publicó el jueves un informe de inteligencia sobre amenazas en el que se detallaba cómo varios actores habían utilizado sus modelos de IA "Claude" para actividades que iban desde el desarrollo de armas y operaciones cibernéticas hasta la vigilancia y el fraude.

Amodei aclaró que no estaba pidiendo que se detuviera el entrenamiento de los modelos ni el progreso técnico, sino que se garantizara que las empresas se tomaran el tiempo necesario para ajustar y proteger sus modelos, y que evaluadores independientes confirmaran estas medidas.

Numerosos incidentes en los que agentes de IA de desarrolladores como OpenAI —rival de Anthropic— vulneraron o intentaron acceder a sistemas externos agravaron la preocupación por la creciente capacidad de los modelos de IA y de los desarrolladores para controlarlos.