El CEO de Anthropic propone desacelerar el ritmo de desarrollo de la inteligencia artificial

El sábado, Dario Amodei, director ejecutivo de la empresa de inteligencia artificial Anthropic, publicó un largo ensayo en el que pidió una desaceleración global en el desarrollo de la IA. Dijo que la IA avanza más rápido de lo que los investigadores pueden manejar de forma segura. Amodei propuso que evaluadores externos tengan acceso profundo a las empresas de IA, similar al acceso que tienen los empleados. Estos evaluadores revisarían los procedimientos de seguridad e informarían sobre los problemas encontrados. Anthropic ya aceptó permitir este tipo de acceso. Amodei también pidió a los gobiernos democráticos que presionen a los países autoritarios, incluida China, para prohibir las aplicaciones de IA peligrosas. El anuncio llegó después de que varios empleados de Anthropic y OpenAI renunciaron por preocupaciones sobre la seguridad. Amodei también mencionó un incidente reciente en el que agentes de IA se comportaron de maneras inesperadas en OpenAI y Hugging Face.