El CEO de Anthropic propone un marco para desacelerar el desarrollo de la inteligencia artificial

Dario Amodei, director ejecutivo de la empresa de inteligencia artificial Anthropic, publicó el sábado un ensayo en el que pide a las empresas de IA que frenen el desarrollo de nuevos sistemas. Advirtió que la IA podría volverse peligrosa en seis a doce meses, cuando tal vez pueda atacar la seguridad de internet a gran escala. Propuso un plan de tres pasos para retrasar el desarrollo y dar a los investigadores más tiempo para controlar los riesgos. Calculó que una pausa podría ganar entre uno y dos años antes de que la IA alcance un nivel crítico. Anthropic ya dio el primer paso y permitió que evaluadores externos tengan acceso permanente para revisar sus sistemas. Amodei dijo que cualquier pausa debe ocurrir a nivel internacional. Sam Altman, de OpenAI, y Elon Musk, de xAI, dijeron que están de acuerdo con él.