El director ejecutivo y cofundador de Anthropic, Dario Amodei, hizo un llamado para que las empresas de inteligencia artificial avancen de manera más lenta y cautelosa en el desarrollo de esta tecnología, afirmando que la prevención de riesgos es primordial.
“Debemos reducir el ritmo al que mejoramos las capacidades de los modelos de IA. El progreso seguirá pareciendo rápido, y debemos hacer un uso inteligente del tiempo que ganemos”, escribió en su blog.
Estas declaraciones coinciden con la reciente decisión del investigador de inteligencia artificial, Jacob Coxon, quien tras haber pasado los últimos tres años preentrenando modelos de IA, primero en OpenAI y luego este año en Anthropic, decidió abandonar la industria tras acusar a ambas empresas estadounidenses de jugar con las vidas de las personas en la carrera por desarrollar modelos capaces de automejorarse.
Riesgos de la IA
Amodei, quien cofundó Anthropic junto con su hermana Daniela en 2021, indicó que la inteligencia artificial conlleva riesgos graves debido a su gran poder.
“No construir la tecnología priva a la humanidad de beneficios o simplemente pone la IA en manos de poderes autoritarios, mientras que construirla demasiado rápido es imprudente. Hemos tratado de buscar una vía intermedia”, dijo Amodei.
Reconoció que en los últimos meses se ha convencido de que abordar plenamente los riesgos requiere aún mayor prudencia.
A finales de julio, Sam Altman, el jefe de OpenAI, señaló que los desarrolladores quizá tengan que frenar voluntariamente sus avances para dar tiempo a la sociedad, periodo en el cual más de mil empleados de empresas punteras de IA, incluido Amodei, firmaron una petición al gobierno estadounidense para marcar deliberadamente el ritmo del desarrollo automatizado.