Nueva York.— Los directivos de algunas de las principales empresas de inteligencia artificial encendieron las alertas ante el acelerado desarrollo de esta tecnología. Dario Amodei, director ejecutivo y cofundador de Anthropic, llamó a reducir el ritmo de avance de los modelos de IA y priorizar la seguridad para evitar que estos sistemas lleguen a superar la capacidad humana de comprenderlos y controlarlos.
La propuesta fue respaldada por Sam Altman, director de OpenAI, y Elon Musk, de xAI, quienes coincidieron en que las compañías deben actuar con mayor cautela ante los riesgos que plantea el desarrollo acelerado de la inteligencia artificial.
Amodei explicó que no plantea detener el entrenamiento de los modelos ni frenar por completo el progreso tecnológico, sino permitir que las empresas tengan el tiempo suficiente para evaluar, ajustar y proteger sus sistemas, además de someterlos a revisiones independientes.
Entre los principales riesgos, el directivo mencionó la llamada “automejora recursiva”, mediante la cual una IA podría contribuir a mejorar sus propias capacidades. Advirtió que, si este proceso avanza sin controles adecuados, los sistemas podrían evolucionar a un ritmo que dificulte su supervisión humana.
También señaló incidentes relacionados con el uso de modelos de IA para ciberataques, además de advertir sobre posibles aplicaciones en el desarrollo de armas, bioterrorismo, fraude y otras actividades ilícitas.
Amodei incluso alertó sobre la posibilidad de que una inteligencia artificial llegue a tomar control de partes de internet en un periodo de seis a 12 meses, si el desarrollo continúa de manera imprudente.
Ante este escenario, el CEO de Anthropic propuso que las empresas colaboren para establecer estándares voluntarios de seguridad y pidió que la prudencia tenga prioridad sobre la velocidad y el beneficio económico.
