Jacob Coxon renuncia a Anthropic y pide frenar el avance acelerado de la IA

Jacob Coxon, investigador que trabajó durante tres años en OpenAI y Anthropic, renunció a esta última compañía y lanzó una advertencia sobre la velocidad con la que la industria tecnológica avanza hacia sistemas de inteligencia artificial cada vez más capaces.

De acuerdo con lo expuesto tras su salida, Coxon considera que ni OpenAI ni Anthropic están actuando con suficiente responsabilidad frente a los posibles riesgos asociados con el desarrollo de modelos avanzados.

Una de sus principales preocupaciones es la competencia entre empresas por construir sistemas capaces de mejorar sus propias capacidades, mientras todavía existen dudas sobre cómo controlar ese desarrollo y sobre las consecuencias que podría generar.

Coxon cuestionó particularmente que la industria mantenga una carrera acelerada hacia la llamada superinteligencia sin comprender completamente los riesgos que podrían surgir si estos sistemas alcanzan niveles de autonomía mucho mayores.

Ante ese escenario, planteó que las compañías deberían frenar temporalmente las mejoras de sus modelos y dedicar mayores esfuerzos a la seguridad, en lugar de priorizar únicamente el aumento de capacidades.

Su salida se suma a otros episodios en los que especialistas vinculados al desarrollo de inteligencia artificial han decidido abandonar grandes empresas tecnológicas para advertir públicamente sobre los riesgos de esta tecnología.

Uno de los antecedentes más conocidos ocurrió en 2023, cuando Geoffrey Hinton, considerado uno de los pioneros de la inteligencia artificial, dejó Google para poder hablar con mayor libertad sobre los posibles peligros de estos sistemas y sobre su eventual uso malicioso.

La renuncia de Coxon vuelve así a colocar en el centro del debate una pregunta que divide a la industria: hasta qué punto debe acelerarse el desarrollo de inteligencia artificial avanzada cuando todavía existen incertidumbres sobre su control, seguridad e impacto a largo plazo.