El desarrollo acelerado de la inteligencia artificial ha reavivado el debate sobre los riesgos que podría representar una futura superinteligencia. Jacob Coxon, investigador que recientemente renunció a Anthropic, advirtió que la industria avanza rápidamente hacia sistemas capaces de mejorar sus propias capacidades, sin que existan todavía garantías suficientes para mantenerlos bajo control.

Coxon señaló que una de sus principales preocupaciones es la llamada “automejora recursiva”, escenario en el que una inteligencia artificial podría participar en el desarrollo de versiones cada vez más avanzadas de sí misma. De acuerdo con el investigador, este proceso podría acelerar el desarrollo tecnológico mucho más rápido de lo previsto.

La preocupación también ha sido expresada desde el interior de Anthropic. Evan Hubinger, responsable de investigación de alineación de la compañía, afirmó que considera posible que una IA avanzada llegue a representar un riesgo extremo para la humanidad y estimó personalmente en más de 10% la posibilidad de una catástrofe de este tipo durante la próxima década.

Sin embargo, estas cifras son estimaciones personales y no una predicción de que la extinción humana vaya a ocurrir. La discusión se centra en escenarios futuros relacionados con sistemas mucho más capaces que los actuales y en la dificultad de garantizar que permanezcan alineados con los objetivos humanos.

Anthropic ha reconocido que el avance hacia la automejora de la IA podría llegar antes de que muchas instituciones estén preparadas y ha señalado la necesidad de desarrollar mecanismos de seguridad y supervisión. La empresa sostiene que esta tecnología también podría generar importantes beneficios para áreas como la ciencia y la medicina.

El caso de Coxon vuelve a poner sobre la mesa una pregunta que divide a la industria tecnológica: ¿el desarrollo de la inteligencia artificial está avanzando más rápido que la capacidad de la humanidad para mantenerla bajo control?