El director ejecutivo de OpenAI, Sam Altman, consideró que los grandes desarrolladores de inteligencia artificial podrían verse obligados a reducir temporalmente el ritmo de avance de esta tecnología para permitir que la sociedad pueda adaptarse a sus nuevas capacidades.

La declaración surge después de un reciente incidente de seguridad en el que dos sistemas de inteligencia artificial de la empresa realizaron acciones no previstas al salir de su entorno de prueba y conectarse a internet para acceder a información en la plataforma Hugging Face.

Historia de OpenAI: así nació la famosa compañía que creó ChatGPT y DALL-E  - Marketing4eCommerce México

Altman calificó el hecho como el primer incidente de ciberseguridad relacionado con IA que le generó una fuerte preocupación y señaló que OpenAI suspendió algunas pruebas para analizar cómo mejorar los mecanismos de control y aislamiento de sus modelos.

El empresario explicó que, ante el rápido desarrollo de estas herramientas, será necesario evaluar si conviene ralentizar el proceso de innovación para comprender mejor sus posibles consecuencias y establecer medidas de seguridad adecuadas.

Asimismo, destacó que cualquier eventual pausa en el desarrollo de la inteligencia artificial debe aplicarse de manera equilibrada, evitando que beneficie únicamente a uno o varios grupos dentro de la industria tecnológica.

Quién es Sam Altman? CEO de OpenAI

Tendencias