¿Qué pasa cuando una inteligencia artificial se vuelve demasiado poderosa? Esa es precisamente la pregunta que está enfrentando OpenAI, luego de poner en pausa parte del desarrollo interno de Astra, su próximo modelo de inteligencia artificial.
Durante las pruebas, Astra mostró avances importantes en programación autónoma y ciberseguridad. De acuerdo con evaluaciones internas de OpenAI, sus capacidades podrían acercarse al nivel que la compañía considera de “riesgo crítico” en materia de seguridad informática.
La preocupación está relacionada con la posibilidad de que una IA suficientemente avanzada pueda detectar vulnerabilidades desconocidas, conocidas como “zero-day”, y desarrollar métodos para explotarlas, incluso contra sistemas con defensas sofisticadas.
Por ello, OpenAI decidió detener temporalmente algunas actividades relacionadas con Astra y reforzar sus mecanismos de seguridad y supervisión antes de continuar con su desarrollo. La compañía también ha establecido controles adicionales para sus modelos con mayores capacidades autónomas.
Lo interesante de este caso es que el desafío de la inteligencia artificial está cambiando. Ya no se trata únicamente de crear modelos capaces de escribir, programar, generar imágenes o responder preguntas. Ahora el reto es controlar sistemas que pueden tomar decisiones, utilizar herramientas y ejecutar tareas con cada vez menos intervención humana.
La pausa de Astra representa así una señal importante para la industria: la carrera por desarrollar una IA cada vez más poderosa también está convirtiéndose en una carrera por hacerla segura.
Y quizá la gran pregunta para el futuro de la tecnología sea precisamente esta: ¿hasta dónde debemos dejar avanzar a una inteligencia artificial antes de asegurarnos de que podemos controlarla?
