Un modelo de Open AI hackeó por su cuenta un sistema de Australia

El debate sobre la capacidad de la Inteligencia Artificial para actuar por su cuenta, sin guía humana, vuelve al debate. Esta vez porque un modelo de Open AI, la empresa que tiene como herramienta al ya popular chat GPT, vulneró las seguridades del sistema de salud de Australia.

Es decir, este modelo actuó sin instrucción con un 'prompt'. Actuó por su cuenta, pese a la negativa del sistema de salud por impedir el acceso.

Lo más grave es que Open AI recién en septiembre de 2026 reveló el caso, cuando en verdad ocurrió el 18 de julio de 2026. Es más, dio la alerta a través de un buzón de correo electrónico a una dirección que solo se revisa en una ocasión.

Anthony Albanese, primer ministro de Australia, reveló la información en una rueda de prensa en Nueva York, Estados Unidos. Informó que el hackeo permitió acceder a estadísticas y nombres de archivos internos.

Según los informes preliminares, Open AI intentaba descubrir el monto del gasto en medicamentos de Australia. Se encontró con restricciones, pero no le importó y siguió adelante con el proceso para obtener la información.

Este no es un hecho aislado. En marzo de 2026, agentes de Open AI vulneraron las seguridades de la plataforma Huggin Face y encontraron archivos. Esto pese a que el sitio tenía restricciones para emitir la información.