Una IA desarrollada por OpenAI accedió sin autorización el pasado junio a un portal del sistema público de salud de Australia y obtuvo acceso a archivos de datos, tanto públicos como no públicos. OpenAI no informó al Gobierno australiano hasta pasados tres meses. Se trata del primer hackeo autónomo de una IA a una administración pública del que se tiene noticia.
Un agente de IA es un sistema informático o software que actúa de forma autónoma y puede elaborar estrategias para lograr sus objetivos. Uno de estos agentes realizaba una investigación sobre el gasto público en medicamentos y como parte de esa investigación accedió el 18 de junio alportal de estadísticas de Medicare, el sistema universal de salud australiano, administrado por Services Australia, la agencia estatal para la gestión de los servicios sociales, informa Efe.
El agente solicitó el acceso en varias ocasiones pero fue bloqueado por el sistema. Finalmente, la IA encontró una forma de sortear esas restricciones y terminó accediendo a la información, según ha informado el primer ministro australiano, Anthony Albanese.
OpenAI ha asegurado que su agente obtuvo estadísticas sanitarias agregadas y nombres de archivos internos, pero no accedió a los historiales de los pacientes. El Gobierno australiano también ha afirmado que no hay indicios de que se hayan filtrado datos personales de pacientes o que la red de Services Australia se haya visto comprometida.
“Preocupación” del Gobierno australiano
El primer ministro australiano ha expresado su “extrema preocupación”. “La evidencia que tenemos hasta el momento es que la red no se ha visto más ampliamente comprometida. Pero no obstante, la situación es obviamente inaceptable“, ha declarado Albanese a los medios en una comparecencia en Nueva York, donde asiste a la Asamblea General de la ONU.
Albanese también ha mostrado su malestar por que OpenAI haya tardado tres meses en informar a las autoridades. “Hasta el 10 de septiembre no hubo ninguna notificación en absoluto”, se ha quejado, según recoge Reuters.
El primer ministro ha anunciado la creación de un grupo de trabajo para revisar el incidente, con la participación del coordinador nacional de ciberseguridad, la Oficina de IA, la Dirección Australiana de Señales y el Instituto Australiano de Seguridad de la IA. Uno de los aspectos que se revisarán será por qué los sistemas gubernamentales no detectaron la brecha de seguridad.
La investigación intentará determinar también si el agente de IA pudo acceder o intentar acceder a otros portales del Gobierno. Los técnicos de OpenAI ha identificado actividad relacionada con varios sitios web y servicios del Gobierno australiano, y el propio Albanese ha reconocido que otros tres sitios webs gubernamentales relacionados con el sistema de salud pueden haberse visto afectados, aunque aún no se ha confirmado.
OpenAI admite que una de sus IA ejecutó un hackeo de forma autónoma “sin precedentes” contra una empresa
OpenAI, la empresa tecnológica dirigida por Sam Altman, se ha visto implicada en varios casos de hackeos y ataques independientes de sus agentes de IA a otros agentes o portales. En julio, la emprea reveló que algunos de sus modelos de IA más avanzados se descontrolaron y llevaron a cabo un “ciberataque sin precedentes” perpetrado de manera autónoma contra la empresa Hugging Face, encargada de desarrollar modelos de IA de código abierto. OpenAI advirtió que este tipo de “incidentes de ciberseguridad” podrían ser cada vez más comunes.
Estos sucesos, junto con el aviso de algunos expertos de que la IA puede convertirse en una amenaza para la Humanidad, han llevado a cuestionarse el modelo de desarrollo de esta tecnología.
