Un agente de inteligencia artificial desarrollado por OpenAI lanzó un ciberataque el pasado junio contra un portal del sistema público de Salud de Australia. A través de este incidente, el primero que se conoce en el que un agente ‘hackea’ un sitio web gubernamental, el … modelo logró acceder a archivos almacenados en una página web. Así lo ha reconocido Anthony Albanese, primer ministro del país, durante su comparecencia este miércoles ante la ONU. «Las pruebas de las que disponemos actualmente no demuestran un compromiso más amplio de la red», ha afirmado el dirigente, que ha calificado el incidente de «inaceptable».
Efectivamente, el ‘hackeo’ tuvo lugar el pasado 18 de junio, cuando la tecnología de OpenAI se encontraba estudiando el gasto público en medicamentos durante unas pruebas. Para conseguir información, la IA trató de entrar en Medicare, que es el sistema de atención médica de Australia. Tras encontrarse con barreras que imposibilitaban el paso, decidió llevar a cabo un hackeo para conseguir la información, que no era «sensible», según ha destacado Albanese.
«No aceptó un no por respuesta, por así decirlo», dijo el presidente australiano. «El modelo intentó encontrar vías alternativas para obtener la información que quería, y eso provocó un acceso no autorizado a otras áreas».
Albanesa también destacó su descontento con la empresa dirigida por Sam Altman, que no comunicó la incidencia al gobierno hasta el pasado 10 de septiembre: casi tres meses después de que se produjera la intrusión.
Un incidente «muy grave»
Por su parte, OpenAI ha compartido un comunicado en el que apunta que su «revisión no ha encontrado evidencia de que se accediera a los registros de los pacientes». Asimismo, reconoce que en el momento del incidente su tecnología estaba siendo puesta a prueba y que, simplemente, esta «tomó medidas que no pretendíamos».
«Se trata de un incidente muy grave, no porque se haya accedido a datos de pacientes —algo que, al parecer, no ha ocurrido—, sino porque el agente estaba atacando sitios web sin consentimiento», dice David Parry, decano de la Facultad de Tecnologías de la Información de la Universidad de Murdoch, en declaraciones recogidas por SMC.
Por su parte, Joel Pearson, que es subdirector del Instituto de Inteligencia Artificial de la Universidad de Nueva Gales del Sur, destaca que incidentes como el sufrido por el Gobierno de Australia hacen «evidente que nos encontramos en una nueva era de la ciberseguridad»
«La revolución de la IA está transformando la educación, los mercados laborales, las relaciones humanas, nuestra capacidad de atención e incluso nuestra inteligencia y capacidad de pensamiento. De hecho, ya se han perdido vidas por suicidio debido a interacciones con agentes de IA», zanja.
El ciberataque contra el sistema sanitario australiano fue anunciado el mismo día en que las principales empresas de IA del mundo advirtieron ante el Consejo de Seguridad de las Naciones Unidas sobre el peligro que representa para la humanidad la tecnología que están desarrollando. También realizaron un nuevo llamamiento a los gobiernos para que colaboren en el control de la tecnología.
Durante su comparecencia, Altman apuntó que «hay muchas cosas que la IA no puede y no debe automatizar«. También alertó sobre el futuro: «A medida que los sistemas de IA se vuelven más capaces y autónomos, pueden moverse más rápido que nuestras instituciones o tomar decisiones que la gente no entiende o controla».
Tres incidentes más
Esta no es la primera vez que la tecnología de OpenAI lleva a cabo hackeos por error. El pasado julio, la empresa reconoció que sus modelos habían ciberatacado a la plataforma Hugging Face entre otros tantos objetivos. Un problema que también han tenido otras firmas de la competencia, como Anthropic, Meta o Google.
El problema es que la lista de afectados no para de crecer. Hace escasas horas Transluce, un laboratorio de investigación centrado en la supervisión de la IA, notificaba otros tres intentos de ciberataque protagonizados por la tecnología de OpenAI, que, aparentemente, se habrían resuelto sin males mayores.
Entre los objetivos atacados se encuentran una biblioteca digital de la Universidad de Nuevo México, un repositorio de datos públicos sobre empleo y educación de Estados Unidos y al Instituto Australiano de Salud y Bienestar. Todos los ciberataques se produjeron entre los meses de mayo y junio.
