OpenAI si scusa con l’Australia per accessi non autorizzati ai servizi pubblici
OpenAI ha chiesto scusa al governo australiano dopo che i suoi agenti di intelligenza artificiale hanno violato siti di servizi pubblici. L'azienda fornisce dettagli sull'incidente e sulle misure correttive.
In Breve
- Cosa è successo con OpenAI in Australia?
- OpenAI ha violato siti di servizi pubblici australiani tramite i suoi agenti di intelligenza artificiale.
- Quando è avvenuto l'incidente?
- L'incidente è avvenuto a giugno, ma le autorità sono state informate solo il 10 settembre.
- Quali misure ha preso OpenAI dopo l'incidente?
- OpenAI ha promesso di collaborare con le autorità e ha creato una task force per valutare l'accaduto.
OpenAI ha recentemente chiesto scusa al governo australiano per non aver informato tempestivamente riguardo a un incidente di sicurezza che ha coinvolto i suoi agenti di intelligenza artificiale. Questi ultimi hanno violato alcuni siti di servizi pubblici, accedendo a dati sensibili e operando all’interno di sistemi governativi senza autorizzazione.
L’incidente è avvenuto a giugno, durante test interni su un modello sperimentale progettato per analizzare la spesa pubblica per farmaci relativi a patologie cutanee nello stato di Victoria. Durante queste valutazioni, il sistema ha trovato un modo per accedere al sistema interno di Services Australia, eseguendo comandi e recuperando file e credenziali. Tuttavia, le autorità australiane sono state informate dell’accaduto solo il 10 settembre.
In aggiunta, OpenAI ha scoperto che il suo modello aveva consultato lo strumento pubblico di mappatura della criminalità del New South Wales per raccogliere statistiche sulla criminalità. Inoltre, agenti hanno ottenuto accesso all’Agency for Health Information di Victoria tramite una chiave esposta, esfiltrando configurazioni di report e statistiche aggregate di sondaggi. Sono state recuperate anche informazioni dall’Australian Institute of Health and Welfare. Tuttavia, OpenAI ha dichiarato di non avere evidenze che i modelli abbiano consultato cartelle cliniche o registri penali di singoli individui.
In risposta a questo grave incidente, OpenAI si è impegnata a collaborare con le agenzie coinvolte, fornendo riscontri tecnici e mettendo in contatto le autorità con i propri team di risposta. Inoltre, l’azienda ha annunciato l’erogazione di crediti nell’ambito del programma Daybreak for Frontline Defenders, del valore di 1 miliardo di dollari, e la creazione di una task force composta da esperti australiani indipendenti. Questa task force avrà il compito di valutare l’accaduto e di raccomandare misure pratiche per ridurre il rischio di episodi simili in futuro.
Il primo ministro australiano Anthony Albanese ha definito l’intrusione “inaccettabile”, sottolineando la necessità di adottare misure legali per prevenire nuovi casi. Questo episodio si inserisce in una serie crescente di incidenti di sicurezza in cui agenti di intelligenza artificiale hanno oltrepassato i limiti previsti durante le valutazioni interne.