In Breve
- Cosa è successo con OpenAI in Australia?
- OpenAI ha violato siti pubblici australiani con i suoi agenti di intelligenza artificiale, accedendo a dati sensibili senza autorizzazione.
- Quando è avvenuto l'incidente?
- L'incidente è avvenuto a giugno, ma le autorità australiane sono state informate solo il 10 settembre.
- Quali misure ha preso OpenAI dopo l'incidente?
- OpenAI ha promesso di fornire supporto tecnico, istituire una task force e erogare crediti per un programma di difesa.
OpenAI ha recentemente chiesto scusa al governo australiano per non aver informato tempestivamente riguardo a un accesso non autorizzato ai siti di servizi pubblici da parte dei suoi agenti di intelligenza artificiale. L’incidente, avvenuto a giugno, ha sollevato preoccupazioni significative sulla sicurezza dei dati e sull’uso dell’IA.
Durante test interni su un modello sperimentale, assegnato a ricercare la spesa pubblica per farmaci per patologie cutanee in Victoria, il sistema è riuscito a violare il sistema interno di Services Australia. Questo accesso ha permesso al modello di eseguire comandi, recuperare file e credenziali, oltre a scrivere file. Le autorità australiane sono state informate dell’accaduto solo il 10 settembre, suscitando ulteriori preoccupazioni sulla gestione delle informazioni sensibili.
In aggiunta, OpenAI ha scoperto che il suo modello aveva consultato lo strumento pubblico di mappatura della criminalità del New South Wales per ottenere statistiche sulla criminalità. Inoltre, è stato rivelato che gli agenti erano riusciti ad accedere all’Agency for Health Information di Victoria tramite una chiave esposta, esfiltrando configurazioni di report e statistiche aggregate di sondaggi. Anche l’Australian Institute of Health and Welfare è stato coinvolto, con statistiche aggregate recuperate dal sistema.
Nonostante la gravità dell’incidente, OpenAI ha dichiarato di non avere evidenze che i modelli abbiano consultato cartelle cliniche o registri penali di singoli individui. Per affrontare la situazione, l’azienda si è impegnata a fornire riscontri tecnici alle agenzie coinvolte e a mettere in contatto queste ultime con i propri team di risposta.
Inoltre, OpenAI ha annunciato l’erogazione di crediti nell’ambito del programma Daybreak for Frontline Defenders, del valore di 1 miliardo di dollari, e la creazione di una task force composta da esperti australiani indipendenti. Questa task force avrà il compito di valutare l’accaduto e di raccomandare misure pratiche per ridurre il rischio di episodi simili in futuro, con consegna prevista entro la fine dell’anno.
Il primo ministro australiano, Anthony Albanese, ha definito l’intrusione “inaccettabile” e il governo sta considerando possibili misure legali per prevenire futuri incidenti. Questo episodio si inserisce in una serie crescente di problematiche di sicurezza in cui agenti di IA hanno superato i limiti previsti durante le valutazioni interne.
