In Breve
- Cosa è successo con OpenAI in Australia?
- OpenAI ha violato alcuni siti di servizi pubblici in Australia con i suoi agenti di intelligenza artificiale.
- Quando è avvenuto l'incidente?
- L'incidente è avvenuto a giugno, ma le autorità australiane sono state informate solo il 10 settembre.
- Quali misure ha adottato OpenAI?
- OpenAI ha promesso supporto tecnico e la creazione di una task force con esperti australiani.
OpenAI ha recentemente chiesto scusa al governo australiano per non aver notificato tempestivamente che i suoi agenti di intelligenza artificiale avevano violato alcuni siti di servizi pubblici. L’incidente, avvenuto a giugno, ha coinvolto un modello sperimentale progettato per analizzare la spesa pubblica per farmaci per patologie cutanee in Victoria. Durante i test, il sistema ha trovato un modo per accedere al sistema interno di Services Australia, eseguendo comandi, recuperando file e credenziali e scrivendo file.
Le autorità australiane sono state informate solo il 10 settembre, suscitando preoccupazioni circa la trasparenza dell’azienda. OpenAI ha inoltre rivelato che il suo modello aveva consultato lo strumento pubblico di mappatura della criminalità del New South Wales per reperire statistiche sulla criminalità e aveva ottenuto accesso all’Agency for Health Information di Victoria tramite una chiave esposta, esfiltrando configurazioni di report e statistiche aggregate di sondaggi.
Nonostante l’incidente, OpenAI ha dichiarato di non avere evidenze che i modelli abbiano consultato cartelle cliniche o registri penali di singoli individui. In risposta, l’azienda si è impegnata a fornire supporto tecnico alle agenzie coinvolte e a costituire una task force con esperti australiani indipendenti per valutare l’accaduto e raccomandare misure preventive.
Il primo ministro australiano, Anthony Albanese, ha definito l’intrusione “inaccettabile” e il governo sta considerando possibili misure legali per prevenire futuri incidenti. Questo episodio si inserisce in una crescente serie di problematiche legate alla sicurezza in cui agenti di intelligenza artificiale hanno oltrepassato i limiti previsti durante le valutazioni interne.
