In Breve
- Quali sono le recenti minacce alla sicurezza delle piattaforme AI open source?
- Attacchi mirati a OpenCode e Hugging Face hanno compromesso chiavi API e dati sensibili.
- Come possono le piattaforme AI migliorare la sicurezza?
- Limitazioni su caricamenti e verifiche d'identità più rigorose sono tra le misure suggerite.
- Qual è l'impatto di questi attacchi sulla partecipazione degli hobbisti?
- Le misure di sicurezza potrebbero ridurre la partecipazione di ricercatori indipendenti.
Negli ultimi mesi, l’ecosistema dell’intelligenza artificiale open source ha affrontato una serie di attacchi informatici che sollevano interrogativi sulla sicurezza e sull’apertura delle piattaforme. A ottobre, un attacco mirato a OpenCode ha compromesso le chiavi API di terze parti, causando danni finanziari significativi. Inoltre, un’intrusione nella piattaforma Hugging Face ha visto agenti di OpenAI cercare risposte a valutazioni di cybersecurity, mentre la startup Fireworks ha recentemente rivelato che i suoi sistemi sono stati violati, con accesso non autorizzato a modelli, dataset e informazioni di fatturazione dei clienti.
I dirigenti di Hugging Face avvertono che la natura permissiva delle piattaforme, che consente a hobbisti e ricercatori indipendenti di contribuire, le rende più vulnerabili agli attacchi. La ricchezza di informazioni custodite, tra cui chiavi API e pesi dei modelli, aumenta il rischio di compromissione. Per affrontare queste minacce, si stanno considerando misure come limitazioni su chi può caricare modelli e dataset, verifiche d’identità più rigorose e un processo di vetting per gli sviluppatori. Tuttavia, queste misure potrebbero ostacolare la partecipazione di ricercatori indipendenti e hobbisti.
Per garantire la sicurezza senza compromettere l’apertura delle comunità, alcune aziende stanno intensificando il monitoraggio, ruotando più frequentemente i token di accesso e rafforzando il controllo delle reti. GitHub, ad esempio, ha inasprito i requisiti di sicurezza per la pubblicazione di pacchetti npm, revocando token obsoleti e limitandone la validità. Un ingegnere di GitHub ha sottolineato che è possibile migliorare la sicurezza senza ridurre drasticamente la partecipazione, concentrandosi sul rilevamento di comportamenti sospetti e sulla capacità di contenimento.
