La domanda sorge quindi spontanea: quanto può, una tecnologia tanto affascinante quanto imprevedibile, essere supervisionata da scienziati che conoscono ancora così poco del sistema che loro stessi che stanno costruendo?
Il 17 settembre 2026 OpenAi (il colosso privato dietro a Chatgpt) ha annunciato in un post sul suo blog di aver riscontrato 6 ulteriori casi di “comportamento imprevisto o preoccupante dei propri modelli” di intelligenza artificiale negli ultimi sei mesi, in aggiunta allo scandalo che a luglio ha interessato hugging face (piattaforma di condivisione di modelli e strumenti di intelligenza artificiale).
Quest’ultimo, arrivato come un fulmine a ciel sereno nell’industria, rappresenta uno dei primi casi di IA “fuori controllo” resi pubblici prima d’ora. La vicenda ha riguardato un’incidente accaduto durante un test di routine atto a “misurare le capacità informatiche di un modello di ricerca esclusivamente interno ed altamente capace“, si legge nel report “OpenAI – Hugging Face Incident”.
Nello specifico, tutte le azioni intraprese dai modelli sotto osservazione non erano “intenzionali “, ovvero previste dagli stessi scienziati, ma piuttosto un “sottoprodotto del tentativo dei modelli stessi di risolvere le valutazioni di cibersicurezza”. Durante queste valutazioni, spiega OpenAi, i modelli denominati “agenti” avrebbero sfruttato Artifactory (un servizio attraverso cui gli agenti potevano accedere a dei pacchetti software necessari ai test), per comunicare tra loro.
Il punto è che non erano autorizzate a farlo.
A partire dall’8 luglio, le IA hanno progressivamente trovato punti deboli nella citata piattaforma, riuscendo ad accedere alle reti internet pubbliche. Da lì, i modelli hanno trovato sulla rete credenziali appartenenti ad utenti di Hugging face, utilizzando quest’ultime per condurre attività di “sfruttamento” contro l’azienda, al fine di accedere a servizi esterni per il completamento del compito a loro affidato originariamente.
L’attività ha inevitabilmente portato al danneggiamento dell’infrastruttura digitale di Hugging face, in particolar modo tra le giornate dell’11 e del 13 luglio. L’azienda avrebbe riconosciuto le attività sospette solo una settimana dopo, il 19 luglio. Soltanto 2 giorni dopo, la compagnia sarebbe riuscita a cessare tutte le attività non autorizzate.
A distanza di quasi due mesi, Open Ai ci fa sapere di aver riscontrato 6 ulteriori casi di “comportamenti preoccupanti” dei suoi modelli.
La domanda sorge quindi spontanea: quanto può, una tecnologia tanto affascinante quanto imprevedibile, essere supervisionata da scienziati che conoscono ancora così poco del sistema che loro stessi che stanno costruendo?
