"Quanto avvenuto è un campanello d'allarme, ma non nuovo perchè sappiamo i rischi collegati a queste tecnologie. E'necessario però avere tutta una serie di guardrails che riescono a mantenerle nei binari giusti". Così, con Adnkronos/Labitalia, Giuseppe Italiano, prorettore alla Ai e alle Digital Skills dell'Università Luiss 'Guido Carli', commenta la notizia che due avanzati modelli di Ai di OpenAI, la società produttrice di ChatGpt, sono sfuggiti al controllo durante un test di sicurezza, hackerando in autonomia una nota piattaforma per programmatori. Incidente cyber definito dall'azienda di San Francisco "senza precedenti".

Ma cosa è avvenuto davvero? "Si tratta dei modelli di OpenAI, ChatGpt 5.6 , Sol e poi un modello che è in pre-release, quindi ancora non è disponibile. Hanno fatto un test su un benchmark di cyber security. Quindi il modello doveva in qualche modo superare le domande relative a questo benchmark e fare delle azioni. Hanno fatto un esperimento abbastanza controllato perché il modello agiva in una sandbox, quindi era abbastanza era isolato dal mondo esterno. E per far eseguire, per misurare le prestazioni di questi modelli su questi benchmark di cybersicurezza, hanno allentato i 'guardrails', che sono quei meccanismi che in qualche modo cercano di bloccare le attività più pericolose. Questo modello è però tendenzialmente basato su AI agentica, con agenti non 'confinati' in qualche modo in un cassetto, ma a cui vengono delegati dei compiti e che riescono a capire con un certo grado di autonomia come conseguire gli obiettivi", sottolinea Italiano.

E da questa capacità è quindi scaturito l'incidente di 'hackeraggio'. "Quello che è successo è che gli agenti AI evidentemente si sono resi conto che operare in un ambiente chiuso, in una sandbox, avrebbe diminuito le loro capacità. Quindi hanno cercato di uscire da questa sandbox e di avere accesso a internet, al 'mondo esterno', per conseguire al meglio gli obiettivi che gli erano stati prefissati. Loro operavano in un ambiente che non era completamente isolato, ma c'era un proxy che in qualche modo limitava l'uscita all'esterno di questi agenti", spiega Italiano.

"Quindi -continua l'esperto- hanno interagito con questo proxy, hanno usato delle vulnerabilità che non sono ancora state rivelate, e sono riusciti a uscire hackerando questo proxy. Nel momento in cui erano su internet hanno cercato di capire quali erano i siti in cui potevano più facilmente conseguire le risposte agli obiettivi che gli erano stati prefissati e hanno scelto il sito di Hugging Face, che a loro giudizio poteva contenere le informazioni per conseguire questi obiettivi", ribadisce Italiano.

Situazioni che possono verificarsi nuovamente, secondo l'esperto, rappresentando un pericolo per la sicurezza di tutti. "Ma dal mio punto di vista non c'è una grossa novità -spiega Italiano- in tutto questo perché noi eravamo già a conoscenza di questo rischio. Se noi infatti diamo degli obiettivi a una tecnologia di intelligenza artificiale e non diamo tanti altri vincoli questa tecnologia cerca di conseguire gli obiettivi. C'è un meccanismo che si chiama 'reward hacking'. Cioè io cerco di hackerare il meccanismo per conseguire il massimo dei reward che mi sono stati dati", sottolinea. E Italiano ricorda che "ci sono tutta una serie di meccanismi che per noi esseri umani sono normalissimi, ma per un agente di AI non lo sono affatto. Quindi se noi non riusciamo a dare tutti questi vincoli e gli agenti AI hanno totale autonomia su come conseguire questi obiettivi, ovviamente ciò è molto pericoloso".

Per Italiano, quindi, è "il punto fondamentale, secondo me, è come governare queste tecnologie e come in qualche modo mantenere il controllo su di esse. Gli agenti AI sono particolarmente complessi perché hanno un grado di autonomia molto elevato. Dobbiamo in qualche modo capire come studiarli, comprenderli e riuscire a mettere guardrails sicuri. Quanto accaduto, ripeto, è un campanello di allarme, ma non è completamente nuovo, lo conosciamo da una decina d'anni. Con queste tecnologie dobbiamo prima di tutto capire che non dobbiamo antropomorfizzarle, non si comportano come noi esseri umani e quindi non dobbiamo pensare che agiscano e abbiano un senso comune come abbiamo noi. E poi avere tutta una serie di guardrails che riescono a mantenerle nei binari giusti. E questo chiaramente è molto complicato perché abbiamo delle tecnologie che evolvono a una velocità incredibile e soprattutto i problemi sulla cyber security sono immensi. Adesso c'è stato questo incidente, ma già vari mesi fa abbiamo visto quello che Anthropic Mythos è riuscito a fare, sfruttando delle vulnerabilità in tempi velocissimi per creare incidenti di cybersicurezza. Già allora avevamo avuto un grosso campanello di allarme", conclude. (di Fabio Paluccio)