Un nuovo libro esplora le vulnerabilità dell'intelligenza artificiale, mostrando come possa essere influenzata senza subire violazioni dirette. La presentazione a Potenza offre strumenti per comprendere e gestire questi rischi.
Nuove vulnerabilità dell'intelligenza artificiale
Un volume recente affronta le insidie dell'intelligenza artificiale. Il libro, intitolato 'AI sotto attacco', analizza come questi sistemi possano essere manipolati. L'autore, Nicola Manzi, presenta le sue scoperte il 17 settembre. L'evento si terrà presso il Polo bibliotecario di Potenza. L'appuntamento è fissato per le 17:30. Saranno presenti anche Giovanni Pergola, esperto di gestione AI. L'avvocato Attilio Valerio Giuliani modererà la discussione.
Il libro si propone come una guida pratica. Mira a fornire consapevolezza sulla governance dell'AI. Non è destinato agli specialisti tecnici. Si rivolge invece a chi prende decisioni. Parliamo di dirigenti pubblici e imprenditori. Manager, consulenti e chiunque adotti l'AI sono il target. L'obiettivo è evitare conseguenze passive.
Comprendere i rischi dell'AI
Nicola Manzi chiarisce le intenzioni dietro il suo lavoro. «L'obiettivo non è alimentare la paura verso i sistemi di intelligenza artificiale», afferma. «Ma offrire a imprese, amministrazioni, professionisti e cittadini gli strumenti per capire i rischi». L'autore vuole fornire le basi per porsi le domande giuste. Questo è fondamentale prima di affidare dati o decisioni all'AI. La consapevolezza è la chiave.
Il titolo del libro non è una semplice trovata. «Non è una provocazione editoriale», sottolinea Manzi. La sicurezza informatica tradizionale si concentra su accessi anomali. Si cercano codici malevoli o traffici sospetti. L'intelligenza artificiale introduce una vulnerabilità diversa. Il comportamento del sistema può essere alterato. Ciò avviene tramite i dati forniti. Anche il linguaggio usato per interrogarlo è cruciale. I documenti sottoposti al sistema giocano un ruolo. Quando ciò accade, il sistema non si rompe necessariamente. Continua a funzionare, apparendo persino efficiente.
Allucinazioni e prompt injection
Un rischio concreto è quello delle cosiddette «allucinazioni». Si tratta di risposte che sembrano corrette. Sono formalmente convincenti ma in realtà false. Manzi cita esempi di ricerche giurisprudenziali. In questi casi, numeri e riferimenti erano inesistenti. La qualità formale della risposta inganna l'utente. Questo abbassa le difese e porta a fidarsi ciecamente. L'apparenza di autorevolezza è un inganno.
Un'altra minaccia è la «prompt injection indiretta». Un assistente AI che analizza documenti può incontrare istruzioni nascoste. Queste istruzioni, invisibili all'occhio umano, influenzano il suo comportamento. Non si tratta di un accesso abusivo. Non si cerca una backdoor nel sistema. In certe architetture, basta che il modello interagisca con contenuti non affidabili. Questi contenuti vengono interpretati come comandi.
Supervisione umana e consapevolezza
La supervisione umana è essenziale. Manzi insiste che non deve limitarsi al risultato finale. Deve estendersi all'intera catena di produzione. Questo include dati, fonti, algoritmi e processi. La responsabilità dei fornitori è anch'essa importante. «L'errore più frequente è adottare l'intelligenza artificiale prima di aver indagato per quale finalità», avverte l'autore. Si acquista lo strumento tecnologico. Le domande fondamentali vengono rimandate. Queste domande riemergono quando si verificano malfunzionamenti.
Nel dibattito pubblico, l'entusiasmo per l'AI convive con il timore dei rischi. Manzi suggerisce di migliorare la qualità della fruizione. «Pensare oggi di rallentare globalmente lo sviluppo dell'intelligenza artificiale mi sembra poco realistico», dichiara. Sono necessarie sia l'alfabetizzazione all'AI sia quella al rischio. Dobbiamo imparare a interrogarci. Da dove proviene questa risposta? È verificabile? Dove finiscono le informazioni che forniamo? La vera consapevolezza inizia quando smettiamo di chiederci solo che cosa sia l'AI. Iniziamo a chiederci che cosa stiamo permettendo al sistema di fare al posto nostro.