I tre pilastri indispensabili per domare i rischi dell’AI

Sono sviluppo, sicurezza e governance. A tenerli insieme deve essere l’etica

Il dibattito sull’intelligenza artificiale sta entrando in una nuova fase, riportando al centro timori non nuovi. Bisogna tornare al 2023, quando preoccupazioni fino ad allora confinate nella ricerca iniziarono a raggiungere il dibattito pubblico.
Nel marzo di quell’anno, una lettera del Future of Life Institute chiedeva una pausa di almeno sei mesi nell’addestramento dei sistemi più potenti di GPT-4. Poche settimane dopo Geoffrey Hinton, pioniere del deep learning, lasciò Google per parlare più liberamente dei rischi dell’AI. Le sue preoccupazioni riguardavano disinformazione e utilizzi malevoli, ma anche una domanda più generale: cosa accade se lo sviluppo dell’AI procede più rapidamente della nostra possibilità di comprenderla e governarla?
Il dibattito rimase soprattutto negli ambienti accademici e tecnologici, ma la domanda resta attuale: cosa succede quando lo sviluppo supera la nostra capacità di governarne gli effetti? Su questo punto si inseriscono posizioni recenti. Dario Amodei, CEO di Anthropic, ha parlato della necessità di “pace the frontier”, modulando il ritmo delle capacità dei modelli affinché sicurezza e controllo tengano il passo. Anche Sam Altman, CEO di OpenAI, ha richiamato la necessità di non separare la crescita delle capacità dalla possibilità di valutarle, monitorarle e renderle sicure.
Credo sia utile scomporre il problema in tre pilastri che devono crescere insieme. Il primo è lo sviluppo tecnologico: modelli sempre più “capaci” e autonomi. Il secondo è la sicurezza e il controllo: valutazione, interpretabilità, monitoraggio e guardrail, ossia quei vincoli e sistemi di protezione che impediscono o limitano comportamenti pericolosi, impropri o non previsti. Il terzo è la governance e la regolamentazione: standard, responsabilità, trasparenza, organismi di controllo e norme capaci di adattarsi all’evoluzione tecnologica. Nessuno dei tre è sufficiente da solo. Innovare senza controllo significa accettare rischi non ancora pienamente misurabili. Costruire guardrail senza supervisione esterna significa affidare il controllo agli stessi soggetti che sviluppano i sistemi. Regolamentare senza comprenderne la tecnologia rischia invece di produrre norme già obsolete.
A tenere insieme questi pilastri dovrebbe esserci un elemento trasversale: l’etica. Non come alternativa alla sicurezza o alla legge, ma come substrato per definire obiettivi e limiti: non solo cosa una tecnologia può fare, ma cosa vogliamo che faccia, a quali condizioni e sotto la responsabilità di chi. Il problema diventa allora soprattutto quello del tempismo. In un settore che evolve così rapidamente è impensabile un processo sequenziale: prima sviluppiamo, poi scopriamo i rischi, quindi costruiamo i sistemi di sicurezza e solo dopo definiamo le regole.
Ricerca, sicurezza e legislazione non possono procedere alla stessa velocità. È però necessario trovare un sincronismo comune. Se aumentano le capacità di un sistema, devono crescere le verifiche; se aumenta la sua autonomia, devono aumentare monitoraggio e responsabilità; se emerge un nuovo rischio, servono meccanismi rapidi per aggiornare standard e obblighi. La sfida, quindi, non è scegliere tra accelerare o arrestare lo sviluppo dell’intelligenza artificiale, ma costruire un progresso in cui sviluppo, sicurezza e governance procedano in modo coordinato, su un substrato etico condiviso. Non significa imporre a questi tre pilastri la stessa velocità, ma evitare che uno avanzi lasciando indietro gli altri. Sviluppo, sicurezza e regolamentazione possono avere tempi differenti: ciò che conta è che non perdano il ritmo l’uno dell’altra.

Claudio Sirocchi – Dottorando di ricerca al Dipartimento di Ingegneria dell’Informazione Università Politecnica delle Marche