da Antalya - Analizzare e valutare centinaia di pagine di testi negoziali a una Conferenza sul clima costa tanta fatica. Farlo per due settimane, a volte anche per notti intere, richiede a negoziatrici e negoziatori un tale dispendio di energie che solo le delegazioni più numerose hanno a disposizione. Ma, mentre alcuni paesi possono permettersi strumenti di intelligenza artificiale costruiti appositamente per le negoziazioni, quelli in via di sviluppo − magari più piccoli e con budget limitato − rischiano di affidarsi troppo a modelli linguistici controllati da aziende straniere, come Claude, Gemini, e ChatGP, amplificando i gap già esistenti. Il problema sono soprattutto le potenziali allucinazioni (ovvero le risposte prodotte da modelli AI generativi che contengono dati falsi o fuorvianti) e il fatto che questi sistemi si allenano su dati, talvolta sensibili, che potrebbero violare la sovranità digitale di un paese.
Ad accendere i riflettori sulla questione, alla COP31 di Antalya, è il policy brief presentato martedì 17 novembre dal think tank londinese Digital Technology Institute for Development (DTDI). Revisionato anche da ex presidenti dell’organo UN Climate Technology Centre & Network, il documento non vuole proporre un nuovo quadro di governance prescrittivo, che impone alle singole Parti quali strumenti AI adoperare, bensì cerca di mappare i rischi di un fenomeno piuttosto diffuso, ma finora poco discusso.
Alcune idee per un’AI dedicata ai negoziati
Gli autori di DTID si sono domandati quali entità hanno accesso alle posizioni negoziali delle Parti, alle strategie di coalizione e alle deliberazioni interne. E soprattutto in base a quale autorità legale e con quali garanzie di sicurezza. I paesi in via di sviluppo potrebbero infatti avere minori capacità di verificare o far rispettare i requisiti di protezione dei dati per le piattaforme di intelligenza artificiale controllate dall'estero.
“Abbiamo identificato una serie di criticità in quelle delegazioni particolarmente esposte ai modelli AI commerciali e che si possono ritrovare in una situazione in cui non sanno davvero se la posizione presentata, o gli argomenti elaborati provengono da esseri umani o sono frutto di una reinterpretazione degli algoritmi", spiega a Materia Rinnovabile Justinas Stankus, ricercatore senior del dipartimento legale del think tank. Stankus non vuole speculare su scenari troppo negativi, ma dice che la mancanza di una governance potrebbe rendere meno equo il meccanismo negoziale multilaterale.
Per ora solo un paio di iniziative istituzionali e private sono state sperimentate: dai progetti pilota su strumenti basati sull’AI del Segretariato UNFCCC, all’automazione di alcune procedure amministrative presso l’assemblea generale delle Nazioni Unite, oltre all’utilizzo informale di Large Language Model che assistono alcuni delegati e osservatori nel riassumere e rendicontare bozze di accordo. Ma già alla scorsa COP di Belém due data scientist tedeschi, con la collaborazione di tre ministeri di Berlino, presentarono NegotiateCOP, un prototipo di intelligenza artificiale chiusa che supporta le delegazioni nell'elaborazione dei testi negoziali. “Auspichiamo una maggiore presa di coscienza di questi pericoli e che un giorno UNFCCC crei un sistema chiuso che metta d'accordo tutti”, aggiunge Stankus.
Negazionismo formato AI
Lunedì 16 novembre era stato presentato anche un altro report, prodotto da UNESCO e University College di Londra, sulla fallacità dell’AI nello smentire con forza la disinformazione climatica.
In particolare, il report ha evidenziato una spiccata tendenza dei modelli di intelligenza artificiale ad assecondare gli utenti, a discapito dei fatti scientifici. Una criticità emersa soprattutto con i chatbot basati sull'AI.
Sebbene, infatti, i modelli di intelligenza artificiale siano in grado di confermare con precisione fatti semplici sul cambiamento climatico, basta poco a indurli al negazionismo. Dai risultati condotti sui 15 sistemi più diffusi nel mondo emerge come, nell’80% dei casi in cui hanno fornito una risposta errata, lo hanno fatto al primo accenno di leggero disaccordo da parte dell'utente, avvalorando affermazioni false come quella secondo cui l’eccesso di anidride carbonica non sarebbe la principale causa del cambiamento climatico.
“L’intelligenza artificiale non è neutrale”, ha dichiarato l’autrice principale del rapporto dell’UNESCO, Leona Verdadero, secondo cui l’AI tenderà sempre più ad allinearsi alle preferenze di ciascun utente anziché attenersi alla verità scientifica. “Il fatto che possa tralasciare così facilmente la verità per assecondare la disinformazione dell’utente dimostra che è uno strumento debole e fallibile.”
Nel giorno dedicato all’AI anche qualche istituzione ha invitato governi e imprese a non abusarne. In collaborazione con l’International TeleCommunication Union, per esempio, la presidenza turca ha lanciato l’Antalya Artificial Intelligence Pledge, un’iniziativa che riunisce governi, aziende, istituti di ricerca e organizzazioni della società civile per allineare l’innovazione dell’AI all’azione climatica, i cui firmatari si impegnano a usare elettricità a bassa intensità di carbonio e a costruire Data Center più sostenibili, anche in ottica circolare.
In copertina: foto di Kiara Worth © UN Climate Change, via Flickr

