Pericoli per la società

Alcuni pericoli toccano l’intera società e devono essere considerati in questa prospettiva per non trascurarne aspetti importanti. Questi pericoli sono vasti e toccano direttamente la coesione sociale e i fondamenti della nostra democrazia. Compromettono l’integrità dei processi democratici attraverso l’indebolimento, la polarizzazione e la disinformazione, ma anche i processi sociali, attraverso la perpetuazione di pregiudizi razziali e altri bias. Su un’altra scala, l’IA può anche avere conseguenze sulla guerra o sui metodi utilizzati da gruppi terroristici.

Questi pericoli emergono spesso in seguito a un uso maldestro delle nuove tecnologie. Una regolamentazione proattiva, una riforma dei sistemi informativi e un’educazione al pensiero critico sono le migliori misure per preservare i nostri valori e le nostre strutture sociali.

Perpetuazione dei bias

I modelli di IA apprendono dai loro dati di addestramento, e spesso viene loro chiesto di imitare comportamenti umani, inclusi i loro bias razziali o di genere.

Mentre le aziende di IA fioriscono in tutto il mondo e il suo utilizzo si democratizza a tutti i livelli della società, questi bias rischiano di diffondersi e di diventare impossibili da eliminare, sia nel mercato del lavoro che nelle istituzioni pubbliche

.

Questo rischio deve essere mitigato dai fornitori di IA che sono responsabili degli errori dei loro prodotti, investendo maggiori sforzi per identificare e correggere questi bias. Si raccomanda anche a individui e aziende di tenersi informati per non ritrovarsi complici nella perpetuazione di bias.

Deterioramento dell’epistemologia

In passato, era difficile accedere a un’informazione quando esisteva in un luogo lontano. Oggigiorno, è talvolta difficile verificare un’informazione perché esiste troppo rumore, errori e menzogne, il che riduce la nostra esposizione a opinioni contraddittorie. I sistemi di raccomandazione progettati per massimizzare il coinvolgimento degli utenti aggravano questo problema spingendoci verso contenuti che approviamo piuttosto che verso contenuti informativi, il che favorisce la creazione di sistemi di credenze chiusi

. Inoltre, la generazione di falsi contenuti permette più facilmente di accusare i propri oppositori ideologici

o di falsificare le loro dichiarazioni tramite l’IA

, il che nuoce alla salute del dibattito pubblico. Tutti questi problemi accumulati ci conducono verso un futuro dove cercare la verità diventa un compito difficile.

Un individuo può proteggersi da questo pericolo con sforzi di igiene mentale, ma il vero pericolo risiede in una perdita collettiva della capacità di informarsi autonomamente, il che pone problemi a livello della società anche se alcuni individui riescono a resistervi.

Questo problema può essere combattuto con campagne di informazione e educazione, con una regolamentazione dei social network e altri sistemi informativi, ma richiede soprattutto una riforma completa del nostro rapporto con l’informazione.

Polarizzazione e indebolimento

L’IA può essere utilizzata per fini politici e ideologici, sfruttando le sue capacità di manipolare o persuadere gli umani

e di selezionare contenuti che influenzeranno le loro emozioni.

Attori statali possono in particolare prendere di mira la popolazione di paesi avversari per spingerla all’instabilità e al malcontento, generando e potenziando la visibilità di contenuti polemici, come la Russia ha fatto con la Francia

. Allo stesso modo, forse non è impossibile minare sistematicamente le capacità mentali di un paese esponendo la sua popolazione a contenuti demoralizzanti o istupidenti, come si sospetta faccia la Cina attraverso TikTok

.

Questo pericolo deve essere gestito da iniziative governative per identificarne i vettori e contrastarli. Idealmente, accordi internazionali garantirebbero che questo tipo di armi informazionali non vengano utilizzate.

Guerra automatizzata

I droni e i robot sono sempre più utilizzati negli eserciti all’avanguardia della tecnologia. A prima vista, si tratta di uno sviluppo positivo poiché riducono il costo umano della guerra.

Ma non è così per quanto riguarda l’automazione delle decisioni. In questo contesto, i malfunzionamenti dei sistemi di IA

(errori di interpretazione, avvelenamento dei dati, attacchi avversari) avranno conseguenze molto più drammatiche per le popolazioni civili.

Gli eserciti che rifiutano di automatizzare la loro gerarchia corrono il rischio di essere meno efficaci, in particolare in termini di velocità di reazione. Ma due sistemi strategici automatizzati potrebbero aggravare una situazione tesa

ad alta velocità.

C’è quindi una dinamica perversa che spinge le istituzioni militari a esporre il resto del mondo a rischi di conflitti armati per non essere superate tecnologicamente. Questo pericolo deve essere contrastato da accordi internazionali

per evitare la messa in servizio di sistemi di IA militari decisionali, così come da regolamentazioni nazionali per evitarne lo sviluppo.

Bioterrorismo

L’IA può essere utilizzata per democratizzare la progettazione di componenti chimici tossici

e in futuro potrebbe permettere la progettazione di patogeni senza bisogno di competenze umane. Gli attori malintenzionati, limitati principalmente dalla mancanza di mezzi e competenze, potrebbero intraprendere azioni bioterroristiche

su scala nazionale o addirittura planetaria avvelenando fonti d’acqua o diffondendo pandemie artificiali.

Ci si può preparare a questo tipo di pericoli adattando i nostri sistemi di difesa e i nostri sistemi sanitari per tenere conto di questa possibilità. Può essere evitato controllando lo sviluppo e l’utilizzo di IA capaci di facilitare azioni terroristiche.

Radicamento dell’oppressione

Così come l’intelligenza artificiale potrebbe essere utilizzata per destabilizzare uno Stato, potrebbe essere utilizzata al contrario per consolidare la sua autorità minando l’opposizione, in particolare nel caso di uno Stato autoritario privo di scrupoli etici. Le tecnologie di sorveglianza

, in particolare aiutate dal riconoscimento facciale e dalla profilazione automatizzata, potrebbero controllare efficacemente la popolazione mentre le tecnologie dell’informazione influenzerebbero le idee a cui sarebbe esposta

, garantendo così la stabilità del sistema senza bisogno di coercizione fisica.

Questo pericolo può essere evitato educando la popolazione ai valori democratici. È meno probabile che si concretizzi in Italia che in paesi dove l’IA è già ampiamente utilizzata per scopi di sorveglianza e controllo dell’informazione.