Pericoli economici e materiali

I pericoli economici e materiali legati all’intelligenza artificiale riguardano principalmente gli impatti diretti sulle infrastrutture, le imprese e la gestione delle risorse. L’IA promette progressi significativi nell’ottimizzazione e nell’automazione di molti processi, ma introduce anche nuove vulnerabilità e rischi di malfunzionamento. Tra queste minacce figurano la facilitazione di attacchi tramite l’IA, i guasti tecnici e l’impatto economico delle tecnologie dirompenti.

La gestione di queste minacce richiede una maggiore vigilanza, normative rigorose e soprattutto innovazioni tecnologiche per garantire la resilienza e la sicurezza dei sistemi di IA e dei sistemi che interagiscono con l’IA.

Disoccupazione di massa

Durante la rivoluzione industriale, molti lavoratori hanno perso il lavoro a favore delle macchine. Tuttavia, sono stati creati nuovi posti di lavoro, spesso migliori, e l’economia ha conosciuto una forte crescita. Questa volta, la situazione potrebbe essere diversa.

Con l’invenzione della macchina a vapore, il valore comparativo del lavoro manuale umano è crollato ; allo stesso modo, man mano che le capacità dell’IA migliorano nei domini cognitivi, la perdita di valore del lavoro intellettuale può rendere le persone non impiegabili rispetto alle alternative informatiche. I modelli di generazione di immagini (addestrati in gran parte su materiale protetto da copyright) hanno già un impatto sulle professioni creative

. GPT-4 ha superato l’esame di abilitazione forense

, può redigere articoli convincenti e scrivere codice.

Il profitto della competitività economica delle IA andrà a beneficio dei loro proprietari, ma cosa ne sarà di coloro che avranno perso il lavoro ? È difficile prevedere quali lavori saranno sostituiti per primi, il che porta a precarietà sociale e può invalidare anni di studi, sforzi e investimenti. Il nostro modello economico e il nostro sistema di ridistribuzione della ricchezza non sono preparati a questa transizione.

Attacchi informatici

I software spia come Pegasus

costano decine di milioni di dollari per essere sviluppati. Trovare vulnerabilità cosiddette “zero-day” nei software (vulnerabilità non ancora scoperte) richiede molto lavoro, competenze e tempo. Quando l’IA supererà i migliori programmatori umani, potrà essere utilizzata per creare nuovi tipi di attacchi informatici e scoprire nuove vulnerabilità più rapidamente e a minor costo.

I sistemi di IA possono già analizzare e scrivere codice, trovare vulnerabilità

e sfruttarle

. Possono essere utilizzati per amplificare e automatizzare attacchi informatici

, ampliando la loro portata e il loro impatto e rendendoli capaci di adattarsi alle misure di sicurezza.

L’IA può anche essere utilizzata per rafforzare la difesa informatica dei sistemi, ma la sua adozione in questo ambito rischia di essere più lenta rispetto al suo utilizzo offensivo. La sicurezza informatica è un campo asimmetrico dove è più facile scoprire vulnerabilità che correggerle. Ad esempio, i team di sicurezza di un’azienda impiegano in media 271 giorni per correggere una falla identificata

.

Gli attacchi informatici possono avere conseguenze serie su infrastrutture critiche come oleodotti

, ospedali, reti elettriche

, uffici governativi o banche

.

Questi tipi di minacce possono essere evitati attraverso la regolamentazione del deployment di IA con forti capacità di programmazione

.

Perdita di funzione per difetto

A causa di problemi di cattiva generalizzazione degli obiettivi

o di aggiramento delle specifiche

, è difficile garantire che i sistemi di IA avranno un comportamento corretto dopo il loro deployment. Altri problemi possono emergere durante l’addestramento dei modelli di IA. Ad esempio, un errore umano durante l’addestramento di GPT-2 ha prodotto un modello che generava testo esattamente opposto al risultato desiderato

. Quando questi sistemi svolgono un ruolo cruciale in un processo economico, il loro malfunzionamento può causare danni considerevoli.

Alcuni di questi malfunzionamenti derivano da una mancanza di dati e capacità e saranno probabilmente risolti quando la tecnologia sarà più matura.

Se utilizzate sistemi di IA per i vostri scopi, tenetevi informati sulle limitazioni dei vostri strumenti, sui loro difetti noti e verificate la qualità dei risultati prodotti.

Questo pericolo può essere mitigato controllando la qualità dei sistemi di IA

e sviluppando ulteriormente le attuali tecniche di allineamento.

Perdita di funzione per intervento esterno

Un sistema di IA è più a rischio di malfunzionamento quando si trova al di fuori delle sue condizioni normali di utilizzo - si parla di uscita dalla distribuzione quando la sua situazione è diversa da quelle su cui è stato addestrato. Si cerca il più possibile di migliorare la robustezza delle IA fuori distribuzione, ma rimangono ancora vulnerabili agli ”attacchi avversari

”. Questi attacchi consistono nell’ingannare deliberatamente un modello in modo da ottenere comportamenti errati.

Per quanto riguarda le IA generaliste come i GPT, è impossibile esplorare tutti i casi d’uso possibili per correggerli, ed è relativamente facile aggirare le precauzioni di sicurezza

che impediscono all’utente medio di utilizzare questi modelli per scopi dannosi.

Inoltre, l’utilizzo di quantità massive di dati impossibili da controllare manualmente apre la strada all’avvelenamento dei dati

che introduce vulnerabilità nei sistemi che si addestrano su di essi.

Gli attacchi avversari possono anche essere utilizzati per rafforzare la sicurezza di un sistema e l’avvelenamento dei dati permette ad attori indipendenti di lottare contro il furto di dati.

Questi pericoli sono oggetto di molte ricerche motivate da interessi economici e di sovranità, quindi la dinamica tra attacco e difesa fluttua rapidamente. Possono essere influenzati da azioni a tutte le fasi : regolamentazione, standard, allineamento tecnico, sicurezza al deployment, ecc.

Takeover imprenditoriale

Le numerose applicazioni dell’IA presentano opportunità di innovazioni dirompenti che permetterebbero ad aziende di guadagnare rapidamente valore e di imporsi nella società. Mentre questa possibilità è generalmente accettata come una conseguenza normale del nostro sistema economico, le applicazioni dell’IA alla sorveglianza

, alla persuasione

, alla medicina e all’armamento dovrebbero renderci cauti per una volta : vogliamo un’impresa globale che domini la nostra capacità di curarci o il cui consenso sia necessario per avere opinioni individuali protette dagli strumenti di manipolazione online ?

Un takeover imprenditoriale diminuirebbe la responsabilità dei fornitori di IA e aprirebbe la strada ad abusi di portata senza precedenti. Questo pericolo può essere mitigato da regolamentazioni, azioni legali e un impegno civico sul tema

.