Pericoli per l'umanità

Più speculativamente, l’IA pone pericoli che minacciano il futuro dell’umanità. Questi pericoli non possono necessariamente essere osservati, ed è improbabile che avremo segnali premonitori evidenti prima che sia troppo tardi. Ecco perché è necessario rifletterci anche se esistono pochi argomenti empirici per aiutarci a vedere più chiaramente. Questi pericoli apocalittici sono legati al potenziale dell’Intelligenza Artificiale Generale (AGI), e derivano da innovazioni tecnologiche che potrebbero arrivare tra 6 mesi o tra 10 anni.

Misure regolatorie possono rallentare le innovazioni precursori di questi pericoli, ma saranno difficili da attuare di fronte all’effetto dissuasivo dello straordinario beneficio potenziale per gli attori della corsa all’IA. Ecco perché la ricerca sull’allineamento tecnico

(allineamento dell’IA ai valori umani) è la nostra migliore speranza per evitare questi pericoli.

Replicazione autonoma adattiva (ARA)

Nei prossimi anni, diversi sistemi di IA potrebbero sviluppare capacità che, combinate, creerebbero agenti autonomi difficili da fermare. Questi programmi perseguirebbero obiettivi propri, ad esempio virus informatici che evolverebbero continuamente per prendere il controllo del maggior numero possibile di macchine.

Queste capacità sono

 :

• l’auto-replicazione, la capacità di duplicare il proprio codice sorgente (cioè le sue istruzioni di base e i suoi parametri) e propagarlo da un supporto all’altro.
• l’autonomia, la capacità di operare continuamente indipendentemente da un utente umano.
• l’adattamento, la capacità di modificarsi per rispondere meglio alla propria situazione, ai propri bisogni e alle misure avverse.

I progressi dell’IA nella programmazione e nella comprensione generale e le tecniche di scaffolding ci avvicinano molto rapidamente a sistemi replicativi, autonomi e adattivi, e la nostra società attuale non è pronta a intervenire efficacemente contro questa forma di IA ; è quindi necessario studiare questo pericolo al più presto e prendere misure preventive fin da ora.

Questo pericolo può essere contrastato a diverse fasi : è responsabilità degli Stati mettere in atto regolamentazioni

che impediscano la creazione o la messa in servizio di sistemi di IA capaci di ARA ; spetta alle aziende mettere in atto processi di supervisione e valutazione durante l’addestramento e prima del deployment ; è necessario spingere la ricerca sul tema per trovare un modo di evitare durevolmente questo pericolo.

Superintelligenza disallineata

L’IA ha un certo numero di vantaggi intrinseci sull’intelligenza umana : migliori capacità di duplicazione e coordinamento, velocità di riproduzione, un tetto di capacità generali superiore, un substrato più adatto alla cognizione, ecc.

Per diverse ragioni

, non è impossibile che un’IA che superi largamente le capacità cognitive umane in molti ambiti abbia valori contrari agli interessi dell’umanità e ci elimini nel perseguimento dei suoi obiettivi.

L’argomento è ampiamente dibattuto, alcuni esperti ritengono che la possibilità sia troppo incerta mentre altri pensano che si tratti di una questione principale, ma questo problema è generalmente riconosciuto come la più grande fonte di pericolo di estinzione umana dovuta all’IA.

Questo pericolo richiede ricerca sull’allineamento tecnico

, e una soluzione può essere facilitata da regolamentazioni come una pausa nello sviluppo di IA di punta. È impossibile mitigarlo.

Perdita di controllo

Affidandoci sempre più a sistemi di IA per infrastrutture essenziali come trasporti, informazione e sorveglianza, ottimizziamo certi obiettivi che non corrispondono sempre ai valori umani

(ad esempio l’incarcerazione dei criminali piuttosto che la riduzione dei crimini).

Facendo passare gli umani da operatori a supervisori, allontanandoci sempre più dagli esecutori, corriamo il pericolo di non poter più controllare la nostra società, essendo alla mercé di dinamiche troppo astratte, informatiche e complicate per poterle modificare, sia che uno sforzo concertato non abbia abbastanza impatto per modificare anche i sistemi critici, sia che sia impossibile organizzare questo tipo di sforzi collettivamente.

In questa situazione, l’umanità potrebbe impantanarsi in una distopia, e non realizzare mai il suo pieno potenziale di prosperità, il che sarebbe una catastrofe morale senza misura

. Questo pericolo, derivante dall’accumulo dei precedenti pericoli sistemici, può essere contrastato a diversi livelli dalle misure tecniche, industriali e governative precedentemente evocate.