Proposte di Pause AI
Istituire una moratoria sull’addestramento dei sistemi di IA Generale (IAG) fino a quando non sapremo come svilupparli in sicurezza e mantenerli sotto controllo democratico.
Ogni paese può e deve implementare questa misura immediatamente. In particolare, gli Stati Uniti (o la California specificamente) dovrebbero istituire una moratoria, poiché ospitano praticamente tutte le grandi aziende di IA. Molti scienziati e leader del settore concordano che una moratoria è necessaria
Tuttavia, non dobbiamo aspettarci che paesi o aziende si assumano il rischio di perdere il loro vantaggio competitivo mettendo in pausa l’addestramento dei loro modelli di IA se altri non fanno lo stesso. Ecco perché abbiamo bisogno di una moratoria internazionale.
Implementare una moratoria internazionale
Un accordo internazionale si conclude generalmente durante un summit, dove i leader dei diversi paesi si riuniscono per discutere del problema e prendere una decisione. Il Regno Unito ha preso l’iniziativa e ha organizzato un summit sulla sicurezza dell’IA nell’autunno 2023. Da allora, sono stati annunciati altri due summit (maggiori informazioni sui summit
L’obiettivo principale del summit dovrebbe essere un trattato. Questo trattato dovrà specificare le misure politiche che ci proteggono dai rischi legati all’IA . Deve essere firmato da tutti gli Stati membri dell’ONU.
Agenzia internazionale per la sicurezza dell’IA
Simile all’AIEA (Agenzia Internazionale per l’Energia Atomica), le prerogative di questa agenzia sarebbero :
- Concedere le autorizzazioni per il deployment di IA. Ciò includerà valutazioni/test approfonditi dei modelli.
- Concedere le autorizzazioni per nuove sessioni di addestramento di modelli di IA che superano una certa dimensione (ad esempio : 1 miliardo di parametri).
- Organizzare incontri periodici per discutere dei progressi della ricerca sulla sicurezza dell’IA.
Addestramento di sistemi di IA generale
Autorizzare l’addestramento di sistemi di IA generale potenti solo se la loro sicurezza può essere garantita :
- Per “potenti”, intendiamo tutti i modelli di IA che sono sia 1) di dimensioni superiori a 10^12 parametri, 2) utilizzano più di 10^25 FLOP per l’addestramento.
- Queste prerogative non mirano ai sistemi di IA ristretti (detti specializzati), come il riconoscimento di immagini utilizzato per diagnosticare problemi medici.
- Richiedere una supervisione durante le sessioni di addestramento.
- La sicurezza può essere garantita solo dall’esistenza di un forte consenso scientifico e dalla prova che il problema dell’allineamento è stato risolto. Per ora, non è così, quindi non dovremmo permettere l’addestramento di tali sistemi.
- È possibile che il problema dell’allineamento dell’IA non venga mai risolto - potrebbe essere insolubile. In questo caso, non dovremmo mai autorizzare l’addestramento di tali sistemi.
- Anche se possiamo costruire un’IA sicura e controllabile, sviluppare e distribuire questa tecnologia solo con un solido controllo democratico. Una superintelligenza è troppo potente per essere controllata da una singola azienda o un singolo paese.
- Monitorare le vendite di GPU e altro hardware che può essere utilizzato per addestrare IA.
Distribuzione dei modelli
Autorizzare la distribuzione di modelli solo dopo aver ottenuto l’assicurazione che non presentano alcuna capacità pericolosa
- Avremo bisogno di standard e team di valutazione indipendenti per determinare se un modello possiede capacità pericolose.
- L’elenco delle capacità a rischio potrà evolversi con la crescita delle capacità dell’IA.
- Notare che affidarsi unicamente alle valutazioni dei modelli non è sufficiente .
Istituire una moratoria può avere effetti deleteri se non è implementata correttamente (saperne di più su come mitigare questi rischi
Cosa non farà la moratoria
La moratoria non metterà in pausa :
- Lo sviluppo di sistemi di IA ristretti (specializzati).
- La ricerca sulla sicurezza dell’IA.
- L’uso di sistemi di IA esistenti.
Altre proposte
Oltre alla moratoria, ci sono altre misure che possono essere prese per ridurre i rischi dell’IA :
- Responsabilità legale per i creatori di modelli di IA.
- Vietare l’addestramento su materiale protetto da copyright senza autorizzazione esplicita.
- Trasparenza : le aziende di IA devono essere trasparenti sui loro modelli e sulle loro capacità.
- Controllo democratico : le decisioni importanti sullo sviluppo dell’IA devono essere prese con la partecipazione del pubblico.
