L’ultima mossa di OpenAI potrebbe essere la nostra unica speranza

OpenAI ha recentemente creato un team chiamato “Preparedness” con l’obiettivo di affrontare i potenziali pericoli catastrofici legati all’intelligenza artificiale. A guidare il team c’è Aleksander Madry, un esperto proveniente dal Center for Deployable Machine Learning del MIT. Le principali responsabilità del team Preparedness sono monitorare, prevedere e difendersi dalle possibili minacce rappresentate dai futuri sistemi di intelligenza artificiale. Questi pericoli possono variare, dall’abilità di ingannare le persone con schemi di phishing all’emissione di codici dannosi.

Tra le aree di rischio individuate da OpenAI, alcune sembrano essere più astratte e meno immediate rispetto ad altre. Ad esempio, sono state evidenziate le minacce “chimiche, biologiche, radiologiche e nucleari” come argomenti di notevole interesse correlati ai modelli di intelligenza artificiale.

Sam Altman, CEO di OpenAI, da tempo si preoccupa delle implicazioni negative dell’intelligenza artificiale, suggerendo che potrebbe portare alla distruzione dell’umanità. La decisione di OpenAI di dedicare risorse all’indagine di queste situazioni catastrofiche, che sembrano uscite da un romanzo di fantascienza, ha colto molti di sorpresa.

Parallelamente alla formazione del team Preparedness, OpenAI ha anche mostrato interesse nella raccolta di proposte di ricerca sui rischi legati all’intelligenza artificiale, offrendo un premio di 25.000 dollari e opportunità di lavoro nel team Preparedness per i primi dieci progetti selezionati.

L’organizzazione ha annunciato che il team Preparedness sarà responsabile di sviluppare una “politica di sviluppo basata sulla conoscenza dei rischi”. Questa politica definirà come OpenAI valuterà e controllerà i modelli di intelligenza artificiale, le iniziative per ridurre i rischi e il quadro generale di supervisione durante tutte le fasi di sviluppo dei modelli.

La creazione del team Preparedness è coincisa con un importante summit governativo britannico sulla sicurezza dell’intelligenza artificiale. Questa decisione segue l’annuncio precedente di OpenAI di istituire un altro team focalizzato sullo studio di nuove forme di intelligenza artificiale “superintelligente”.

La velocità con cui l’intelligenza artificiale si sta sviluppando ha sollevato numerose preoccupazioni sulla sua sicurezza e sul suo impatto potenziale sull’umanità. Le capacità sempre più avanzate dei modelli di intelligenza artificiale potrebbero rappresentare una minaccia se non vengono adeguatamente controllate o finiscono nelle mani sbagliate. Di fronte a queste preoccupazioni, la decisione di OpenAI di creare un team specializzato nella valutazione dei rischi riveste un’importanza cruciale. Non solo conferma le preoccupazioni esistenti sulle possibili conseguenze negative della tecnologia, ma dimostra anche un impegno proattivo da parte di una delle principali organizzazioni del settore nel garantire che l’intelligenza artificiale venga sviluppata e utilizzata in modo responsabile. La sicurezza dell’intelligenza artificiale non è solo una questione tecnica, ma coinvolge anche aspetti etici e sociali che devono essere affrontati con la massima serietà.