OpenAI svela sovvenzioni per il superallineamento da 10 milioni di dollari

Il gigante della tecnologia, OpenAI, ha inaugurato un nuovo programma di sovvenzioni strutturato attorno a entità edificanti impegnate a garantire il funzionamento sicuro dei sistemi superintelligenti. Questo sviluppo avviene mentre l’azienda anticipa l’avvento della superintelligenza nel corso della nostra vita, suscitando un’urgente necessità di protocolli di sicurezza rafforzati che favoriscano tali progressi futuri.

Con l’incombere di questa era di trasformazione dell’IA, OpenAI immagina questi sistemi futuri pionieristici dotati della capacità di eseguire operazioni complesse e creative che potrebbero sfuggire alla comprensione umana.

Attualmente, le misure di sicurezza utilizzate per i sistemi di intelligenza artificiale ruotano principalmente attorno all’allineamento, un processo che enfatizza l’apprendimento di rinforzo predicato dal feedback umano (RLHF). Questo metodo si basa su un significativo ruolo di supervisione umana e potrebbe potenzialmente vacillare in uno scenario in cui l’intelligenza artificiale superintelligente promuove lo sviluppo e l’esecuzione di compiti altamente avanzati. Considera un prototipo di intelligenza artificiale che genera milioni di righe di codice; sarebbe titanico per gli esseri umani valutarne la totalità in modo sistematico.

L’azienda ha evidenziato un chiaro dilemma che richiede attenzione immediata: come possono gli esseri umani dirigere e stabilire fiducia in sistemi di intelligenza artificiale molto più intellettuali di loro? Identificando questo come uno degli enigmi tecnici irrisolti più urgenti al mondo, OpenAI mantiene una prospettiva positiva, sottolineando che il percorso verso la scoperta di soluzioni è costellato di numerosi approcci promettenti, maturi per essere scelti.

La critica dell'azienda tecnologica non solo amplifica le significative opportunità offerte alla comunità di ricerca sull'apprendimento automatico e ai singoli ricercatori, ma guida anche l'attenzione verso l'esplorazione immediata e le possibili scoperte rivoluzionarie in questo settore.

Rafforzando ulteriormente queste iniziative di ricerca, OpenAI ha adottato misure attive nella creazione di un visionario programma di sovvenzioni Superalignment, iniettando 10 milioni di dollari nelle sue casse. Sono previsti stanziamenti compresi tra 100.000 e 2 milioni di dollari per laboratori accademici, organizzazioni no-profit e singoli ricercatori. Oltre a ciò, l'azienda ha anche stanziato borse di studio annuali da 150.000 dollari per studiosi laureati, dividendo i fondi in due segmenti per soddisfare i finanziamenti e gli stipendi per la ricerca.

In una rivelazione incoraggiante, OpenAI mostra una politica di mentalità aperta, accogliendo candidature da parte di ricercatori senza precedenti esperienze di allineamento, a testimonianza dell'etica aziendale di inclusività e incoraggiamento di nuove prospettive.

Aprendo la strada ai candidati desiderosi, OpenAI manterrà le domande aperte fino al 18 febbraio, con l'obiettivo di tornare ai candidati entro un mese dalla scadenza della chiusura delle domande.

La nuova iniziativa di sovvenzione arriva sulla scia del più ampio progetto Superalignment di OpenAI presentato a luglio. Nell’ambito di questo ambizioso progetto, l’azienda ha riunito un nuovo team interno, impegnando il 20% della sua capacità di elaborazione per i prossimi quattro anni ad affrontare questa sfida. L'obiettivo generale: sviluppare un sistema superintelligente che replichi realisticamente la capacità di ricerca sull'allineamento di un essere umano.