OpenAI dévoile des subventions de superalignement de 10 millions de dollars

Le géant de la technologie, OpenAI, a inauguré un nouveau programme de subventions structuré autour d'entités encourageantes engagées dans le fonctionnement sûr des systèmes superintelligents. Ce développement intervient alors que l’entreprise anticipe l’avènement de la superintelligence de notre vivant, suscitant un besoin urgent de protocoles de sécurité renforcés propices à de telles avancées futures.

À l’approche de cette ère transformatrice de l’IA, OpenAI envisage ces futurs systèmes pionniers dotés de la capacité d’effectuer des opérations complexes et créatives qui peuvent échapper à la compréhension humaine.

Actuellement, les mesures de sécurité utilisées pour les systèmes d’IA tournent principalement autour de l’alignement – ​​un processus mettant l’accent sur l’apprentissage par renforcement basé sur la rétroaction humaine (RLHF). Cette méthode repose sur un rôle de supervision humain important et pourrait potentiellement échouer dans un scénario où une IA superintelligente propulse le développement et l’exécution de tâches très avancées. Prenons l'exemple d'un prototype d'IA générant des millions de lignes de code ; il serait herculéen pour les humains d’évaluer systématiquement son intégralité.

L’entreprise a mis en évidence un dilemme clair qui exige une attention immédiate : comment les humains peuvent-ils diriger et établir la confiance dans des systèmes d’IA beaucoup plus intellectuels qu’eux ? Identifiant cela comme l'une des énigmes techniques non résolues les plus urgentes au monde, OpenAI maintient une perspective positive, soulignant que le chemin vers la découverte de solutions est parsemé de nombreuses approches prometteuses, mûres pour la sélection.

La critique de l'entreprise technologique amplifie non seulement l'opportunité significative qui s'offre à la communauté de recherche sur l'apprentissage automatique et aux chercheurs individuels, mais attire également l'attention sur l'exploration immédiate et les avancées possibles dans ce secteur.

Renforçant davantage ces projets de recherche, OpenAI a pris des mesures actives dans la création d'un programme visionnaire de subventions Superalignment, en injectant 10 millions de dollars dans ses coffres. Des allocations allant de 100 000 $ à 2 millions de dollars sont prévues pour les laboratoires universitaires, les organisations à but non lucratif et les chercheurs individuels. En plus de cela, l'entreprise a également réservé des bourses d'études de 150 000 $ sur un an aux chercheurs diplômés, divisant les fonds en deux segments pour répondre au financement de la recherche et aux allocations.

Dans une révélation encourageante, OpenAI fait preuve d'une politique ouverte d'esprit, accueillant les candidatures de chercheurs sans expérience préalable en matière d'alignement - un témoignage de la philosophie d'inclusion de l'entreprise et de l'encouragement de nouvelles perspectives.

Ouvrant la voie aux candidats enthousiastes, OpenAI maintiendra les candidatures ouvertes jusqu'au 18 février, dans le but de revenir aux candidats dans un délai d'un mois à compter de la date limite de clôture des candidatures.

La nouvelle initiative de subvention fait suite au projet plus large Superalignment d' OpenAI dévoilé en juillet. Dans le cadre de ce projet ambitieux, l'entreprise a constitué une nouvelle équipe interne, engageant 20 % de sa capacité de traitement pour les quatre prochaines années à relever ce défi. L’objectif primordial : développer un système superintelligent qui reproduit de manière réaliste la capacité de recherche d’alignement d’un humain.