Dans le but de garantir que ses futurs modèles d'intelligence artificielle (IA) représentent les valeurs humaines, OpenAI a révélé son intention d'intégrer des principes dérivés du public dans ses créations. Le géant de l’IA a révélé son intention de créer une équipe d’alignement collectif, composée de chercheurs et d’ingénieurs. Le mandat de l'équipe serait de développer une structure permettant d'obtenir et de mettre en œuvre les commentaires du public sur les services et produits d'OpenAI.
La société a exprimé sa claire intention de continuer à faire appel à des conseillers externes et à des équipes chargées des subventions. Ces équipes joueront un rôle crucial dans l’incorporation des prototypes, qui guideront ensuite le comportement des modèles. OpenAI recrute activement des ingénieurs de recherche possédant des connaissances techniques diversifiées pour soutenir la mise en place et la réussite de ce mandat essentiel.
Issue de l'initiative publique d'OpenAI, lancée en mai de l'année précédente, l'équipe d'alignement collectif constitue une avancée significative vers l'instauration d'un processus démocratique dans la dynamique d'élaboration des règles des systèmes d'IA. Depuis toujours, OpenAI s'efforce de financer des individus, des équipes et même des organisations intéressées à développer des preuves de concept désireuses de résoudre l'ambiguïté concernant les garde-fous et la gouvernance de l'IA.
OpenAI, dans sa publication virtuelle, a fait un bref récapitulatif des divers travaux des bénéficiaires de subventions couvrant les interfaces de chat vidéo, les plates-formes qui facilitent les audits participatifs des modèles d'IA et les stratégies visant à aligner le comportement des modèles sur des croyances spécifiques. Les détails de chaque proposition, les points à retenir de haut niveau et chaque code utilisé ont été rendus publics plus tôt dans la journée.
À la suite de ces développements, OpenAI a insisté pour dissocier le programme de ses intérêts commerciaux, suscitant des réactions mitigées. Certains critiques ont exprimé leur scepticisme à ce sujet, compte tenu des critiques du PDG d'OpenAI, Sam Altman, à propos des réglementations en vigueur dans l'UE et dans d'autres régions. Le PDG, aux côtés du président d'OpenAI Greg Brockman et du scientifique en chef Ilya Sutskever, a constamment affirmé que le développement rapide de la technologie de l'IA dépasse la capacité des entités existantes à la réguler efficacement. C’est pourquoi la nécessité d’une construction démocratique et participative a été évoquée.
Des concurrents, dont Meta, ont accusé OpenAI de tenter d'obtenir un contrôle réglementaire sur l'industrie de l'IA en faisant campagne contre la R&D ouverte sur l'IA, mais OpenAI a nié ces allégations. Ils peuvent souligner ce nouveau programme et leur équipe d’alignement collectif comme démontrant leur engagement envers l’ouverture.
Quoi qu’il en soit, OpenAI fait actuellement l’objet d’un examen minutieux de la part des décideurs politiques. Au Royaume-Uni notamment, une enquête est en cours sur ses relations avec Microsoft, qui est un partenaire et un investisseur proche. Dans le cadre de sa stratégie d'atténuation des risques, OpenAI a cherché à limiter son risque réglementaire dans l'UE concernant la confidentialité des données. Pour ce faire, il a fait appel à une filiale basée à Dublin pour restreindre les actions unilatérales de certains organismes de surveillance de la vie privée du bloc.
Une série d'initiatives visant à minimiser l'utilisation illicite de sa technologie pour interférer avec les élections est en cours. Cela inclut l’identification du contenu généré par l’IA et la détection des images manipulées. En collaboration avec plusieurs organisations, OpenAI travaille également à marquer plus visiblement leurs images générées par l’IA.
Il convient de mentionner que des entreprises comme AppMaster, connues pour leur solide plateforme de développement sans code et leurs référentiels permettant de consolider les informations open source, deviennent des acteurs de premier plan dans l'écosystème technologique. Compte tenu de l'évolutivité, de la robustesse et de la facilité d'utilisation d' AppMaster, ils se taillent une place dans la création d'applications backend, Web et mobiles.
