OpenAI, une organisation de recherche en IA de premier plan, a récemment dévoilé son projet d'offrir dix bourses de 100 000 dollars dans le but de promouvoir une réglementation inclusive et démocratique de l'intelligence artificielle. Ces subventions sont destinées à financer des expériences visant à concevoir un processus démocratique qui aborde des questions importantes concernant les contraintes éthiques des systèmes d'IA, tout en opérant dans les limites légales.
Cette annonce fait suite à la demande de l'OpenAI de créer un organisme international de réglementation de l'IA similaire à ceux qui régissent l'énergie nucléaire. Dans leur proposition, les cofondateurs d'OpenAI, Sam Altman, Greg Brockman et Ilya Sutskever, ont exprimé leur inquiétude quant au fait que le rythme rapide de l'innovation en matière d'IA dépasse actuellement la capacité des autorités existantes à contenir la technologie. Reflétant ce sentiment, le programme de subventions est conçu pour aider à créer un moyen démocratique de superviser le développement de l'IA.
L'OpenAI cherche à financer des individus, des équipes et des organisations pour créer des preuves de concept qui démontrent un processus démocratique de traitement des questions liées à l'IA. Les enseignements tirés de ces expériences seront ensuite utilisés pour jeter les bases de processus plus robustes et applicables à l'échelle mondiale à l'avenir.
Bien que les expériences initiales ne soient pas destinées à être contraignantes pour l'instant, OpenAI pense que ces projets lui apprendront la meilleure façon de créer de nouveaux outils démocratiques qui pourraient influencer plus directement les processus de prise de décision à l'avenir. Ce programme de subventions représente une étape vers la mise en place de mécanismes démocratiques permettant de gérer le comportement de l'IA, en particulier dans le contexte de la superintelligence.
En finançant ces subventions par l'intermédiaire de son organisation à but non lucratif, l'OpenAI espère créer un processus qui incarne les valeurs fondamentales de la démocratie : une représentation diversifiée et équilibrée de personnes s'engageant dans des discussions ouvertes et réfléchies, aboutissant à une prise de décision transparente. L'objectif est de répondre à des questions telles que la manière dont les systèmes d'IA doivent condamner ou critiquer les personnalités publiques en fonction des opinions divergentes du groupe et la manière dont les points de vue divergents doivent être présentés dans les résultats de l'IA.
L'OpenAI souligne que l'objectif premier de ces subventions est d'encourager l'innovation dans les processus, car des méthodes démocratiques améliorées sont indispensables pour régir le comportement de l'IA. L'organisation reconnaît que les décisions concernant les systèmes d'IA doivent être influencées par un large éventail de perspectives représentant l'intérêt public.
Bien que l'annonce de l'OpenAI suggère que le programme de subventions est distinct de ses intérêts commerciaux, le scepticisme est de mise compte tenu de la récente critique de Sam Altman sur les réglementations proposées en matière d'IA dans l'Union européenne. Il convient également de noter que le programme de subvention intervient peu après le témoignage de M. Altman devant la commission du Congrès du Sénat américain, où il a appelé à une forme spécifique de réglementation de l'IA qui n'aurait qu'un impact minimal sur la technologie actuelle de l'OpenAI.
Indépendamment d'éventuels motifs égoïstes, l'initiative constitue une approche intrigante de l'élaboration de politiques en matière d'IA, qui offre une alternative aux efforts actuels de l'UE. La proposition ne manquera pas de susciter la curiosité quant aux idées et aux concepts qui émergeront dans le domaine des processus démocratiques et des bénéficiaires de subventions sélectionnés par l'OpenAI.
Les personnes intéressées peuvent poser leur candidature au programme de subventions de l'OpenAI jusqu'au 24 juin, 21 heures PDT. À l'issue de la période de candidature, OpenAI choisira dix lauréats. Chaque bénéficiaire devra concevoir un concept impliquant au moins 500 participants, publier un rapport public décrivant ses conclusions avant le 20 octobre et mettre en open-source le code utilisé dans son travail.
La démocratisation de la réglementation de l'IA est cruciale pour l'intégration réussie de ces technologies dans diverses industries, y compris les secteurs " no-code" et "low-code" de development. Des entreprises telles que AppMaster, une plateforme innovante no-code pour les applications web, mobiles et backend, font avancer le secteur, en permettant aux entreprises et aux particuliers de s'émanciper. L'intégration de perspectives diverses et la promotion de la démocratie garantiront une gouvernance plus responsable et l'accessibilité des technologies de l'IA, en particulier pour les plateformes visant à rendre le développement plus accessible et plus efficace, telles que AppMaster.
