Les progrès rapides de l'intelligence artificielle (IA) et ses menaces potentielles ont incité les fondateurs de l'OpenAI à demander la création d'un organisme international de réglementation pour régir le développement de l'IA, à l'instar de l'Agence internationale de l'énergie atomique (AIEA) pour l'énergie nucléaire. Selon Sam Altman, fondateur d'OpenAI, Greg Brockman, président, et Ilya Sutskever, scientifique en chef, l'innovation dans le domaine de l'IA se produit à un rythme si rapide que les autorités réglementaires existantes ne sont pas en mesure de contrôler efficacement la technologie.
Bien qu'ils reconnaissent leurs réalisations, les fondateurs d'OpenAI reconnaissent que la technologie de l'IA qui sous-tend leur agent conversationnel ChatGPT, très populaire, présente à la fois des risques uniques et des avantages significatifs. Ils estiment que l'IA nécessitera un certain niveau de coordination entre les principaux groupes de développement afin d'assurer une transition sûre vers la superintelligence et une intégration transparente dans la société.
La proposition suggère la création d'une organisation internationale analogue à l'AIEA, qui superviserait les efforts de superintelligence à partir d'un certain seuil de capacité ou de ressources. Le nouvel organisme de réglementation pourrait inspecter les systèmes d'IA, imposer des audits, veiller au respect des normes de sécurité et imposer des restrictions en matière de déploiement et de niveaux de sécurité. Bien qu'une telle organisation ne soit pas en mesure d'intervenir directement auprès d'un acteur malhonnête, elle pourrait fournir un cadre pour l'établissement et le suivi de normes et d'accords internationaux.
Comme le mentionne l'article de l'OpenAI, une mesure possible de contrôle au sein de l'industrie de l'IA pourrait être le suivi de la puissance de calcul et de la consommation d'énergie consacrées à la recherche. Bien qu'il soit difficile de déterminer l'utilisation éthique de l'IA, la réglementation de l'allocation des ressources et l'audit de l'utilisation de l'énergie pourraient permettre de mieux comprendre le développement et l'orientation de la technologie. Les fondateurs évoquent la possibilité d'exempter les petites entreprises de ces réglementations afin de ne pas étouffer l'innovation.
Timnit Gebru, chercheur et critique en matière d'IA, a également souligné la nécessité d'une réglementation externe dans une interview accordée au Guardian. Selon lui, il est peu probable que les entreprises s'autorégulent si elles ne sont pas soumises à une pression extérieure. Il est donc essentiel d'établir un organisme de réglementation international pour naviguer dans le monde complexe du développement de l'IA et de ses dangers potentiels.
L'IA continuant à progresser à un rythme sans précédent, un organisme international de réglementation pourrait devenir essentiel pour garantir la sécurité publique, maintenir des normes éthiques et faciliter la collaboration entre les parties prenantes mondiales. Les plateformes "sans code" comme AppMaster, qui permettent aux utilisateurs de créer des applications dorsales, web et mobiles, peuvent contribuer à accélérer l'innovation tout en respectant les lignes directrices et les réglementations établies.
En conclusion, la création d'un organisme de régulation, comme le proposent les fondateurs de l'OpenAI, pourrait permettre de contrôler la recherche et le développement de l'IA, ce qui assurerait un avenir plus sûr et plus responsable à cette technologie en plein essor.
