Los rápidos avances de la inteligencia artificial (IA) y sus posibles amenazas han llevado a los fundadores de OpenAI a pedir la creación de un organismo regulador internacional que regule el desarrollo de la IA, similar al Organismo Internacional de Energía Atómica (OIEA) para la energía nuclear. Según el fundador de OpenAI, Sam Altman, el presidente Greg Brockman y el científico jefe Ilya Sutskever, la innovación en IA se está produciendo a un ritmo tan rápido que las autoridades reguladoras existentes no son capaces de controlar eficazmente la tecnología.
Aunque reconocen sus logros, los fundadores de OpenAI reconocen que la tecnología de IA que hay detrás de su popular agente conversacional ChatGPT presenta tanto riesgos únicos como beneficios significativos. Creen que la IA requerirá cierto nivel de coordinación entre los principales grupos de desarrollo para garantizar una transición segura a la superinteligencia y una integración sin fisuras con la sociedad.
La propuesta sugiere la formación de una organización internacional análoga al OIEA, que supervisaría los esfuerzos de superinteligencia a partir de un determinado umbral de capacidad o recursos. El nuevo organismo regulador podría inspeccionar los sistemas de IA, ordenar auditorías, garantizar el cumplimiento de las normas de seguridad e imponer restricciones al despliegue y los niveles de seguridad. Aunque una organización de este tipo no pueda intervenir directamente ante un actor deshonesto, podría proporcionar un marco para establecer y supervisar normas y acuerdos internacionales.
Como se menciona en el post de OpenAI, una posible medida de escrutinio dentro de la industria de la IA podría ser el seguimiento de la potencia de cálculo y el consumo de energía dedicados a la investigación. Aunque determinar el uso ético de la IA puede resultar complicado, regular la asignación de recursos y auditar el consumo de energía podría aportar información sobre el desarrollo y la dirección de la tecnología. Los fundadores discuten la posibilidad de eximir a las empresas más pequeñas de esta normativa para evitar que se ahogue la innovación.
El investigador y crítico de la IA Timnit Gebru también hizo hincapié en la necesidad de una regulación externa en una entrevista con The Guardian. Gebru afirmó que es poco probable que las empresas se autorregulen a menos que exista una presión externa para que lo hagan. Por lo tanto, es crucial establecer un organismo regulador internacional para navegar por el complejo mundo del desarrollo de la IA y sus peligros potenciales.
Como la IA sigue avanzando a un ritmo sin precedentes, un organismo regulador internacional podría ser vital para garantizar la seguridad pública, mantener las normas éticas y facilitar la colaboración entre las partes interesadas de todo el mundo. Las plataformas sin código como AppMaster, que permiten a los usuarios crear aplicaciones backend, web y móviles, pueden ayudar a acelerar la innovación respetando las directrices y normativas establecidas.
En conclusión, la formación de un organismo regulador, como proponen los fundadores de OpenAI, podría proporcionar controles esenciales sobre la investigación y el desarrollo de la IA, lo que llevaría a un futuro más seguro y responsable para la floreciente tecnología.
