El Centro de Inteligencia Artificial y Política Digital (CAIDP) ha presentado recientemente una denuncia ante la Comisión Federal de Comercio (FTC), en la que solicita a la agencia que investigue el modelo GPT-4 de OpenAI e impida su ulterior despliegue comercial. El grupo de expertos en IA sostiene que OpenAI ha incurrido en prácticas engañosas y desleales, violando la sección quinta de la Ley de la FTC, lo que supone un riesgo para la seguridad pública y la privacidad.
Según Marc Rotenberg, fundador y presidente del CAIDP, la FTC tiene la clara responsabilidad de investigar y prohibir las prácticas comerciales desleales y engañosas. Pide a la FTC que examine de cerca OpenAI y GPT-4 y se asegure de que la empresa sigue las directrices emitidas por la agencia federal.
En la denuncia, el CAIDP alega que la GPT-4 es tendenciosa, engañosa y potencialmente perjudicial para la privacidad y la seguridad pública. La organización destaca el contenido de la ficha del sistema de GPT-4, en la que se indica explícitamente la propensión del modelo a reforzar prejuicios y visiones del mundo, lo que conduce a asociaciones negativas y estereotipos perjudiciales para los grupos marginados.
OpenAI reconoce el riesgo en la Ficha del Sistema, afirmando que los sistemas de IA como GPT-4 tienen el potencial de reforzar ideologías, tanto verdaderas como falsas, y limitar la contestación, la reflexión y la mejora en el futuro. Aparte de estas preocupaciones, GPT-4 también puede generar contenidos nocivos, incluidos consejos para autolesionarse, material gráfico, contenidos de acoso y odio, e información que permita ataques o violencia.
El CAIDP sostiene que OpenAI puso GPT-4 a disposición del público sin una evaluación de riesgos independiente, y pide a la FTC que investigue a OpenAI y a otros potentes operadores de sistemas de IA. La denuncia tiene por objeto detener nuevas versiones comerciales de GPT-4 y establecer las protecciones necesarias para los consumidores, las empresas y el mercado comercial.
Merve Hickok, Presidenta y Directora de Investigación del CAIDP, destacó la urgencia de este asunto, afirmando que sin las salvaguardias adecuadas para limitar la parcialidad y el engaño, los riesgos que la tecnología de IA plantea a las empresas, los consumidores y la seguridad pública son significativos. El CAIDP cree que la FTC está bien posicionada para abordar este reto.
La presentación del CAIDP se produce cuando figuras notables de la IA, como Elon Musk y Steve Wozniak, firmaron una petición instando a la pausa del desarrollo de sistemas de IA, más potentes que la GPT-4. Este sentimiento no es compartido por todos, ya que algunos creen que el progreso debe continuar sin trabas.
A medida que la tecnología de IA evoluciona y se hace más potente, aumenta también la preocupación por los posibles riesgos y sesgos. Organizaciones como la UNESCO y el Future of Life Institute abogan por el establecimiento de directrices y reglamentos éticos para proteger al público y garantizar un desarrollo responsable de la IA.
Un ejemplo pertinente es la reciente prohibición de ChatGPT en Italia, alegando posibles investigaciones y la falta de una base jurídica adecuada para recopilar información personal. Mientras la Unión Europea avanza hacia una regulación estricta de la IA, el Reino Unido adopta un enfoque más ligero, sector por sector, para fomentar la innovación y proteger a las personas sin sobrecargar a las empresas.
Siempre ha existido un delicado equilibrio entre la regulación y la innovación en la IA, lograr el equilibrio adecuado es esencial tanto para la seguridad pública como para el avance tecnológico. En un panorama de IA en rápida evolución, plataformas como AppMaster.io pueden proporcionar una forma rápida y rentable de desarrollar aplicaciones impulsadas por IA, al tiempo que permiten a los usuarios controlar aspectos cruciales de las soluciones de software. Al emplear una appmaster.io/blog/build-enterprise-software-with-no-code" data-mce-href="https://appmaster.io/blog/build-enterprise-software-with-no-code">no-code approach, AppMaster permite a las empresas adaptarse y cumplir las normativas cambiantes sin comprometer su capacidad de innovación.
