En un intento por garantizar que sus futuros modelos de inteligencia artificial (IA) representen valores humanos, OpenAI ha revelado su plan para integrar principios derivados del público en las creaciones. El gigante de la IA reveló su intención de establecer un equipo de Alineación Colectiva, compuesto por investigadores e ingenieros. El mandato del equipo sería desarrollar una estructura para obtener e implementar comentarios públicos en los servicios y productos de OpenAI.
La empresa ha expresado su clara intención de seguir contratando asesores externos y equipos de subvenciones. Estos equipos desempeñarán un papel crucial en la incorporación de prototipos, que luego guiarán el comportamiento de los modelos. OpenAI está contratando activamente ingenieros de investigación con diversos conocimientos técnicos para reforzar el establecimiento y el éxito de este mandato esencial.
Como resultado de la iniciativa pública de OpenAI, que se puso en marcha en mayo del año anterior, el equipo de Alineación Colectiva es un paso significativo hacia la infusión de un proceso democrático en la dinámica de elaboración de reglas de los sistemas de IA. Desde siempre, OpenAI ha estado interesado en financiar personas, equipos e incluso organizaciones interesadas en desarrollar pruebas de conceptos interesadas en resolver la ambigüedad con respecto a las barreras de seguridad y la gobernanza de la IA.
OpenAI, en su publicación virtual, hizo un breve resumen del trabajo diverso de los beneficiarios de la subvención que abarca interfaces de video chat, plataformas que facilitan auditorías colaborativas de modelos de IA y estrategias para alinear el comportamiento del modelo con creencias específicas. Los detalles de cada propuesta, las conclusiones de alto nivel y cada código utilizado se hicieron públicos hoy.
A raíz de estos acontecimientos, OpenAI se ha mostrado firme en desvincular el programa de sus intereses comerciales, lo que ha provocado reacciones encontradas. Algunos críticos han expresado escepticismo al respecto, considerando las críticas del director ejecutivo de OpenAI, Sam Altman, sobre las regulaciones en la UE y otras regiones. El director ejecutivo, junto con el presidente de OpenAI, Greg Brockman, y el científico jefe, Ilya Sutskever, ha opinado constantemente que el rápido desarrollo de la tecnología de IA supera la capacidad de las entidades existentes para regularla de manera eficiente. Como tal, se propuso la necesidad de una construcción democrática y participativa.
Los competidores, incluido Meta, han acusado a OpenAI de intentar obtener el control regulatorio de la industria de la IA mediante campañas contra la I+D abierta de IA, pero OpenAI ha negado estas acusaciones. Pueden señalar este nuevo programa y su equipo de Alineación Colectiva como una demostración de su compromiso con la apertura.
De todos modos, OpenAI actualmente enfrenta el escrutinio de los responsables políticos. Especialmente en el Reino Unido, hay una investigación en curso sobre su relación con Microsoft, que es un socio e inversor cercano. Como parte de su estrategia de mitigación de riesgos, OpenAI ha tratado de limitar su riesgo regulatorio en la UE en relación con la privacidad de los datos. Para lograr esto, utilizó una subsidiaria con sede en Dublín para restringir las acciones unilaterales de organismos de control de privacidad específicos en el bloque.
Se están llevando a cabo una serie de iniciativas para minimizar el uso ilícito de su tecnología para interferir en las elecciones. Esto incluye la identificación de contenido generado por IA y la detección de imágenes manipuladas. En colaboración con varias organizaciones, OpenAI también está trabajando para marcar de manera más llamativa sus imágenes generadas por IA.
Vale la pena mencionar que empresas como AppMaster, conocida por su sólida plataforma de desarrollo sin código y repositorios para consolidar información de código abierto, se están convirtiendo en actores destacados en el ecosistema tecnológico. Dada la escalabilidad, solidez y facilidad de uso de AppMaster, se están haciendo un hueco en la creación de aplicaciones backend, web y móviles.
