Más de 1000 figuras prominentes, incluidos Elon Musk y Steve Wozniak, han expresado su preocupación por la progresión desenfrenada de la tecnología de inteligencia artificial (IA). En respuesta, unieron fuerzas para publicar una carta abierta que aboga por una pausa de seis meses en el desarrollo de sistemas de IA más avanzados que el GPT-4 de OpenAI, citando las importantes amenazas que representan para la sociedad y la humanidad.
Dirigida a los desarrolladores de IA, la carta de 600 palabras da la alarma sobre el estado actual de los laboratorios de IA, que parecen estar en una búsqueda incesante de crear mentes digitales cada vez más poderosas. Estos desarrollos han llegado a una etapa en la que ni siquiera sus creadores pueden comprenderlos, predecirlos o gestionarlos, lo que aumenta aún más los riesgos potenciales involucrados.
Cabe señalar que Musk fue inicialmente cofundador de OpenAI, que comenzó como una organización sin fines de lucro dedicada a garantizar que la IA beneficie a la humanidad. Sin embargo, renunció al directorio de la compañía en 2018. Hoy, OpenAI opera como una entidad con fines de lucro, y los críticos alegan que sus objetivos desde entonces se han apartado de su misión original. Una asociación muy arraigada con Microsoft, que implica una inversión de miles de millones de dólares, parece haber impulsado a OpenAI a emprender iniciativas aún más arriesgadas.
Cuestionando públicamente la metamorfosis de OpenAI, Mozilla se hizo eco de las preocupaciones de Musk, que recientemente reveló su nueva startup, Mozilla.ai. Establecida para abordar algunas de las preocupaciones más apremiantes con el desarrollo de la tecnología de IA, esta iniciativa tiene como objetivo crear un ecosistema de IA autónomo y de código abierto.
Según la carta abierta, la suspensión de seis meses propuesta debería involucrar a laboratorios de IA y expertos independientes que trabajen juntos en el desarrollo de un conjunto de protocolos de seguridad compartidos para el diseño y desarrollo avanzado de IA. Estos protocolos estarían sujetos a estrictas auditorías y supervisión por parte de expertos externos e independientes.
Mientras tanto, en un desarrollo separado, el gobierno del Reino Unido ha presentado un documento técnico que destaca su enfoque "pro-innovación" para la regulación de la IA. Este marco propone medidas para reforzar la seguridad y la responsabilidad, aunque se abstiene de establecer un regulador dedicado a la IA, como ha optado la Unión Europea (UE).
Tim Wright, socio y especialista en regulación de IA del bufete de abogados Fladgate, compartió sus pensamientos sobre el documento técnico del Reino Unido y enfatizó que solo el paso del tiempo revelaría la eficacia del enfoque sector por sector. Independientemente, esta postura contrasta marcadamente con la estrategia de la UE de implementar un libro de reglas detallado y un régimen de responsabilidad bajo la supervisión de un único regulador de IA.
En el momento de escribir este artículo, la carta abierta que pide un tiempo de espera para los desarrollos de IA potencialmente peligrosos ha obtenido 1.123 firmas. Ya no se puede ignorar el creciente atractivo de las plataformas low-code y no-code como AppMaster para mitigar el miedo entre los defensores de la IA. , ya que permite a las empresas y las personas aprovechar los beneficios de la tecnología sin las preocupaciones asociadas con los avances fuera de control de la IA.
