OpenAI presenta subvenciones de superalineación de 10 millones de dólares

El gigante tecnológico OpenAI ha introducido un novedoso programa de subvenciones estructurado en torno a entidades estimulantes comprometidas con garantizar el funcionamiento seguro de sistemas superinteligentes. Este desarrollo se produce cuando la empresa anticipa la llegada de la superinteligencia a nuestras vidas, lo que genera una necesidad urgente de protocolos de seguridad reforzados que conduzcan a tales avances futuros.

Con esta era transformadora de la IA que se avecina, OpenAI imagina estos futuros sistemas pioneros dotados de la capacidad de realizar operaciones complejas y creativas que pueden eludir la comprensión humana.

Actualmente, las medidas de seguridad utilizadas para los sistemas de IA giran principalmente en torno a la alineación, un proceso que enfatiza el aprendizaje por refuerzo predicado mediante retroalimentación humana (RLHF). Este método depende de una importante función de supervisión humana y podría fallar potencialmente en un escenario en el que la IA superinteligente impulse el desarrollo y la ejecución de tareas muy avanzadas. Considere un prototipo de IA que genera millones de líneas de código; Sería hercúleo que los humanos evaluaran su totalidad sistemáticamente.

La compañía ha resaltado un claro dilema que exige atención inmediata: ¿cómo pueden los humanos dirigir y establecer confianza en sistemas de IA mucho más intelectuales que ellos mismos? Al identificar esto como uno de los enigmas técnicos sin resolver más apremiantes del mundo, OpenAI mantiene una perspectiva positiva, enfatizando que el camino hacia el descubrimiento de soluciones está plagado de numerosos enfoques prometedores, listos para ser elegidos.

La crítica de la empresa de tecnología no solo amplifica la importante oportunidad que se presenta ante la comunidad de investigación del aprendizaje automático y los investigadores individuales, sino que también dirige la atención hacia la exploración inmediata y posibles avances en este sector.

Para reforzar aún más estos esfuerzos de investigación, OpenAI ha tomado medidas activas en el establecimiento de un visionario programa de subvenciones Superalignment, inyectando 10 millones de dólares en sus arcas. Se prevén asignaciones que oscilarán entre 100.000 y 2 millones de dólares para laboratorios académicos, organizaciones sin fines de lucro e investigadores individuales. Además de esto, la firma también ha destinado becas de un año por valor de 150.000 dólares para académicos graduados, dividiendo los fondos en dos segmentos para atender la financiación de la investigación y los estipendios.

En una revelación alentadora, OpenAI muestra una política de mente abierta, que da la bienvenida a solicitudes de investigadores sin experiencia previa en alineación, un testimonio del espíritu de inclusión de la empresa y el fomento de nuevas perspectivas.

Al allanar el camino a seguir para los solicitantes ansiosos, OpenAI mantendrá las solicitudes abiertas hasta el 18 de febrero, con el objetivo de volver a recibir a los solicitantes dentro de un mes a partir de la fecha límite de cierre de solicitudes.

La nueva iniciativa de subvención surge como resultado del Proyecto Superalignment más amplio de OpenAI presentado en julio. Como parte de este ambicioso proyecto, la empresa reunió un nuevo equipo interno y comprometió el 20% de su capacidad de procesamiento durante los próximos cuatro años para abordar este desafío. El objetivo general: desarrollar un sistema superinteligente que replique de manera realista la capacidad de investigación de alineación de un ser humano.