OpenAI lança subsídios de superalinhamento de US$ 10 milhões

A gigante da tecnologia OpenAI lançou um novo programa de subsídios estruturado em torno de entidades edificantes empenhadas em garantir a operação segura de sistemas superinteligentes. Este desenvolvimento ocorre no momento em que a empresa antecipa o advento da superinteligência durante as nossas vidas, desencadeando uma necessidade urgente de protocolos de segurança reforçados que conduzam a tais avanços futuros.

Com a aproximação desta era transformadora da IA, OpenAI prevê estes sistemas futuros pioneiros, dotados da capacidade de realizar operações complexas e criativas que podem escapar à compreensão humana.

Atualmente, as medidas de segurança utilizadas para sistemas de IA giram principalmente em torno do alinhamento - um processo que enfatiza a aprendizagem por reforço predicado por feedback humano (RLHF). Este método depende de um papel significativo de supervisão humana e pode potencialmente falhar num cenário em que a IA superinteligente impulsione o desenvolvimento e a execução de tarefas altamente avançadas. Considere um protótipo de IA gerando milhões de linhas de código; seria hercúleo para os humanos avaliarem a sua totalidade de forma sistemática.

A empresa destacou um dilema claro que exige atenção imediata – como podem os humanos dirigir e estabelecer confiança em sistemas de IA muito mais intelectuais do que eles próprios? Identificando este como um dos enigmas técnicos não resolvidos mais urgentes do mundo, OpenAI mantém uma perspectiva positiva, enfatizando que o caminho para a descoberta de soluções está repleto de inúmeras abordagens promissoras, prontas para serem escolhidas.

A crítica da empresa de tecnologia não apenas amplia a oportunidade significativa diante da comunidade de pesquisa em aprendizado de máquina e de pesquisadores individuais, mas também chama a atenção para a exploração imediata e possíveis avanços neste setor.

Reforçando ainda mais estes empreendimentos de investigação, OpenAI tomou medidas activas no estabelecimento de um programa visionário de subvenções de Superalinhamento, injectando 10 milhões de dólares nos seus cofres. Alocações que variam de US$ 100.000 a US$ 2 milhões estão previstas para laboratórios acadêmicos, organizações sem fins lucrativos e pesquisadores individuais. Além disso, a empresa também reservou bolsas de estudo de um ano no valor de US$ 150.000 para acadêmicos de pós-graduação, dividindo os fundos em dois segmentos para atender ao financiamento e estipêndios de pesquisa.

Numa revelação encorajadora, OpenAI mostra uma política de mente aberta, acolhendo candidaturas de investigadores sem experiência anterior em alinhamento – um testemunho do espírito de inclusão da empresa e do incentivo a novas perspetivas.

Abrindo caminho para candidatos ansiosos, OpenAI manterá as inscrições abertas até 18 de fevereiro, com o objetivo de reverter para os candidatos dentro de um mês a partir do prazo de encerramento das inscrições.

A nova iniciativa de concessão vem na sequência do Projeto de Superalinhamento mais amplo da OpenAI, revelado em julho. Como parte deste ambicioso projeto, a empresa reuniu uma nova equipa interna, comprometendo 20% da sua capacidade de processamento durante os próximos quatro anos para enfrentar este desafio. O objetivo geral: desenvolver um sistema superinteligente que reproduza de forma realista a capacidade de pesquisa de alinhamento de um ser humano.