OpenAI udostępnia granty na superwyrównanie o wartości 10 milionów dolarów

Gigant technologiczny OpenAI zapoczątkował nowatorski program grantowy skupiający podnoszące na duchu podmioty zaangażowane w zapewnianie bezpiecznego działania superinteligentnych systemów. Rozwój ten następuje w momencie, gdy firma przewiduje pojawienie się superinteligencji za naszego życia, co rodzi pilną potrzebę opracowania wzmocnionych protokołów bezpieczeństwa sprzyjających takim przyszłym postępom.

W obliczu nadchodzącej ery transformacji AI OpenAI przewiduje te pionierskie przyszłe systemy wyposażone w zdolność wykonywania skomplikowanych, kreatywnych operacji, które mogą wymykać się ludzkiemu zrozumieniu.

Obecnie środki bezpieczeństwa stosowane w systemach sztucznej inteligencji skupiają się głównie na dostosowaniu – procesie kładącym nacisk na uczenie się przez wzmacnianie oparte na informacjach zwrotnych od człowieka (RLHF). Metoda ta opiera się na znaczącej roli nadzorczej człowieka i może potencjalnie zawieść w scenariuszu, w którym superinteligentna sztuczna inteligencja napędza rozwój i realizację wysoce zaawansowanych zadań. Rozważ prototyp sztucznej inteligencji generujący miliony linii kodu; systematyczna ocena całości byłaby herkulesowa ze strony ludzi.

Firma zwróciła uwagę na wyraźny dylemat wymagający natychmiastowej uwagi – w jaki sposób ludzie mogą kierować systemami AI i budować zaufanie do nich, znacznie bardziej intelektualnie niż oni sami? Uznając to za jedną z najpilniejszych, nierozwiązanych zagadek technicznych na świecie, OpenAI podtrzymuje pozytywne nastawienie, podkreślając, że droga do odkrycia rozwiązań jest rozproszona i obejmuje wiele obiecujących podejść, gotowych do wyboru.

Krytyka tej firmy technologicznej nie tylko wzmacnia znaczące możliwości stojące przed społecznością badaczy zajmujących się uczeniem maszynowym i indywidualnymi badaczami, ale także kieruje uwagę na natychmiastowe badania i możliwe przełomowe osiągnięcia w tym sektorze.

W ramach dalszego wspierania tych przedsięwzięć badawczych OpenAI podjęła aktywne kroki w celu ustanowienia wizjonerskiego programu grantów Superalignment, wpompowując do swojej kasy 10 milionów dolarów. Przewiduje się, że laboratoria akademickie, organizacje non-profit i indywidualni badacze otrzymają alokacje w wysokości od 100 000 do 2 milionów dolarów. Oprócz tego firma przeznaczyła także roczne stypendia w wysokości 150 000 dolarów dla absolwentów naukowo-dydaktycznych, dzieląc fundusze na dwie części w celu sfinansowania badań i stypendiów.

To pocieszające odkrycie, że OpenAI wykazuje politykę otwartego umysłu, przyjmując aplikacje od badaczy bez wcześniejszego doświadczenia w zakresie dostosowywania, co stanowi świadectwo etosu firmy zakładającego włączenie i zachęcanie do świeżego spojrzenia.

Torując drogę chętnym wnioskodawcom, OpenAI pozostawi zgłoszenia otwarte do 18 lutego, starając się powrócić do wnioskodawców w ciągu miesiąca od ostatecznego terminu składania wniosków.

Nowa inicjatywa grantowa jest następstwem szerszego projektu Superalignment OpenAI zaprezentowanego w lipcu. W ramach tego ambitnego projektu firma utworzyła nowy wewnętrzny zespół, przeznaczając 20% swoich mocy produkcyjnych na następne cztery lata na sprostanie temu wyzwaniu. Nadrzędny cel: opracowanie superinteligentnego systemu, który realistycznie odwzorowuje możliwości badawcze człowieka w zakresie wyrównania.