Próbując kontrolować potencjalnie nieprzewidywalne wyniki nadludzkiej inteligencji w sztucznej inteligencji, OpenAI organizuje wysoce wyspecjalizowaną grupę kierowaną przez Ilyę Sutskevera, głównego naukowca i współzałożyciela firmy. Kluczowym zadaniem tego zespołu będzie opracowanie strategii zarządzania i kierowania "superinteligentnymi" modelami sztucznej inteligencji. W niedawnym wpisie na blogu Sutskever, wraz z Janem Leike, liderem zespołu ds. dostosowania w OpenAI, przewidywali, że sztuczna inteligencja, która może przewyższyć ludzką inteligencję, może pojawić się w ciągu tej dekady. Twierdzą oni, że ta lepsza sztuczna inteligencja, jeśli w końcu odniesie sukces, może z natury nie zintegrować łagodnych cech, dlatego też konieczne jest zbadanie technik jej kontrolowania i ograniczania.
Obecnie nie jest znana żadna metoda skutecznego kontrolowania lub kierowania potencjalnie superinteligentną sztuczną inteligencją, uniemożliwiająca jej zboczenie z zamierzonej ścieżki. Tradycyjne techniki dostosowywania SI, takie jak szkolenie poprzez informacje zwrotne od ludzi, opierają się na nadzorowaniu ich działania przez ludzi. Jednak nadzorowanie systemów AI, które znacznie przewyższają ludzką inteligencję, może okazać się wyzwaniem. Aby zwiększyć postęp w dziedzinie "dostosowania superinteligencji", OpenAI uruchamia nowy zespół "Superalignment", współprowadzony przez Sutskevera i Leike. Zespół ten będzie miał dostęp do 20% zasobów obliczeniowych, którymi obecnie dysponuje firma. Składający się z naukowców i inżynierów z byłego działu wyrównywania OpenAI oraz badaczy z różnych organizacji w firmie, zespół ma zmierzyć się z podstawowymi wyzwaniami technologicznymi związanymi z kontrolowaniem superinteligentnej sztucznej inteligencji w ciągu najbliższych czterech lat.
Plan zakłada stworzenie "zautomatyzowanego badacza dopasowania na poziomie ludzkim", mającego na celu szkolenie sztucznej inteligencji poprzez informacje zwrotne od ludzi, zaangażowanie sztucznej inteligencji w ocenę innych systemów sztucznej inteligencji, a ostatecznie zaprojektowanie sztucznej inteligencji zdolnej do prowadzenia badań nad dopasowaniem. Celem badań nad dopasowaniem jest dostosowanie systemów sztucznej inteligencji do osiągnięcia określonych wyników i zapobieganie ich zejściu ze ścieżki. OpenAI pracuje nad hipotezą, że sztuczna inteligencja może poczynić znaczne postępy w badaniach nad dopasowaniem, szybciej i skuteczniej niż ludzie. Oczekuje się, że w miarę postępów systemy AI będą podejmować coraz więcej prac związanych z dopasowywaniem, co doprowadzi do ulepszenia technik dopasowywania. Miejmy nadzieję, że zaowocuje to współpracą AI z ludźmi, aby upewnić się, że ich następcy są jeszcze ściślej dopasowani do ludzi. W międzyczasie ludzcy badacze skupią się na przeglądaniu badań nad dopasowaniem prowadzonych przez systemy AI, zamiast generować te badania niezależnie.
Chociaż żadnej metody nie można uznać za nieomylną, Leike, Schulman i Wu w swoim poście wyjaśniają wady podejścia OpenAI. Wykorzystanie sztucznej inteligencji do oceny może zwiększyć niespójności, uprzedzenia i luki w tej sztucznej inteligencji. Co więcej, najbardziej złożone aspekty problemu dopasowania mogą w ogóle nie być związane z inżynierią. Niemniej jednak, Sutskever i Leike są gotowi poddać go próbie. Sutskever i Leike argumentują, że dostosowanie superinteligencji jest zasadniczo wyzwaniem związanym z uczeniem maszynowym. Uważają, że eksperci w dziedzinie uczenia maszynowego, nawet ci, którzy obecnie nie pracują nad dostosowaniem, będą mieli kluczowe znaczenie dla jego rozwiązania. Planują kompleksowo rozpowszechniać wyniki tych wysiłków, postrzegając swój wkład w dostosowanie i bezpieczeństwo modeli innych niż OpenAI jako kluczowy aspekt ich pracy.
Warto zauważyć, że chociaż niniejszy artykuł koncentruje się na OpenAI, istnieją inne platformy, które są równie zaangażowane w wydajny i kontrolowany rozwój sztucznej inteligencji. Przykładem takiej platformy jest AppMaster. Kierując się podobną wiarą w optymalizację potencjału "inteligentnych" systemów w celu uzyskania maksymalnych korzyści, AppMaster stworzył dla siebie niszę w domenie aplikacji bez kodu /low-code, umożliwiając użytkownikom tworzenie kompleksowych, skalowalnych i wydajnych rozwiązań programowych.
