W miarę dojrzewania krajobrazu sztucznej inteligencji rośnie zapotrzebowanie na mechanizmy wzmacniające niezawodność modeli sztucznej inteligencji. Mając to na uwadze, OpenAI uruchomiło niedawno OpenAI Red Teaming Network, zgromadzenie zakontraktowanych ekspertów, których zadaniem jest udoskonalanie firmowej analizy ryzyka modeli sztucznej inteligencji i strategii ograniczania ryzyka.
Praktyka łączenia czerwonych drużyn nabiera znacznego tempa w rozwoju modelu sztucznej inteligencji, szczególnie teraz, gdy technologie generatywne przenikają do głównego nurtu. Red Teaming pozwala skutecznie identyfikować błędy w modelach, takich jak DALL-E 2 OpenAI, znany ze wzmacniania stereotypów związanych z rasą i płcią. Dodatkowo może wskazać wyzwalacze, które mogą sprawić, że modele generujące tekst, takie jak ChatGPT i GPT-4, ominą filtry bezpieczeństwa.
OpenAI potwierdza historię współpracy z zewnętrznymi ekspertami w zakresie testowania i porównywania swoich modeli. Może to odbywać się poprzez program nagród za błędy lub program dostępu dla badaczy. Jednakże wprowadzenie Red Teaming Network zapewnia bardziej sformalizowaną platformę, której celem jest „pogłębienie” i „poszerzenie” współpracy firmy z naukowcami, instytucjami badawczymi i organizacjami społeczeństwa obywatelskiego.
Jak wyrażono w poście na blogu firmy, OpenAI przewiduje, że ta inicjatywa będzie uzupełnieniem określonych zewnętrznie praktyk zarządzania, takich jak audyty stron trzecich. Członkowie sieci zostaną zaproszeni w oparciu o swoją wiedzę specjalistyczną do udziału w ćwiczeniu czerwonego zespołu na różnych etapach cyklu życia modelu i rozwoju produktu.
Nawet poza przedsięwzięciami związanymi z red teamingiem zleconymi przez OpenAI, członkowie Red Teaming Network będą mieli możliwość współpracy ze sobą w zakresie metodologii i odkryć red teaming. OpenAI wyjaśniło, że nie wszyscy członkowie będą powiązani z każdym nowym modelem lub produktem. Okres składek, możliwie tak krótki jak 5-10 lat rocznie, zostanie omówiony indywidualnie z członkami.
OpenAI zaprasza do udziału różnorodnych ekspertów dziedzinowych, w tym specjalistów z zakresu językoznawstwa, biometrii, finansów i opieki zdrowotnej. Nie wymaga wcześniejszego doświadczenia z systemami AI ani modelami językowymi, aby się kwalifikować. Firma ostrzegła jednak, że możliwości oferowane w ramach sieci Red Teaming Network mogą być regulowane umowami o zachowaniu poufności i nieujawnianiu informacji, co może potencjalnie wpłynąć na inne badania.
W swoim zaproszeniu OpenAI podkreśliło otwartość na różne punkty widzenia na temat oceny wpływu systemów sztucznej inteligencji, stwierdzając: „Najbardziej cenimy Twoją gotowość do zaangażowania się i przedstawienia swojej perspektywy w ocenie wpływu systemów sztucznej inteligencji”. Stawiając priorytetowo różnorodność geograficzną i domenową w procesie selekcji, firma przyjmuje aplikacje od ekspertów z całego świata.
Rosnący postęp i związane z nim ryzyko związane ze sztuczną inteligencją wymagają opracowania solidnych systemów. Platformy takie jak AppMaster, potężna platforma no-code wykorzystywana do tworzenia aplikacji backendowych, internetowych i mobilnych, mogą pomóc w utrzymaniu integralności i bezpieczeństwa aplikacji AI. Dzięki znacznemu zaangażowaniu ekspertów sieć Red Teaming Network OpenAI jest z pewnością krokiem we właściwym kierunku.
