Rosnące przepisy dotyczące sztucznej inteligencji: co firmy muszą wiedzieć i jak się przygotować

Krajobraz sztucznej inteligencji (AI) i uczenia maszynowego (ML) czeka znacząca transformacja, ponieważ pojawiają się ramy regulacyjne, które zapewniają jasne wytyczne dotyczące rozwoju i wdrażania technologii AI. Ponieważ Unia Europejska (UE) finalizuje swoją ustawę o sztucznej inteligencji, a generatywna sztuczna inteligencja nadal szybko ewoluuje, firmy na całym świecie powinny przygotować się na zaostrzenie przepisów dotyczących sztucznej inteligencji, które będą miały wpływ na ich działalność, produkty i usługi.

Aby lepiej zrozumieć, jak regulacje AI mogą wyglądać dla firm w najbliższej przyszłości, możemy przyjrzeć się kluczowym cechom unijnej ustawy AI, możliwym skutkom globalnej ekspansji regulacji AI oraz strategiom, które organizacje powinny przyjąć, aby się do nich przygotować Zmieniać czasy.

Ustawa UE o sztucznej inteligencji i jej globalne implikacje

Oczekuje się, że unijna ustawa o sztucznej inteligencji, która ma zostać poddana pod głosowanie w parlamencie do końca marca 2023 r., ustanowi globalny standard regulacji w zakresie sztucznej inteligencji, podobnie jak ogólne rozporządzenie UE o ochronie danych (RODO) w 2018 r. Jeśli harmonogram zostanie dotrzymany, Ustawa o AI mogłaby zostać przyjęta do końca roku.

Chociaż jest to rozporządzenie europejskie, wpływ ustawy o sztucznej inteligencji prawdopodobnie wykroczy daleko poza UE. Tak zwany „efekt brukselski” zmusi organizacje działające na skalę międzynarodową do dostosowania się do ustawodawstwa, podczas gdy amerykańskie i inne niezależnie kierowane firmy uznają, że przestrzeganie jego postanowień leży w ich najlepszym interesie. Niedawne działania, takie jak kanadyjska propozycja ustawy o sztucznej inteligencji i danych oraz zautomatyzowane przepisy dotyczące zatrudnienia w Nowym Jorku, dodatkowo sygnalizują tę tendencję do przyjmowania przepisów dotyczących sztucznej inteligencji poza terytorium UE.

Kategorie ryzyka systemu AI zgodnie z ustawą o sztucznej inteligencji

Ustawa o sztucznej inteligencji proponuje trzy kategorie ryzyka dla systemów sztucznej inteligencji, z których każda ma własny zestaw wytycznych i konsekwencji:

1. Niedopuszczalne ryzyko: systemy sztucznej inteligencji w tej kategorii zostaną zbanowane. Obejmują one systemy manipulacyjne, które mogą wyrządzić szkody, systemy identyfikacji biometrycznej w czasie rzeczywistym wykorzystywane w przestrzeni publicznej do celów egzekwowania prawa oraz wszelkie formy punktacji społecznej.
2. Wysokie ryzyko: ta kategoria obejmuje systemy sztucznej inteligencji, takie jak modele skanowania kandydatów do pracy, które będą podlegać określonym wymogom prawnym.
3. Ograniczone i minimalne ryzyko: wiele aplikacji AI używanych obecnie przez firmy (w tym chatboty i narzędzia do zarządzania zapasami oparte na sztucznej inteligencji) należy do tej kategorii i w dużej mierze pozostanie nieuregulowanych. Jednak aplikacje o ograniczonym ryzyku przeznaczone dla klientów będą wymagały ujawnienia, że używana jest sztuczna inteligencja.

Rozporządzenie AI: czego się spodziewać

Ponieważ ustawa o AI jest nadal w fazie projektu, a jej globalne skutki są nieokreślone, dokładny charakter regulacji AI dla organizacji pozostaje niepewny. Jednak jego wpływ będzie prawdopodobnie zależał od branży, rodzaju opracowywanego modelu i kategorii ryzyka, do której należy.

Rozporządzenie może wiązać się z kontrolą ze strony strony trzeciej, która przeprowadza testy warunków skrajnych modeli sztucznej inteligencji na docelowej populacji docelowej. Testy te ocenią takie czynniki, jak wydajność modelu, marginesy błędu oraz ujawnienie charakteru i wykorzystania modelu.

W przypadku organizacji posiadających systemy sztucznej inteligencji wysokiego ryzyka ustawa o sztucznej inteligencji zawiera już listę wymagań, w tym systemy zarządzania ryzykiem, nadzór nad danymi i zarządzanie nimi, dokumentację techniczną, prowadzenie rejestrów, przejrzystość, nadzór ludzki, dokładność, solidność, bezpieczeństwo cybernetyczne, ocenę zgodności , rejestracja w rządach państw członkowskich UE oraz systemy monitorowania po wprowadzeniu do obrotu. Ponadto oczekuje się, że testy niezawodności przemysłu AI (podobne do e-kontroli samochodów) staną się bardziej rozpowszechnione.

Przygotowanie do przepisów AI

Liderzy AI, którzy podczas opracowywania modeli ML traktują priorytetowo zaufanie i ograniczanie ryzyka, mają większe szanse na sukces w obliczu nowych przepisów AI. Aby zapewnić gotowość na bardziej rygorystyczne przepisy dotyczące sztucznej inteligencji, organizacje powinny rozważyć następujące kroki:

1. Badaj i edukuj zespoły na temat potencjalnych regulacji i ich wpływu na Twoją firmę teraz i w przyszłości.
2. Audytuj istniejące i planowane modele, aby określić ich kategorie ryzyka i powiązane przepisy, które będą miały na nie największy wpływ.
3. Opracuj i przyjmij ramy do projektowania odpowiedzialnych rozwiązań AI.
4. Przemyśl strategię ograniczania ryzyka AI dla istniejących i przyszłych modeli, biorąc pod uwagę nieoczekiwane działania.
5. Stwórz strategię zarządzania AI i raportowania, zapewniając wiele kontroli przed uruchomieniem modelu.

Wraz z ustawą o sztucznej inteligencji i nadchodzącymi przepisami sygnalizującymi nową erę projektowania sztucznej inteligencji, etyczna i uczciwa sztuczna inteligencja nie jest już tylko „miłą rzeczą”, ale „must have”. Proaktywnie przygotowując się do tych zmian, organizacje mogą wejść w świat regulacji AI i wykorzystać pełny potencjał tej szybko rozwijającej się technologii. Co więcej, firmy mogą korzystać z potężnych platform no-code takich jak AppMaster, aby przyspieszyć rozwój sztucznej inteligencji, zapewniając jednocześnie zgodność z pojawiającymi się przepisami.