AI 규제 강화: 기업이 알아야 할 사항 및 준비 방법

AI 기술의 개발 및 구현에 대한 명확한 지침을 제공하기 위한 규제 프레임워크가 등장함에 따라 인공 지능(AI) 및 기계 학습(ML)의 환경은 중대한 변화를 맞이할 태세입니다. 유럽 연합(EU)이 AI 법안을 마무리하고 생성적 AI가 계속해서 빠르게 발전함에 따라 전 세계 기업은 운영, 제품 및 서비스에 영향을 미칠 더 엄격한 AI 규정에 대비해야 합니다.

가까운 미래에 AI 규제가 기업에 어떤 모습일지 더 잘 이해하기 위해 EU AI 법의 주요 특징, AI 규제의 글로벌 확장이 미칠 수 있는 영향, 조직이 이에 대비하기 위해 채택해야 하는 전략을 검토할 수 있습니다. 변화하는 시대.

EU AI 법과 글로벌 시사점

2023년 3월 말까지 의회 투표가 예정된 EU AI 법은 2018년 EU의 GDPR(일반 데이터 보호 규정)과 마찬가지로 AI 규제에 대한 글로벌 표준을 수립할 것으로 예상됩니다. AI 법은 연말까지 채택될 수 있습니다.

유럽 규정이지만 AI 법의 영향은 EU를 훨씬 넘어설 가능성이 높습니다. 소위 '브뤼셀 효과'는 국제 규모로 운영되는 조직이 법률을 준수하도록 강요할 것이며, 미국 및 기타 독립적 주도 기업은 규정을 준수하는 것이 최선의 이익임을 알게 될 것입니다. 캐나다의 인공지능 및 데이터법(Artificial Intelligence & Data Act) 제안과 뉴욕시의 자동화된 고용 규정과 같은 최근의 움직임은 EU 영토를 넘어 AI 규정을 채택하려는 이러한 추세를 더욱 잘 보여줍니다.

AI 법에 따른 AI 시스템 위험 범주

AI 법은 AI 시스템에 대한 세 가지 위험 범주를 제안하며, 각 범주에는 고유한 지침과 결과가 수반됩니다.

1. 허용할 수 없는 위험: 이 범주의 AI 시스템은 금지됩니다. 여기에는 해를 끼칠 수 있는 조작 시스템, 법 집행을 위해 공공 장소에서 사용되는 실시간 생체 인식 시스템 및 모든 형태의 사회적 점수가 포함됩니다.
2. 고위험: 이 범주는 구직자 스캐닝 모델과 같은 특정 법적 요구 사항이 적용되는 AI 시스템을 다룹니다.
3. 제한적 및 최소 위험: 현재 기업에서 사용하는 많은 AI 애플리케이션(챗봇 및 AI 기반 재고 관리 도구 포함)이 이 범주에 속하며 대체로 규제되지 않을 것입니다. 그러나 고객을 대면하는 제한된 위험 응용 프로그램은 AI가 사용되고 있음을 공개해야 합니다.

AI 규제: 예상 사항

AI 법은 아직 초안이 작성 중이고 글로벌 효과가 결정되지 않았기 때문에 조직에 대한 AI 규제의 정확한 성격은 불확실합니다. 그러나 그 영향은 산업, 개발 중인 모델 유형 및 속한 위험 범주에 따라 달라질 수 있습니다.

규제는 의도된 대상 모집단에 대해 AI 모델을 스트레스 테스트하는 제3자의 정밀 조사를 수반할 수 있습니다. 이러한 테스트는 모델 성능, 오차 범위, 모델의 특성 및 사용 공개와 같은 요소를 평가합니다.

고위험 AI 시스템을 보유한 조직의 경우 AI 법은 이미 위험 관리 시스템, 데이터 거버넌스 및 관리, 기술 문서, 기록 보관, 투명성, 인적 감독, 정확성, 견고성, 사이버 보안, 적합성 평가를 포함한 요구 사항 목록을 제공했습니다. , EU 회원국 정부 등록 및 시판 후 모니터링 시스템. 또한 AI 산업 신뢰성 테스트(자동차의 e-check와 유사)가 더욱 보편화될 것으로 예상됩니다.

AI 규제 준비

ML 모델을 개발할 때 신뢰와 위험 완화를 우선시하는 AI 리더는 새로운 AI 규정에 직면하여 성공할 가능성이 더 큽니다. 보다 엄격한 AI 규정에 대비하기 위해 조직은 다음 단계를 고려해야 합니다.

1. 잠재적인 규제와 현재와 미래에 회사에 미치는 영향에 대해 팀을 조사하고 교육합니다.
2. 기존 및 계획된 모델을 감사하여 가장 큰 영향을 미칠 위험 범주 및 관련 규정을 결정합니다.
3. 책임 있는 AI 솔루션 설계를 위한 프레임워크를 개발하고 채택합니다.
4. 예상치 못한 조치를 고려하여 기존 모델과 미래 모델 모두에 대한 AI 위험 완화 전략을 생각하십시오.
5. AI 거버넌스 및 보고 전략을 수립하여 모델이 실행되기 전에 여러 번 확인합니다.

AI 설계의 새로운 시대를 알리는 AI 법과 향후 규제로 인해 윤리적이고 공정한 AI는 더 이상 '있으면 좋은 것'이 아니라 '꼭 있어야 하는 것'이 되었습니다. 이러한 변화에 선제적으로 대비함으로써 조직은 AI 규제의 세계를 수용하고 빠르게 진화하는 이 기술의 잠재력을 최대한 활용할 수 있습니다. 또한 기업은 AppMaster 와 같은 강력한 no-code 플랫폼을 활용하여 AI 개발을 가속화하는 동시에 새로운 규정을 준수할 수 있습니다.