Meningkatnya Regulasi AI: Yang Perlu Diketahui Bisnis dan Cara Mempersiapkannya

Lanskap kecerdasan buatan (AI) dan pembelajaran mesin (ML) siap untuk transformasi yang signifikan, karena kerangka peraturan muncul untuk memberikan pedoman yang jelas tentang pengembangan dan penerapan teknologi AI. Saat Uni Eropa (UE) menyelesaikan Undang-Undang AI-nya dan AI generatif terus berkembang pesat, bisnis di seluruh dunia harus bersiap untuk peraturan AI yang lebih ketat yang akan memengaruhi operasi, produk, dan layanan mereka.

Untuk lebih memahami seperti apa regulasi AI bagi perusahaan dalam waktu dekat, kita dapat mempelajari fitur-fitur utama dari Undang-undang AI UE, kemungkinan dampak dari perluasan global regulasi AI, dan strategi yang harus diadopsi organisasi untuk mempersiapkannya. perubahan waktu.

UU AI UE dan Implikasi Globalnya

Dijadwalkan untuk pemungutan suara parlemen pada akhir Maret 2023, Undang-Undang Kecerdasan Buatan Uni Eropa diharapkan dapat menetapkan standar global untuk regulasi Kecerdasan Buatan, seperti yang dilakukan Peraturan Perlindungan Data Umum (GDPR) Uni Eropa pada tahun 2018. Jika garis waktu dipatuhi, AI Act dapat diadopsi pada akhir tahun.

Meskipun ini adalah peraturan Eropa, dampak dari Undang-Undang Kecerdasan Buatan kemungkinan akan meluas jauh melampaui UE. Apa yang disebut 'Efek Brussels' akan memaksa organisasi yang beroperasi dalam skala internasional untuk mematuhi undang-undang tersebut, sementara AS dan perusahaan lain yang dipimpin secara independen akan menemukannya demi kepentingan terbaik mereka untuk mematuhi ketentuannya. Pergerakan baru-baru ini, seperti usulan Undang-Undang Kecerdasan Buatan & Data Kanada dan peraturan ketenagakerjaan otomatis Kota New York, semakin mengisyaratkan tren ini untuk mengadopsi peraturan AI di luar wilayah UE.

Kategori Risiko Sistem AI Berdasarkan UU AI

UU AI mengusulkan tiga kategori risiko untuk sistem AI, masing-masing disertai dengan pedoman dan konsekuensinya sendiri:

1. Risiko yang Tidak Dapat Diterima: Sistem AI dalam kategori ini akan dilarang. Mereka termasuk sistem manipulatif yang dapat menyebabkan bahaya, sistem identifikasi biometrik waktu nyata yang digunakan di ruang publik untuk penegakan hukum, dan semua bentuk penilaian sosial.
2. Risiko Tinggi: Kategori ini mencakup sistem AI seperti model pemindaian pelamar kerja, yang akan tunduk pada persyaratan hukum tertentu.
3. Risiko Terbatas dan Minimal: Banyak aplikasi AI yang saat ini digunakan oleh bisnis (termasuk chatbot dan alat manajemen inventaris yang didukung AI) termasuk dalam kategori ini dan sebagian besar akan tetap tidak diatur. Namun, aplikasi berisiko terbatas yang dihadapi pelanggan akan memerlukan pengungkapan bahwa AI sedang digunakan.

Regulasi AI: Apa yang Diharapkan

Karena Undang-Undang AI masih dalam rancangan dan efek globalnya belum ditentukan, sifat sebenarnya dari regulasi AI untuk organisasi masih belum pasti. Namun, dampaknya kemungkinan akan bergantung pada industri, jenis model yang dikembangkan, dan kategori risikonya.

Regulasi mungkin memerlukan pengawasan dari pihak ketiga yang menguji model AI terhadap populasi target yang dimaksud. Tes ini akan menilai faktor-faktor seperti kinerja model, margin kesalahan, dan pengungkapan sifat dan penggunaan model.

Untuk organisasi dengan sistem AI berisiko tinggi, UU AI telah menyediakan daftar persyaratan, termasuk sistem manajemen risiko, tata kelola dan manajemen data, dokumentasi teknis, penyimpanan catatan, transparansi, pengawasan manusia, akurasi, ketahanan, keamanan siber, penilaian kesesuaian , pendaftaran dengan pemerintah negara anggota UE, dan sistem pemantauan pasca pasar. Selain itu, pengujian keandalan industri AI (mirip dengan pemeriksaan elektronik untuk mobil) diperkirakan akan semakin meluas.

Mempersiapkan Regulasi AI

Pemimpin AI yang memprioritaskan kepercayaan dan mitigasi risiko saat mengembangkan model ML lebih mungkin berhasil menghadapi regulasi AI yang baru. Untuk memastikan kesiapan terhadap peraturan AI yang lebih ketat, organisasi harus mempertimbangkan langkah-langkah berikut:

1. Teliti dan didik tim tentang peraturan potensial dan dampaknya terhadap perusahaan Anda sekarang dan di masa depan.
2. Audit model yang ada dan yang direncanakan untuk menentukan kategori risikonya dan peraturan terkait yang paling memengaruhinya.
3. Kembangkan dan adopsi kerangka kerja untuk merancang solusi AI yang bertanggung jawab.
4. Pikirkan strategi mitigasi risiko AI untuk model yang ada dan yang akan datang, memperhitungkan tindakan yang tidak terduga.
5. Menetapkan strategi tata kelola dan pelaporan AI, memastikan beberapa pemeriksaan sebelum model ditayangkan.

Dengan Undang-Undang AI dan peraturan yang akan datang menandakan era baru untuk desain AI, AI yang etis dan adil tidak lagi hanya 'bagus untuk dimiliki' tetapi 'harus dimiliki'. Dengan secara proaktif mempersiapkan perubahan ini, organisasi dapat merangkul dunia regulasi AI dan memanfaatkan potensi penuh dari teknologi yang berkembang pesat ini. Selain itu, bisnis dapat memanfaatkan platform no-code yang kuat seperti AppMaster untuk mempercepat pengembangan AI mereka sambil memastikan kepatuhan terhadap peraturan yang muncul.