Steigende KI-Regulierung: Was Unternehmen wissen müssen und wie sie sich vorbereiten müssen

Die Landschaft der künstlichen Intelligenz (KI) und des maschinellen Lernens (ML) steht vor einem bedeutenden Wandel, da regulatorische Rahmenbedingungen entstehen, die klare Richtlinien für die Entwicklung und Implementierung von KI-Technologien bieten. Während die Europäische Union (EU) ihr KI-Gesetz fertigstellt und sich die generative KI rasant weiterentwickelt, sollten sich Unternehmen weltweit auf strengere KI-Vorschriften vorbereiten, die sich auf ihre Abläufe, Produkte und Dienstleistungen auswirken werden.

Um besser zu verstehen, wie die KI-Regulierung für Unternehmen in naher Zukunft aussehen könnte, können wir die wichtigsten Merkmale des EU-KI-Gesetzes, die möglichen Auswirkungen der globalen Ausweitung der KI-Regulierung und die Strategien untersuchen, die Organisationen anwenden sollten, um sich darauf vorzubereiten Zeiten ändern sich.

Das EU-KI-Gesetz und seine globalen Auswirkungen

Das EU-KI-Gesetz, das bis Ende März 2023 im Parlament abgestimmt werden soll, soll einen globalen Standard für die KI-Regulierung schaffen, ähnlich wie es die EU-Datenschutz-Grundverordnung (DSGVO) im Jahr 2018 getan hat KI-Gesetz könnte bis Ende des Jahres verabschiedet werden.

Obwohl es sich um eine europäische Verordnung handelt, dürfte die Wirkung des KI-Gesetzes weit über die EU hinausreichen. Der sogenannte „Brüssel-Effekt“ wird international tätige Organisationen dazu zwingen, sich an die Gesetzgebung zu halten, während US-amerikanische und andere unabhängig geführte Unternehmen es in ihrem besten Interesse finden werden, sich an seine Bestimmungen zu halten. Jüngste Schritte, wie der kanadische Vorschlag zum Gesetz über künstliche Intelligenz und Daten und die automatisierte Beschäftigungsverordnung von New York City, signalisieren diesen Trend zur Einführung von KI-Vorschriften über das Gebiet der EU hinaus.

Risikokategorien von KI-Systemen nach dem KI-Gesetz

Das KI-Gesetz schlägt drei Risikokategorien für KI-Systeme vor, die jeweils mit eigenen Richtlinien und Konsequenzen einhergehen:

1. Inakzeptables Risiko: KI-Systeme dieser Kategorie werden verboten. Dazu gehören manipulative Systeme, die Schaden anrichten können, biometrische Echtzeit-Identifikationssysteme, die im öffentlichen Raum für die Strafverfolgung verwendet werden, und alle Formen von Social Scoring.
2. Hohes Risiko: Diese Kategorie umfasst KI-Systeme wie Scanmodelle von Bewerbern, die besonderen gesetzlichen Anforderungen unterliegen.
3. Begrenztes und minimales Risiko: Viele der KI-Anwendungen, die derzeit von Unternehmen verwendet werden (einschließlich Chatbots und KI-gestützte Bestandsverwaltungstools), fallen in diese Kategorie und werden weitgehend unreguliert bleiben. Bei kundenorientierten Anwendungen mit begrenztem Risiko muss jedoch offengelegt werden, dass KI verwendet wird.

KI-Regulierung: Was zu erwarten ist

Da sich das KI-Gesetz noch im Entwurfsstadium befindet und seine globalen Auswirkungen unbestimmt sind, bleibt die genaue Art der KI-Regulierung für Organisationen ungewiss. Seine Auswirkungen werden jedoch wahrscheinlich von der Branche, der Art des zu entwickelnden Modells und der Risikokategorie abhängen, zu der es gehört.

Die Regulierung kann eine Prüfung durch Dritte nach sich ziehen, die KI-Modelle anhand der beabsichtigten Zielgruppe einem Stresstest unterziehen. Bei diesen Tests werden Faktoren wie die Modellleistung, Fehlermargen und die Offenlegung der Art und Verwendung des Modells bewertet.

Für Organisationen mit KI-Systemen mit hohem Risiko hat das KI-Gesetz bereits eine Liste von Anforderungen bereitgestellt, darunter Risikomanagementsysteme, Daten-Governance und -Management, technische Dokumentation, Aufbewahrung von Aufzeichnungen, Transparenz, menschliche Aufsicht, Genauigkeit, Robustheit, Cybersicherheit, Konformitätsbewertung , Registrierung bei den Regierungen der EU-Mitgliedstaaten und Überwachungssysteme nach dem Inverkehrbringen. Darüber hinaus wird erwartet, dass sich Zuverlässigkeitstests in der KI-Industrie (ähnlich wie E-Checks für Autos) weiter verbreiten werden.

Vorbereitung auf KI-Vorschriften

KI-Führungskräfte, die Vertrauen und Risikominderung bei der Entwicklung von ML-Modellen priorisieren, werden angesichts neuer KI-Vorschriften mit größerer Wahrscheinlichkeit erfolgreich sein. Um sicherzustellen, dass sie für strengere KI-Vorschriften gerüstet sind, sollten Unternehmen die folgenden Schritte in Betracht ziehen:

1. Recherchieren und schulen Sie Teams über potenzielle Vorschriften und deren Auswirkungen auf Ihr Unternehmen jetzt und in der Zukunft.
2. Prüfen Sie bestehende und geplante Modelle, um ihre Risikokategorien und die damit verbundenen Vorschriften zu bestimmen, die sie am stärksten betreffen.
3. Entwickeln und übernehmen Sie einen Rahmen für die Gestaltung verantwortungsbewusster KI-Lösungen.
4. Durchdenken Sie die KI-Risikominderungsstrategie sowohl für bestehende als auch für zukünftige Modelle und berücksichtigen Sie unerwartete Aktionen.
5. Richten Sie eine KI-Governance- und Berichtsstrategie ein und stellen Sie sicher, dass mehrere Prüfungen durchgeführt werden, bevor ein Modell live geht.

Mit dem KI-Gesetz und den bevorstehenden Vorschriften, die eine neue Ära für das KI-Design einläuten, ist ethische und faire KI nicht mehr nur ein „nice to have“, sondern ein „must have“. Durch die proaktive Vorbereitung auf diese Veränderungen können Unternehmen die Welt der KI-Regulierung nutzen und das volle Potenzial dieser sich schnell entwickelnden Technologie nutzen. Darüber hinaus können Unternehmen leistungsstarke no-code Plattformen wie AppMaster nutzen, um ihre KI-Entwicklungen zu beschleunigen und gleichzeitig die Einhaltung neuer Vorschriften sicherzustellen.