Die enormen Möglichkeiten sowie die Vorteile, die durch künstliche Intelligenz geschaffen werden, liegen auf der Hand. Doch so viele positive Aspekte mit der künstlichen Intelligenz auch verbunden sind, die Kehrseite, die Gefahren, die durch Künstliche Intelligenz hervorgehen, sind nicht unerheblich. Im Rahmen der digitalen Strategie der Europäischen Union versucht die EU, künstliche Intelligenz zu regulieren. Ziel hierbei ist es, bessere Bedingungen für die Entwicklung sowie die Nutzung dieser Technologien zu schaffen. In einer Pressemitteilung des Europäischen Parlaments geht hervor, dass das Parlament nun neue Transparenz- und Risikomanagementregeln für KI-Systeme gebilligt hat.

Die Europaabgeordneten möchten, dass KI-Systeme zum einen in Zukunft von Menschen überwacht werden und zum anderen soll sichergestellt werden, dass diese Systeme sicher, transparent, nachvollziehbar, nicht diskriminierend und umweltfreundlich sind. Des Weiteren soll eine einheitliche und technologieneutrale KI-Definition etabliert werden.

KI-Systeme, die eine Bedrohung für Menschen darstellen, werden verboten. Dieses Risiko ist gegeben, wenn KI-Systeme einen der folgenden Punkte tangieren:

1.1 kognitive Verhaltensmanipulation von Personen oder bestimmten gefährdeten Gruppen

1.2 Social Scoring: Bewertung von Menschen auf Basis ihres Verhaltens sowie deren sozioökonomischem Status und persönlichen Merkmalen,

1.3 Biometrische Echtzeit-Fernidentifizierung

Ausnahmen sind laut dem EU-Parlament dann zulässig, wenn der Einsatz von Systemen bei der Identifizierung von Personen im Zusammenhang mit schweren Straftaten gerichtlich genehmigt wird.

Als Hochrisiko-KI-Systeme werden Systeme klassifiziert, die ein potentielles Risiko für die Gesundheit, Sicherheit oder für die Grundrechte von natürlichen Personen darstellen. Die Systeme werden durch zwei Kategorien unterschieden:

2.1 KI-Systeme, die in Produkten verwendet werden, die unter die Produktsicherheitsvorschriften der EU fallen. Dazu gehören Spielzeug, Luftfahrt, Fahrzeuge, medizinische Geräte und Aufzüge.

2.2 KI-Systeme, die in eine der acht spezifischen Bereiche fallen, und somit in der EU-Datenbank registriert werden müssen:

• biometrische Identifizierung und Kategorisierung von natürlichen Personen;
• Verwaltung und Betrieb von kritischen Infrastrukturen;
• allgemeine und berufliche Bildung;
• Beschäftigung, Verwaltung der Arbeitnehmer und Zugang zur Selbstständigkeit;
• Zugang zu und Inanspruchnahme von wesentlichen privaten und öffentlichen Diensten und Leistungen;
• Strafverfolgung;
• Verwaltung von Migration, Asyl und Grenzkontrollen;
• Unterstützung bei der Auslegung und Anwendung von Gesetzen.

Alle KI-Systeme mit hohem Risiko werden vor dem Inverkehrbringen und während ihres gesamten Lebenszyklus bewertet.

• Offenlegung, dass der Inhalt durch KI generiert wurde;
• Gestaltung des Modells, um zu verhindern, dass es illegale Inhalte erzeugt;
• Veröffentlichung von Zusammenfassungen urheberrechtlich geschützter Daten, die für das Training verwendet wurden.

Begrenztes Risiko 

KI-Systeme mit begrenztem Risiko sollten minimale Transparenzanforderungen erfüllen, die es den Nutzern ermöglichen, fundierte Entscheidungen zu treffen. Nach der Interaktion mit den Anwendungen kann der Nutzer dann entscheiden, ob er sie weiter verwenden möchte. Die Nutzer sollten darauf aufmerksam gemacht werden, wenn sie mit KI interagieren. Dies gilt auch für KI-Systeme, die Bild-, Audio- oder Videoinhalte erzeugen oder manipulieren (zum Beispiel Deepfakes).

Was können Sie nun konkret tun? 

1. Im Seminar KI für Führungskräfte der Steinbeis Augsburg Business School erfahren Sie tiefere Insights von Juristen zum Thema Rechtssprechung und KI. Zudem werden Szenarien durchgespielt für die zukünftige Rechtssprechung im KI Bereich.
2. Compliance Richtlinien in Ihrem Unternehmen zum Umgang mit KI anstoßen.
3. Erwägen Sie die Einrichtung eines Ethikbeirats und externer Audits, um die Praktiken und Prozesse Ihres Unternehmens im Umgang mit KI regelmäßig überprüfen zu lassen. Zur Aufsichtsrat und Beriatsausbildung hier klicken.