AI-Act im Amtsblatt der EU veröffentlicht

Die wichtigsten Regelungspunkte im Überblick

Risikobasierter Ansatz

• Verbotenes und unakzeptables Risiko: Verboten sind KI-Systeme, die die Sicherheit, die Rechte oder die Freiheiten der Menschen bedrohen. Hierzu gehört zum Beispiel das Social Scoring, also ein System, das Menschen sozial bewertet. Ebenso zählt hierzu eine manipulative Verhaltenssteuerung.

• Hohes Risiko: Zu dieser Risikostufe gehören KI-Systeme, die in kritischen Bereichen eingesetzt werden, wie etwa im Gesundheitswesen, in der Strafverfolgung, in der Bildung und oder im Arbeitsrecht. Derartige Systeme können strengen Vorschriften und Auflagen unterliegen. Zudem gelten für diese strenge Transparenz-, Sicherheits- und Ethikstandards.

• Begrenztes Risiko: Hierzu gehören Chatbots oder virtuelle Assistenten. Ebenso fallen darunter Empfehlungssysteme, Algorithmen für personalisierte Produktempfehlungen, Bild- und Sprachbearbeitungswerkzeug oder Systeme zur Optimierung von Marketing- und Werbesystemen. Bei solchen Systemen muss den Nutzern mitgeteilt werden, dass sie mit einem KI-System interagieren. Gemeinsam ist diesen KI-Systemen, dass sie keinen unmittelbaren Einfluss auf grundlegende Rechte und Freiheiten der Nutzer haben. Das Hauptziel der Transparenzpflichten liegt in der angemessenen Information des Nutzers, damit dieser fundierte Entscheidungen treffen kann.

• Minimales Risiko: Zu KI-Anwendungen mit minimalem Risiko zählen etwa Suchmaschinen, Übersetzungstools, Rechtschreib- und Grammatikprüfungen oder auch KI-gestützte Musik- oder Videoempfehlungen. Solche Anwendungen gelten als relativ sicher für die Gesellschaft und die Freiheitsrechte. Daher unterliegen sie nur sehr geringen oder gar keinen regulatorischen Anforderungen. 

Aufsicht

Nationale Aufsichtsbehörden

• die Registrierung und Zertifizierung von KI-Systemen, 

• die Durchführung von Kontrollen und Inspektionen

• oder die Ergreifung von Maßnahmen zur Durchsetzung der Regelungen des AI-Acts

Europäischer Ausschuss für Künstliche Intelligenz

• Förderung der Harmonisierung der Aufsichtspraktiken unter den Mitgliedstaaten,

• die Beratung der EU-Kommission zu technischen und politischen Fragen

• sowie die Entwicklung von Richtlinien und Empfehlungen zur Unterstützung der nationalen Behörden.

Marktüberwachung

• die Überprüfung von Produkten

• sowie die Einrichtung von Marktüberwachungsprogrammen – zum Beispiel von Meldesystemen für schwerwiegende Vorfälle, von Fehlfunktionen oder von Hochrisiko-KI-Systemen. So müssen Anbieter schwerwiegende Vorfälle oder Fehlfunktionen unverzüglich melden. Zudem können die Behörden Ermittlungen einleiten, um die Ursachen der Vorfälle auszumachen und geeignete Maßnahmen zu ergreifen.

Passend zum Thema	20.06.2024
Künstliche Intelligenz datenschutzkonform einsetzen: Datenschutzkonferenz veröffentlicht Orientierungshilfe für Unternehmen und Behörden
	Konferenz der unabhängigen Datenschutzaufsichtsbehörden des Bundes und der Länder (Datenschutzkonferenz) legte jüngst eine Orientierungshilfe mit datenschutzrechtlichen Kriterien für die Auswahl und den datenschutzkonformen Einsatz von KI-Anwendungen vor. mehr …

Konformitätsbewertung und Zertifizierung

Transparenz- und Berichtspflichten bei Hochrisiko-KI-Systemen

Durchsetzung und Sanktionen

Schutz von Verbrauchern

• Recht auf Auskunft: So haben Verbraucher ein  Recht auf Auskunft über die Funktionsweise und die Auswirkungen von KI-Systemen, mit denen sie interagieren.

• Beschwerderecht: Zudem können Verbraucher bei den nationalen Aufsichtsbehörden eine Beschwerde einreichen, wenn sie meinen, dass ein KI-System gegen den AI-Act verstößt.

Der weitere Fahrplan

• III Abschnitt 4 (Notifizierende Behörden und notifizierte Stellen),
• V (KI-Modelle mit Allgemeinem Verwendungszweck),
• VII (Governance),
• XII (Sanktionen),
• sowie Artikel 78 (Vertraulichkeit)

ChatGPT in der Unternehmenspraxis Der Einsatz von Künstlicher Intelligenz revolutioniert die Arbeitswelt und mit ChatGPT steht hierbei ein besonders vielseitig nutzbares Anwendungstool zur Verfügung. Wie Sie als Governance-Verantwortlicher den Chatbot sinnvoll einsetzen können, zeigen die Praxisbeispiele in diesem Buch mit thematischen Schwerpunkten wie Nachhaltigkeit, Cybersicherheit, Datenschutz und Überwachung von Lieferketten. Neben den Stärken von ChatGPT werden auch die Risiken der KI aufgezeigt, die vor allem aufgrund von fehlerhaften und subjektiv gefärbten Antworten des Chatbots bestehen. Es wird verdeutlicht, dass sich ChatGPT zwar als Arbeitshilfe eignet. Die Verantwortung bei der Nutzung von KI-generierten Informationen bleibt jedoch bei den anwendenden Personen. Eine erstmalige Zusammenstellung praktischer KI-Anwendungsbeispiele für Risikomanagement, Controlling und Compliance – leicht verständlich sowohl für Governance-Profis als auch Nutzerinnen und Nutzer ohne große Vorkenntnisse. Hören Sie hier den Interview-Podcast Der Einsatz von ChatGPT in Unternehmen – Bernd Preiß mit seinem Gast: Wolfhart Fabarius. Künstliche Intelligenz (KI) revolutioniert die Arbeitswelt – und vor allem mit ChatGPT steht ein besonderes Anwendungstool bereit, das vielseitig einsetzbar ist. Wie Governance-Verantwortliche den Chatbot sinnvoll einsetzen können, erläutert Wolfhart Fabarius anhand von Praxisbeispielen in dem Interview-Podcast. In dem Podcast geht Fabarius – begleitend zu seinem neuen Buch – vor allem auf KI-Anwendungsbeispiele für Risikomanagement, Controlling und Compliance ein. Insoweit hat er den Chatbot unter anderem Risikomanagement-Konzepte aufsetzen lassen. Eine weitere Frage lautet etwa: Kann ChatGPT Finanzberichte selbst erstellen?

Verlagsprogramm

Nachrichten aus dem Bereich Recht

Programmbereich: Wirtschaftsrecht