Datenschutz beim Einsatz Generativer KI – Was ist zu beachten?

In vielen Rechtsordnungen gibt es allgemeine Grundsätze und Maßnahmen zum Schutz personenbezogener Daten, die auch auf den Einsatz Generativer KI zutreffen, stellt Deloitte fest. Unternehmen sollten beim Einsatz Generativer KI deshalb besonders auf folgende Aspekte achten, bei denen es sich um Auszüge und Zusammenfassungen aus dem Online-Artikel „Die rechtlichen Grundlagen und Rahmenbedingungen von Generativer KI“ von Deloitte handelt.

Eine Verletzung der gesetzlich oder vertraglich vorgeschriebenen Vertraulichkeit stellt ein Risiko für die Rechte und Freiheiten sowohl von Personen als auch Unternehmen dar. Daher ist Vertraulichkeit von Daten über den gesamten KI-Lebenszyklus hinweg fortlaufend zu gewährleisten.

Generative KI kann vom Nutzer unbeabsichtigt lernen und sensible Informationen aus den Trainingsdaten reproduzieren. Dies kann zur ungewollten Erzeugung von Ergebnissen führen, die vertrauliche Informationen enthalten. Diese wiederum gefährden die vorgeschriebene Vertraulichkeit, wenn sie weitergegeben oder veröffentlicht werden.

Unternehmen müssen sich auch ihrer eigenen Vertraulichkeitsverpflichtungen bewusst sein. Enthält ein bestimmter Vorgang innerhalb eines Unternehmens vertrauliche Informationen, die von Kunden, Lieferanten oder anderen Dritten bereitgestellt wurden, muss das Unternehmen zunächst alle Vertraulichkeitsverpflichtungen und andere Vertragsbedingungen berücksichtigen, unter denen die Informationen bereitgestellt wurden. Außerdem ist zu prüfen, ob die Verwendung dieser Daten in einer Generativen KI zulässig ist.

Folgende Fragen sollten in Unternehmen erörtert werden:

• Muss der Datenzugriff auf autorisiertes Personal beschränkt werden? Welche Rolle sollten physische und logische Zugangskontrollmechanismen wie zum Beispiel Authentifizierungssysteme spielen?
• Welche spezifischen Richtlinien und Verfahren für den Einsatz Generativer KI sollen eingeführt werden? Wie werden sie aufrechterhalten und wie wird ihre Einhaltung überprüft?
• Müssen Policies und Verfahren angepasst werden, um die Ausübung der Rechte des Einzelnen zu gewährleisten?
• Welche Schulungen und Sensibilisierungsmaßnahmen für Mitarbeitende zur ethischen, rechtmäßigen und sicheren Nutzung dieser Technologie sind angemessen?
• Wie wirken sich Audits und Kontrollen in der Lieferkette auf Unternehmen aus, unabhängig davon, ob sie Lieferant oder Empfänger von KI-gestützten Dienstleistungen sind?
• Welche technischen und organisatorischen Maßnahmen müssen ergriffen werden, um Unternehmen und die von ihnen eingegebenen oder abgerufenen personenbezogenen oder vertraulichen Daten zu schützen?
• Müssen Rechts- und Technologieexperten bereits in der Anfangsphase eines KI-Projekts an der Entwicklung von Kontrollen zum Schutz personenbezogener Daten und der Vertraulichkeit beteiligt sein und wird das Fachwissen intern oder extern zur Verfügung gestellt?

Den vollständigen Artikel hat Deloitte hier veröffentlicht.

ChatGPT in der Unternehmenspraxis von Wolfhart Fabarius Der Einsatz von Künstlicher Intelligenz revolutioniert die Arbeitswelt und mit ChatGPT steht hierbei ein besonders vielseitig nutzbares Anwendungstool zur Verfügung. Wie Sie als Governance-Verantwortlicher den Chatbot sinnvoll einsetzen können, zeigen die Praxisbeispiele in diesem Buch mit thematischen Schwerpunkten wie Nachhaltigkeit, Cybersicherheit, Datenschutz und Überwachung von Lieferketten. Neben den Stärken von ChatGPT werden auch die Risiken der KI aufgezeigt, die vor allem aufgrund von fehlerhaften und subjektiv gefärbten Antworten des Chatbots bestehen. Es wird verdeutlicht, dass sich ChatGPT zwar als Arbeitshilfe eignet. Die Verantwortung bei der Nutzung von KI-generierten Informationen bleibt jedoch bei den anwendenden Personen. Eine erstmalige Zusammenstellung praktischer KI-Anwendungsbeispiele für Risikomanagement, Controlling und Compliance – leicht verständlich sowohl für Governance-Profis als auch Nutzerinnen und Nutzer ohne große Vorkenntnisse. Hören Sie hier den Interview-Podcast Der Einsatz von ChatGPT in Unternehmen – Bernd Preiß mit seinem Gast: Wolfhart Fabarius.

Künstliche Intelligenz & Compliance (Teil 2)	08.08.2024
Personenbezogene Daten beim Einsatz Generativer KI – Was ist zu beachten?
	Generative KI erfasst und erzeugt große Datenmengen, wie Bilder, Text, Sprache, Videos, Codes, Geschäftspläne und technische Formeln, stellt Deloitte im Online-Artikel „Die rechtlichen Grundlagen und Rahmenbedingungen von Generativer KI“ fest. mehr …

Künstliche Intelligenz & Compliance (Teil 1)	01.08.2024
Urheberrecht beim Einsatz Generativer KI – Was ist zu beachten?
	Beim Einsatz von Generativer Künstlicher Intelligenz rücken vielfältige Erwägungen zu geistigem Eigentum, Datenschutz, vertraglichen Aspekten und KI-Strategie in den Fokus. mehr …

Programmbereich: Management und Wirtschaft