KI-Einsatz im Job gewinnt an Bedeutung – Große Mehrheit für gesetzliche Vorgaben

Das ist das Ergebnis einer Forsa-Umfrage im Auftrag des TÜV-Verbands. Befragt wurden 1.008 Personen ab 16 Jahren.

Demnach sehen 78 Prozent beim Einsatz von KI-Technologie derzeit nicht abschätzbare Risiken. 92 Prozent glauben, dass mit dem Einsatz von KI kaum noch erkennbar sein wird, ob Fotos oder Videos echt oder gefälscht sind. Dass der Wahrheitsgehalt eines mit Hilfe von KI generierten Textes nicht mehr erkennbar ist, meinen 83 Prozent. 91 Prozent fordern eine Transparenz- und Kennzeichnungspflicht für Inhalte, die mit Hilfe von Künstlicher Intelligenz erzeugt wurden.

Das Sprachmodell ChatGPT haben der Umfrage zufolge 37 Prozent der Userinnen und User in Deutschland schon mal genutzt; 85 Prozent haben von dieser KI zumindest gehört. Zum Vergleich: Der Digitalverband Bitkom hatte zwei Wochen zuvor gemeldet, dass in Deutschland 78 Prozent von dem Chatbot gehört und 34 Prozent das Sprachmodell genutzt haben.

Laut der Umfrage im Auftrag des TÜV-Verbands erwartet fast die Hälfte der Erwerbstätigen, dass Künstliche Intelligenz in fünf Jahren eine große oder sehr große Rolle für ihre berufliche Tätigkeit spielen wird. Das aktuelle Ranking der Anwendungen sieht so aus:

• Unterhaltungszwecke (52 Prozent)
• Recherchen (44 Prozent)
• Schreiben von Texten (40 Prozent)
• Generierung und Bearbeitung von Fotos oder Videos (26 Prozent)
• Programmierung (12 Prozent)

Zu den Vorbehalten und Sorgen beim KI-Einsatz:

• 56 Prozent haben kein Vertrauen in die Ergebnisse generativer KI-Anwendungen.
• 83 Prozent plädieren für gesetzliche Vorgaben für den KI-Einsatz.
• 63 Prozent halten eine Weiterbildung zu Künstlicher Intelligenz für ihre berufliche Tätigkeit für sinnvoll.

„Unsicherheit besteht noch darüber, inwieweit KI-Systeme eine echte Gefahr für den eigenen Arbeitsplatz sind oder diesen wie Computer, Internet oder Smartphone schrittweise verändern werden“, stellt der TÜV-Verband fest. Gut die Hälfte der Erwerbstätigen ist der Meinung, dass KI-Systeme Routineaufgaben ihrer beruflichen Tätigkeit übernehmen werden oder das jetzt schon tun. 29 Prozent glauben, dass KI ihre berufliche Tätigkeit ganz oder teilweise ersetzen könnte.

EU in finalen Verhandlungen über Regulierung

Mit dem AI Act steht eine europäische KI-Verordnung kurz vor dem Abschluss. Ein Streitpunkt in den finalen Trilog-Verhandlungen ist der Umgang mit KI-Basismodellen wie zum Beispiel ChatGPT. Der TÜV-Verband spricht sich für grundlegende Transparenzpflichten als Mindestanforderung aus. Als entscheidender Termin der Trilog-Verhandlungen gilt der 6.12.2023.

Der AI Act sieht vor, KI-Anwendungen in vier Risikoklassen einzuteilen.

Inakzeptables Risiko

Alle KI-Systeme, die als eindeutige Bedrohung für die Sicherheit, den Lebensunterhalt und die Rechte von Menschen angesehen werden, sollen verboten werden, etwa soziale Bewertungen durch Regierungen und Spielzeug, das Sprachhilfe verwenden, die gefährliches Verhalten fördert.

Hohes Risiko

Hochrisiko-Systeme umfassen KI-Technologie in folgenden Bereichen (mit jeweils einem Beispiel):

• kritische Infrastrukturen (Verkehr), die das Leben und die Gesundheit der Bürger gefährden könnten
• allgemeine oder berufliche Bildung, die den Zugang zu Bildung und beruflichem Verlauf des Lebens einer Person bestimmen kann (Bewertung von Prüfungen)
• Sicherheitskomponenten von Produkten (KI-Anwendung in robotergestützten Chirurgie)
• Beschäftigung (CV-Sortierungssoftware für Einstellungsverfahren)
• wesentliche private und öffentliche Dienstleistungen (Kreditwürdigkeit, bei der Bürgerinnen und Bürgern die Möglichkeit verweigert wird, ein Darlehen zu erhalten)
• Strafverfolgung, die in die Grundrechte der Menschen eingreifen kann (Bewertung der Zuverlässigkeit von Beweisen)
• Migrations-, Asyl- und Grenzkontrollmanagement (Überprüfung der Echtheit der Reisedokumente)
• Rechtspflege und demokratische Prozesse (Anwendung des Gesetzes auf konkrete Fakten)

Begrenztes Risiko

Begrenztes Risiko bezieht sich auf KI-Systeme mit spezifischen Transparenzverpflichtungen. Bei der Verwendung von KI-Systemen wie Chatbots sollten Nutzerinnen und Nutzer sich bewusst sein, dass sie mit einer Maschine interagieren, damit sie eine informierte Entscheidung treffen können, fortzufahren oder zurückzutreten.

Geringes oder kein Risiko

Der Vorschlag ermöglicht die kostenlose Nutzung von KI mit minimalem Risiko. Dazu gehören Anwendungen wie KI-fähige Videospiele oder Spamfilter. Die überwiegende Mehrheit der derzeit in der EU eingesetzten KI-Systeme fällt in diese Kategorie.

Die Europäische Kommission hat ihren Vorschlag für einen KI-Rechtsrahmen hier veröffentlicht.

Wie sich ChatGPT sinnvoll in Unternehmen einsetzen lässt, zeigt das Buch „ChatGPT in der Unternehmenspraxis – Anwendungsbeispiele für Risikomanagement, Controlling und Compliance. Der Chatbot verfasst Aufsätze, Gedichte, Songtexte, Rezensionen, Interpretationen und Porträts. Er entwirft Verträge, Referenzen, Zeugnisse, Bewerbungen, Geschäftsberichte, Marketinganalysen, Strategieberichte, Vorträge, Skripte und Rechtsgutachten. Er generiert Website-Codes und kann beim Verfassen von Businessplänen, Governance-Konzepten, Risikomanagementsystemen, Notfallplänen und Gesetzen sehr hilfreich sein.

fab

ChatGPT in der Unternehmenspraxis Autor: Wolfhart Fabarius Der Einsatz von Künstlicher Intelligenz revolutioniert die Arbeitswelt und mit ChatGPT steht hierbei ein besonders vielseitig nutzbares Anwendungstool zur Verfügung. Wie Sie als Governance-Verantwortlicher den Chatbot sinnvoll einsetzen können, zeigen die Praxisbeispiele in diesem Buch mit thematischen Schwerpunkten wie Nachhaltigkeit, Cybersicherheit, Datenschutz und Überwachung von Lieferketten. Neben den Stärken von ChatGPT werden auch die Risiken der KI aufgezeigt, die vor allem aufgrund von fehlerhaften und subjektiv gefärbten Antworten des Chatbots bestehen. Es wird verdeutlicht, dass sich ChatGPT zwar als Arbeitshilfe eignet. Die Verantwortung bei der Nutzung von KI-generierten Informationen bleibt jedoch bei den anwendenden Personen. Eine erstmalige Zusammenstellung praktischer KI-Anwendungsbeispiele für Risikomanagement, Controlling und Compliance – leicht verständlich sowohl für Governance-Profis als auch Nutzerinnen und Nutzer ohne große Vorkenntnisse. Hören Sie hier den Interview-Podcast Der Einsatz von ChatGPT in Unternehmen – Bernd Preiß mit seinem Gast: Wolfhart Fabarius.

Programmbereich: Management und Wirtschaft