„Die EU setzt auf eine vertrauenswürdige KI“, sagt Jan Pohle (links im Bild) – rechts neben ihm Dr. Silvo Andrae (Fotos: Privat).
Die KI-VO der EU – Experten im Gespräch: Jan Pohle und Dr. Silvio Andrae
Dr. Silvo Andrae: „Gilt ein System als Hochrisiko-System, muss der Anbieter richtig tief in die Pflicht“
ESV-Redaktion Recht
28.01.2026
Die EU‑KI‑Verordnung (VO) gilt als Meilenstein. Erstmals definiert sie die Spielregeln für den Einsatz von Künstlicher Intelligenz und will neue Standards für Innovation und Verantwortung in der EU setzen. Im Gespräch mit der ESV-Redaktion erklären Dr. Silvio Andrae, Senior‑Experte für KI‑Regulierung, und Rechtsanwalt Jan Pohle, welche Chancen sie eröffnet, welche Anforderungen auf Unternehmen zukommen – und warum technische, rechtliche und ethische Perspektiven heute stärker denn je zusammengedacht werden müssen.
Problemstellung und Zielsetzung der KI-VO
Herr Pohle, die KI-VO verfolgt mehrere Zielrichtungen gleichzeitig – die Binnenmarktintegration, den Grundrechtsschutz und die Innovationsförderung. Was ist aus Ihrer Sicht die zentrale Leitidee der Verordnung?
Jan Pohle: Wenn ich es in einem Satz sagen soll: Die EU will einen Rahmen schaffen, in dem KI Innovation ermöglicht – aber ohne, dass Grundrechte unter die Räder kommen. Das heißt: klare Regeln, gleiche Standards in Europa und ein Gefühl von Sicherheit für alle, die KI entwickeln oder nutzen.
Die EU setzt also auf „vertrauenswürdige KI“. Die Botschaft lautet: Wir wollen KI, aber wir wollen sie verantwortungsvoll. Man kann die Leitidee auch als Balanceakt beschreiben: zwischen technischer Risikosteuerung, ökonomischer Wettbewerbsfähigkeit und gesellschaftlicher Akzeptanz. Genau in dieser Dreieckslogik bewegt sich die Verordnung – und das macht sie sowohl spannend als auch herausfordernd.
Weitere Frage an Sie: Europa sagt immer, die KI-VO sei die „erste umfassende KI-Regulierung weltweit“. Was bedeutet das konkret? Nochmal an Sie, Herr Pohle.
Jan Pohle: Das bedeutet vor allem: Europa setzt den globalen Standard. Firmen, die in Europa aktiv sein wollen, müssen diese Regeln einhalten – egal, ob sie aus den USA, China oder sonst wo kommen. Dadurch entsteht ein einheitlicher Markt, und Unternehmen wissen endlich, was gilt.
Gleichzeitig rückt Europa die Grundrechte stärker in den Mittelpunkt als andere Regionen. Damit werden Grundrechte – wie das Diskriminierungsverbot oder die informationelle Selbstbestimmung – zum verbindlichen Maßstab. Für den europäischen Rechtsraum heißt das: KI darf nicht nur sicher, sondern muss auch grundrechtskonform sein.
Und: Behörden müssen sich ganz neue Kompetenzen aufbauen, um diese Regeln überhaupt prüfen zu können. Denn es geht nicht mehr nur um technische Sicherheitsfragen, sondern auch um komplexe Bewertungen wie Verzerrungen, Transparenz oder menschliche Aufsicht. Schließlich ist die KI-VO für den europäischen Rechtsraum ist auch eine industriepolitische Weichenstellung. Wer den ersten verbindlichen Rahmen setzt, kann Standards definieren, an denen sich andere Märkte orientieren.
Gleichzeitig rückt Europa die Grundrechte stärker in den Mittelpunkt als andere Regionen. Damit werden Grundrechte – wie das Diskriminierungsverbot oder die informationelle Selbstbestimmung – zum verbindlichen Maßstab. Für den europäischen Rechtsraum heißt das: KI darf nicht nur sicher, sondern muss auch grundrechtskonform sein.
Und: Behörden müssen sich ganz neue Kompetenzen aufbauen, um diese Regeln überhaupt prüfen zu können. Denn es geht nicht mehr nur um technische Sicherheitsfragen, sondern auch um komplexe Bewertungen wie Verzerrungen, Transparenz oder menschliche Aufsicht. Schließlich ist die KI-VO für den europäischen Rechtsraum ist auch eine industriepolitische Weichenstellung. Wer den ersten verbindlichen Rahmen setzt, kann Standards definieren, an denen sich andere Märkte orientieren.
Hier als Video:
Zahlreiche neue Definitionen und Begriffe
Zu Ihnen, Herr Andrae, die Definition des „KI-Systems“ in Art. 3 Nr. 1 der VO ist sehr weit gefasst und umstritten. Welche Vorteile hat diese Breite – und wo entstehen praktische Probleme?
Silvio Andrae: Die Definition ist bewusst weit, damit die Verordnung auch in ein paar Jahren noch passt. Nicht nur Machine Learning, sondern auch wissensbasierte Systeme oder statistische Methoden fallen darunter.
Vorteil: Man bleibt technologieoffen und verhindert Schlupflöcher.
Nachteil: Manchmal wird’s unpraktisch. Denn auch Systeme, die eigentlich kaum „intelligent“ sind, könnten plötzlich als KI gelten.
Nicht alles, was Daten verarbeitet oder automatisiert entscheidet, ist KI im engeren Sinne. Beispiele: klassische Statistikprogramme oder einfache Entscheidungsbäume. Systeme mit minimalem „intelligentem“ Anteil könnten fälschlich als KI-System gelten und so unnötigen Pflichten unterliegen.
Unternehmen und Aufsichtsbehörden müssen im Einzelfall klären, ob ein System unter die Definition fällt – das schafft Rechtsunsicherheit. Ich möchte ein einfaches Beispiel geben: Ein regelbasiertes Diagnosesystem im Gesundheitswesen fällt formal unter die Definition, obwohl es kein lernendes System ist. Für Entwickler stellt sich dann die Frage: Muss ich dieselben Anforderungen erfüllen wie jemand, der ein generatives Basismodell trainiert? Der Vorteil der breiten Definition besteht in der Schutzwirkung und der technologischen Offenheit. Damit einher geht die Gefahr der Überregulierung und es erheblichen Interpretationsbedarfs in der Praxis.
Vorteil: Man bleibt technologieoffen und verhindert Schlupflöcher.
Nachteil: Manchmal wird’s unpraktisch. Denn auch Systeme, die eigentlich kaum „intelligent“ sind, könnten plötzlich als KI gelten.
Nicht alles, was Daten verarbeitet oder automatisiert entscheidet, ist KI im engeren Sinne. Beispiele: klassische Statistikprogramme oder einfache Entscheidungsbäume. Systeme mit minimalem „intelligentem“ Anteil könnten fälschlich als KI-System gelten und so unnötigen Pflichten unterliegen.
Unternehmen und Aufsichtsbehörden müssen im Einzelfall klären, ob ein System unter die Definition fällt – das schafft Rechtsunsicherheit. Ich möchte ein einfaches Beispiel geben: Ein regelbasiertes Diagnosesystem im Gesundheitswesen fällt formal unter die Definition, obwohl es kein lernendes System ist. Für Entwickler stellt sich dann die Frage: Muss ich dieselben Anforderungen erfüllen wie jemand, der ein generatives Basismodell trainiert? Der Vorteil der breiten Definition besteht in der Schutzwirkung und der technologischen Offenheit. Damit einher geht die Gefahr der Überregulierung und es erheblichen Interpretationsbedarfs in der Praxis.
In der Praxis können Unternehmen oft in mehreren Rollen gleichzeitig agieren – etwa als Anbieter, Betreiber und Händler. Es sind aber komplexere Konstellationen bei Cloud-Diensten oder „KI-as-a-Service“ möglich. Wie passt diese Realität zu der eher linearen Rollenlogik der KI-Verordnung? Wieder Sie, Herr Andrae?
Silvio Andrae: Nur teilweise. Die KI-VO denkt in einer klaren Logik: Ein Anbieter, ein Betreiber. In der Realität läuft das aber durcheinander – vor allem bei Cloud-Diensten oder KI-as-a-Service. Das macht die Umsetzung kompliziert.
Die DSGVO ist da flexibler, weil sie gemeinsame Verantwortlichkeiten kennt. Die KI-VO hält stärker an der Produktsicherheitslogik fest. Das führt zu Reibungen und vielen Fragen in der Praxis. Man braucht beispielsweise Kommunikations- und Dokumentationsmechanismen, um Verantwortlichkeiten lückenlos nachvollziehbar zu machen.
Neue KI-Architekturen wie Basismodelle, KI-Agenten oder KI-as-a-Service-Angebote werden die angelegte Logik sprengen, denn hier verschwimmen die Grenzen zwischen Entwicklung, Einsatz und Bereitstellung – das Modell der linearen Wertschöpfungskette löst sich auf. Die KI-VO ist bewusst auf das Endprodukt ausgerichtet: Hauptsache, das finale System ist sicher und rechtskonform. Aber die Praxis zeigt: Ohne flexible Auslegung wird es zu Reibungen kommen, gerade wenn Unternehmen mehrere Rollen gleichzeitig ausfüllen.
Die DSGVO ist da flexibler, weil sie gemeinsame Verantwortlichkeiten kennt. Die KI-VO hält stärker an der Produktsicherheitslogik fest. Das führt zu Reibungen und vielen Fragen in der Praxis. Man braucht beispielsweise Kommunikations- und Dokumentationsmechanismen, um Verantwortlichkeiten lückenlos nachvollziehbar zu machen.
Neue KI-Architekturen wie Basismodelle, KI-Agenten oder KI-as-a-Service-Angebote werden die angelegte Logik sprengen, denn hier verschwimmen die Grenzen zwischen Entwicklung, Einsatz und Bereitstellung – das Modell der linearen Wertschöpfungskette löst sich auf. Die KI-VO ist bewusst auf das Endprodukt ausgerichtet: Hauptsache, das finale System ist sicher und rechtskonform. Aber die Praxis zeigt: Ohne flexible Auslegung wird es zu Reibungen kommen, gerade wenn Unternehmen mehrere Rollen gleichzeitig ausfüllen.
Auch als Video-Interview:
Der risikobasierte Ansatz - Unternehmen in der Pflicht
Von der Einstufung als Hochrisiko-System hängen die strengsten Pflichten ab, gleichzeitig gibt es viele Zweifelsfälle bei der Risikoklassifikation. Herr Andrae, was macht diese Einstufung so entscheidend für Anbieter?
Silvio Andrae: Weil davon alles abhängt. Wenn ein System als Hochrisiko gilt, muss der Anbieter richtig tief in die Pflicht: Risikomanagement, technische Dokumentation, Kontrolle durch Menschen, Konformitätsbewertung – die ganze Palette.
Das kostet Geld und Zeit. Hochrisiko-Systeme durchlaufen Prüf- und Zertifizierungsprozesse, vergleichbar mit Medizinprodukten oder Luftfahrtsicherheit. In der Praxis heißt das: Hohe Kosten, lange Markteinführungszeiten, umfassende Compliance-Strukturen, denn ohne diese Nachweise dürfen sie nicht in Verkehr gebracht werden.
Deshalb ist die Einstufung strategisch wichtig: Sie kann ein Geschäftsmodell ermöglichen oder blockieren. Manche Anbieter versuchen, ihre Systeme „unter der Hochrisiko-Schwelle“ zu halten, um Pflichten zu vermeiden. Andere setzen bewusst auf Hochrisiko-Anwendungen, weil dort regulatorische Klarheit Vertrauen schafft und Wettbewerbsvorteile bringen kann. Und es gibt viele Grenzfälle, bei denen die Abgrenzung schwierig ist.
Zählt ein KI-gestütztes HR-Tool für Bewerberauswahl als Hochrisiko oder nicht? Der Anwendungskontext ist entscheidend – Gesichtserkennung im Flughafen-Sicherheitsbereich gilt als Hochrisiko, in einer Social-Media-App nicht. Für Anbieter ist die Hochrisiko-Einstufung der zentrale Hebel der Verordnung: Sie ist entweder Eintrittskarte oder Markthemmnis – und macht die Klassifikation zu einem der heikelsten Punkte der KI-VO.
Das kostet Geld und Zeit. Hochrisiko-Systeme durchlaufen Prüf- und Zertifizierungsprozesse, vergleichbar mit Medizinprodukten oder Luftfahrtsicherheit. In der Praxis heißt das: Hohe Kosten, lange Markteinführungszeiten, umfassende Compliance-Strukturen, denn ohne diese Nachweise dürfen sie nicht in Verkehr gebracht werden.
Deshalb ist die Einstufung strategisch wichtig: Sie kann ein Geschäftsmodell ermöglichen oder blockieren. Manche Anbieter versuchen, ihre Systeme „unter der Hochrisiko-Schwelle“ zu halten, um Pflichten zu vermeiden. Andere setzen bewusst auf Hochrisiko-Anwendungen, weil dort regulatorische Klarheit Vertrauen schafft und Wettbewerbsvorteile bringen kann. Und es gibt viele Grenzfälle, bei denen die Abgrenzung schwierig ist.
Zählt ein KI-gestütztes HR-Tool für Bewerberauswahl als Hochrisiko oder nicht? Der Anwendungskontext ist entscheidend – Gesichtserkennung im Flughafen-Sicherheitsbereich gilt als Hochrisiko, in einer Social-Media-App nicht. Für Anbieter ist die Hochrisiko-Einstufung der zentrale Hebel der Verordnung: Sie ist entweder Eintrittskarte oder Markthemmnis – und macht die Klassifikation zu einem der heikelsten Punkte der KI-VO.
Die KI-VO enthält ja auch Mechanismen zur Anpassung an neue Risikotypen etwa Basismodelle oder generative KI. Wie geht die Praxis mit solchen neu auftretenden Risiken um? Wieder Sie, Herr Andrae
Silvio Andrae: Als die KI-VO geplant wurde, hatte niemand Foundation Models wie ChatGPT auf dem Radar. Deshalb hat die EU später nachgeschärft. Heute kann sie neue Risikobereiche per delegiertem Rechtsakt ergänzen. Und für Basismodelle, insbesondere für „KI-Modelle mit allgemeinem Verwendungszweck“ mit hoher Rechenleistung, gibt es eigene Regeln.
Das System ist also lernfähig – aber die Technik ist schneller als die Regulierung. Die Anwendungsvielfalt ist sehr groß: Generative KI ist Querschnittstechnologie – sie kann im Bildungswesen, in der Verwaltung oder für Deepfakes genutzt werden. Je nach Kontext ganz unterschiedliche Risiken. Die EU setzt deshalb auf Standards, ein eigenes KI-Büro und enge Zusammenarbeit mit internationalen Standardisierungsgremien (ISO/IEC). Neu auftretende Risiken wie generative KI zeigen die Notwendigkeit eines flexiblen, anpassungsfähigen Regulierungsrahmens. Die KI-VO bietet dafür Mechanismen – aber ihre Wirksamkeit hängt davon ab, wie schnell und praxisnah sie in der Umsetzung reagieren kann.
Das System ist also lernfähig – aber die Technik ist schneller als die Regulierung. Die Anwendungsvielfalt ist sehr groß: Generative KI ist Querschnittstechnologie – sie kann im Bildungswesen, in der Verwaltung oder für Deepfakes genutzt werden. Je nach Kontext ganz unterschiedliche Risiken. Die EU setzt deshalb auf Standards, ein eigenes KI-Büro und enge Zusammenarbeit mit internationalen Standardisierungsgremien (ISO/IEC). Neu auftretende Risiken wie generative KI zeigen die Notwendigkeit eines flexiblen, anpassungsfähigen Regulierungsrahmens. Die KI-VO bietet dafür Mechanismen – aber ihre Wirksamkeit hängt davon ab, wie schnell und praxisnah sie in der Umsetzung reagieren kann.
Herr Pohle, was steckt eigentlich hinter dem „Digitalen Omnibus“ – und was bedeutet er für die KI-Verordnung?
Jan Pohle: Der „Digitale Omnibus“ ist ein großes EU-Reformpaket, das viele Regeln im Digitalbereich vereinfachen soll. Hintergrund ist: Die Unternehmen sagen, die Regulierung sei zu schwer, zu bürokratisch manchmal schlicht zu langsam. Und gleichzeitig hat die EU festgestellt, dass zentrale Elemente für die KI-VO – also Standards, Leitlinien und die neuen Aufsichtsstrukturen – nicht rechtzeitig fertig werden.
Darum macht der Omnibus drei große Dinge:
Er verschiebt die harten KI-Regeln für Hochrisiko-Systeme nach hinten. Statt 2026 kommen sie erst Ende 2027. Die EU braucht Zeit für Standards, Leitlinien und Behördenaufbau.
Er erleichtert Unternehmen den Umgang mit der KI-VO, d.h. weniger Registrierungspflichten, vereinfachte Dokumentation, mehr Spielraum für KMU und „Small Mid-Caps“. Das soll Milliarden an Bürokratiekosten sparen.
Er öffnet Datenzugänge und standardisiert digitale Prozesse. Firmen sollen leichter auf Daten zugreifen können, um KI zu trainieren – auch über EU-weit einheitliche Schnittstellen oder ein „Business Wallet“. Das soll Innovation fördern, ohne auf Grundrechte zu verzichten.
Insgesamt geht es darum, KI in Europa nicht auszubremsen. Die Kommission sagt inzwischen viel deutlicher: KI ist nicht nur ein Risiko, sondern eine Chance – und Regulierung darf Innovation nicht ersticken. Kurz gesagt: Der digitale Omnibus ist ein großer „Regel-Aufräumer“. Er soll Bürokratie abbauen, Übergangsfristen verlängern und Europa im KI-Wettbewerb schneller machen.
All diese Änderungen werden wir selbstverständlich in der zweiten Auflage unseres Kommentars berücksichtigen. Denn der Omnibus verändert die Umsetzung der KI-VO spürbar.
Das Verhältnis zu anderen Rechtsregimen
Die KI-VO greift als horizontale Regulierung in viele bestehende Rechtsbereiche ein – vom Datenschutzrecht bis zum Produktsicherheitsrecht. Herr Pohle, wo entstehen dabei denn die größten Reibungen?
Jan Pohle: Die KI-VO läuft quer durch alle Branchen. Das ist auch so gewollt.
Sie soll überall gelten – egal ob im Gesundheitswesen, im Verkehr, in der Finanzwelt oder in der Verwaltung. Damit ergänzt sie viele bestehende Gesetze, ersetzt sie aber nicht.
In der Praxis kracht es vor allem an drei Stellen:
- Erstens beim Datenschutz. Da prallen die Rollenmodelle von DSGVO und KI-VO aufeinander. Wir sprachen darüber schon.
- Zweitens beim Produktsicherheitsrecht. Dort gibt es die CE-Logik und die KI-Pflichten gleichzeitig.
- Und drittens in regulierten Branchen wie Medizin oder Finanzaufsicht. Da müssen Unternehmen alle Regeln parallel einhalten.
Es gibt also echte Überschneidungen. Und manchmal auch doppelte Pflichten. Die horizontale Regulierung ist ein Vorteil, weil sie Konsistenz schafft – aber bis dahin ist es ein Weg. Ohne enge Abstimmungen drohen Kompetenzstreitigkeiten zwischen Aufsichtsbehörden und Rechtsunsicherheit für Unternehmen. Beispiel: Eine Gesundheits-App mit KI-Funktion muss sich gleichzeitig an Datenschutz-, Medizinprodukt- und KI-Recht messen lassen.
Nochmal Sie, Herr Pohle: Beim Umgang mit Daten, Profiling und Transparenzpflichten kommt es auch zu Überschneidungen mit der DSGVO. Wie grenzt sich die KI-VO gegenüber der DSGVO denn ab – und wo sind die typischen Konfliktpunkte?
Jan Pohle: Ganz einfach gesagt: Die DSGVO schützt personenbezogene Daten. Die KI-VO schützt Menschen vor Risiken, die von KI-Systemen ausgehen. In der Praxis überschneidet sich das aber ständig. Beide verlangen zum Beispiel Transparenz. Beide verlangen Datenqualität. Aber sie sprechen unterschiedliche Sprachen:
- Die DSGVO kennt „Verantwortliche“.
- Die KI-VO spricht von „Anbietern“ und „Betreibern“.
Das führt oft zu Missverständnissen. Unternehmen müssen deshalb beide Welten gleichzeitig denken: DSGVO für Datenschutzprozesse, KI-VO für Systemprozesse. Wenn man es gut koordiniert, kann das ein doppelter Sicherheitsgurt sein. Ohne Abstimmung droht Doppelbelastung – mit guter Verzahnung können sie sich wechselseitig verstärken.
Große internationale Perspektive der KI
Die internationale Dimension entscheidet darüber, ob die KI-VO zum „globalen Standardsetter“ wird. Wie positioniert sich die EU im Vergleich zu den USA, die ja eher auf Selbstregulierung setzen, und zu China, das wiederum stärker staatlich steuert – Wie sehen Sie das, Herr Andrae?
Silvio Andrae: Wenn wir die EU mit den USA und China vergleichen, dann sehen wir drei völlig unterschiedliche Ansätze. Und das macht die Sache spannend, aber auch kompliziert.
Die EU setzt ganz klar auf Grundrechte, auf Risikomanagement und auf Transparenz. Sie will KI nicht einfach laufen lassen, sondern sicher und vertrauenswürdig machen. Das berühmte Stichwort ist „Trustworthy AI made in Europe“. Die Idee dahinter: Wenn die Menschen Vertrauen haben, dann setzen sie KI auch ein – und genau das soll langfristig ein Wettbewerbsvorteil für Europa sein.
Die USA gehen einen völlig anderen Weg. Dort dominiert der Markt. Es gibt keine große, einheitliche KI-Gesetzgebung. Stattdessen gibt es viele verstreute Initiativen wie die Executive Order oder den AI Bill of Rights. Fast jeder Bundesstaat schraubt an eigenen KI-Regeln herum – allein 2024 waren das hunderte Gesetzesvorhaben. Gleichzeitig gibt es einen Entwurf, der die Bundesstaaten für zehn Jahre ausbremsen würde, damit sie keine eigenen KI-Gesetze mehr machen. In den USA läuft Regulierung oft über „Soft Law“, über freiwillige Standards und Branchenleitlinien. Das sorgt für Tempo und Flexibilität – aber es bedeutet eben auch, dass Bürgerinnen und Bürger viel weniger verbindlichen Schutz haben. Und viele Pflichten hängen stark vom guten Willen der Unternehmen ab.
China wiederum steht für das komplett andere Extrem. Dort steuert der Staat die KI-Entwicklung sehr eng – mit detaillierten Vorschriften für Algorithmen, für generative KI und für Datenkontrolle. Der Fokus liegt auf Cybersicherheit und auf politischer Kontrolle. Kurz gesagt: China nutzt KI auch als Instrument staatlicher Souveränität und strategischer Dominanz.
Wenn man die drei Modelle nebeneinanderstellt, ergibt sich ein klares Bild: Europa bietet Rechtssicherheit, aber kämpft mit Bürokratie. Die USA fördern Innovation, aber lassen viele Risiken offen. China setzt auf Kontrolle, aber auf Kosten von Freiheitsrechten.
Und genau zwischen diesen Polen positioniert sich die KI-VO. Sie versucht, Vertrauen und Sicherheit herzustellen, ohne Innovation abzuwürgen. Ob das gelingt, wird man erst sehen.| Die Interviewpartner |
|
Governance und Umsetzung
Herr Pohle, die institutionelle Architektur ist für die Durchsetzung der Verordnung zentral, aber noch im Aufbau. Welche neuen Institutionen entstehen – etwa das KI-Büro auf EU-Ebene – und welche Kompetenzen haben sie?
Jan Pohle: Die EU baut gerade ein komplett neues Aufsichtssystem für KI auf. Kernstück ist das KI-Büro bei der EU-Kommission. Das ist so etwas wie der zentrale Knotenpunkt. Dieses Büro soll drei Dinge leisten:
- Erstens die Umsetzung der KI-VO in Europa koordinieren.
- Zweitens die Mitgliedstaaten unterstützen, also echte Aufbauarbeit leisten.
- Und drittens systemische Risiken überwachen – vor allem bei großen Basismodellen, die überall in Europa wirken.
Das KI-Büro soll aber nicht nur Aufsicht machen, sondern auch Wissen bündeln. Es soll ein Kompetenzzentrum werden, das Expertise sammelt und europaweit verfügbar macht.
Die zweite Ebene sind die nationalen Behörden. Jeder Mitgliedstaat muss eigene Stellen benennen. Oft werden das Marktüberwachungsbehörden oder Datenschutzbehörden sein. Sie prüfen konkret: Welche KI-Systeme sind auf dem Markt? Funktionieren die sicher? Müssen sie sanktioniert oder zurückgezogen werden? Der große Haken ist: Viele dieser Behörden müssen erst Fachwissen aufbauen – und das ist in kleinen Ländern besonders schwierig.
Und dann gibt es noch die Netzwerkstruktur. Das KI-Büro arbeitet nicht alleine, sondern koordiniert ein Europäisches KI-Gremium. Das ähnelt dem Datenschutzausschuss beim Datenschutzrecht. Dieses Gremium soll Leitlinien schreiben, Streitfragen klären und dafür sorgen, dass die Regeln überall gleich ausgelegt werden.
Die große Frage ist am Ende: Was bleibt national – und was wird europäisch zentralisiert? Das birgt Konfliktpotenzial, aber auch die Chance auf ein echtes „Level-Playing-Field“ in Europa.
Sehr wichtig: Die gesellschaftlichen Dimension
Die Schutzdimension der KI-VO zielt auf auf Diskriminierungsfreiheit, Transparenz und Teilhabe. Was bedeutet die VO langfristig für Bürgerinnen und Bürger, Herr Andrae?
Silvio Andrae: Langfristig bedeutet die KI-VO für Bürgerinnen und Bürger vor allem eines: mehr Schutz und mehr Kontrolle im Umgang mit KI. Die KI-VO ist die erste EU-Regelung, die die Grundrechte ganz bewusst ins Zentrum stellt. Sie soll verhindern, dass KI zur Überwachung eingesetzt wird, dass Menschen diskriminiert werden oder dass Entscheidungen entstehen, die niemand nachvollziehen kann.
Und das ist wichtig, weil KI längst Teil des Alltags ist. Wir begegnen ihr bei der Jobsuche, bei der Kreditvergabe, in der medizinischen Diagnostik oder sogar im öffentlichen Raum, zum Beispiel bei Gesichtserkennungssystemen. Die Verordnung will sicherstellen, dass solche Systeme fair, nachvollziehbar und kontrollierbar arbeiten.
Ein großer Punkt ist Transparenz. Menschen sollen wissen, wenn sie mit KI zu tun haben. Und bei Hochrisiko-Systemen gibt es zusätzliche Informationsrechte – etwa darüber, wie das System funktioniert und welche Risiken es hat.
Ein zweites großes Ziel ist der Schutz vor Diskriminierung. Die Verordnung verlangt, dass Trainingsdaten überprüft werden, damit Verzerrungen erkannt und reduziert werden. Damit sollen Benachteiligungen wegen Geschlecht, Alter, Herkunft oder anderer Merkmale so weit wie möglich verhindert werden.
Am Ende geht es aber um etwas Grundsätzlicheres: KI soll keine Black Box sein, der man ausgeliefert ist. Sie soll ein Werkzeug sein, das nachvollziehbar und vertrauenswürdig funktioniert. Nur wenn dieses Vertrauen da ist, wird KI auch in sensiblen Bereichen wie Gesundheit oder Justiz akzeptiert werden.
Langfristig kann die KI-VO deshalb viel bewirken. Sie schützt nicht nur die Bürgerinnen und Bürger, sondern schafft auch die Grundlage dafür, dass KI breit und verantwortungsvoll genutzt werden kann – zum Vorteil der ganzen Gesellschaft.
| Der kostenlose Newsletter Recht – Wir freuen uns auf Ihre Anmeldung! |
| Redaktionelle Meldungen zu neuen Entscheidungen und Rechtsentwicklungen, Interviews und Literaturtipps. |
Ihr Kommentarwerk zur KI-VO
Voraussichtlich im Februar 2016 erscheint der von Ihnen herausgegebene Kommentar KI-VO: Herr Pohle, was ist der Leitgedanke Ihres Kommentars?
Jan Pohle: Der Leitgedanke unseres Kommentars war von Anfang an ganz klar: Wir wollten dieses neue, komplexe Regelwerk so erklären, dass es wirklich verstanden und auch angewendet werden kann.
Die KI-VO ist ein völlig neuer Rechtsrahmen, interdisziplinär, technisch anspruchsvoll und voller Querverbindungen. Deshalb brauchte es ein Werk, das all diese Elemente zusammenbringt. Unsere Motivation war also: Komplexität verständlich machen. Wir wollten zeigen, wie die KI-VO funktioniert, was sie schützt, wie sie aufgebaut ist – und was sie in der Praxis bedeutet.
Dabei war uns wichtig, dass wir nicht nur juristisch präzise kommentieren, sondern auch technische Hintergründe einordnen und konkrete Anwendungsfragen beantworten.
Die Regulierung betrifft ja nicht nur Juristen. Sie betrifft Entwickler, Compliance-Teams, Aufsichtsbehörden, politische Entscheidungsträger und letztlich auch Unternehmen in allen möglichen Branchen.
Deshalb haben wir bewusst einen interdisziplinären Ansatz gewählt. Juristische Tiefe – ja. Aber immer ergänzt durch technische und praktische Perspektiven.
Strukturell folgen wir der Verordnung, aber wir schauen auch über den Tellerrand hinaus. Unser Anspruch war, nicht nur den Normtext zu erklären, sondern auch die Wirkung im Zusammenspiel mit anderen Rechtsbereichen sichtbar zu machen. Wir haben die Verordnung so aufbereitet, dass sie nicht nur verstanden wird, sondern in allen relevanten Bereichen anwendbar ist. Das war unser Leitgedanke – und daran haben wir das ganze Projekt ausgerichtet.
Und noch einmal Herr Andrae, die KI-VO adressiert Juristen, Entwickler, Aufsichtsbehörden und viele weitere Akteure. Welche Zielgruppen haben Sie beim Schreiben des Kommentars besonders im Blick?
Silvio Andrae: Beim Schreiben des Kommentars hatten wir von Anfang an ein breites Publikum im Blick. Die KI-VO betrifft so viele Bereiche, dass ein klassischer juristischer Kommentar einfach nicht gereicht hätte.
Eine wichtige Zielgruppe sind natürlich Juristen: Rechtsanwälte, Unternehmensjuristen und auch Gerichte, die konkrete Fälle bewerten müssen. Genauso aber auch Wissenschaftler, die die Verordnung in größere rechtliche und gesellschaftliche Zusammenhänge einordnen.
Dann kommen die Unternehmen ins Spiel. Vor allem diejenigen, die KI entwickeln, einsetzen oder vertreiben. Für sie ist die KI-VO nicht nur ein juristisches Thema, sondern ein ganz praktisches:
· Wie baue ich mein Risikomanagement auf?
· Welche Dokumentation brauche ich?
· Wie muss ich meine Prozesse anpassen?
Deshalb richtet sich der Kommentar auch an Compliance-Teams und Risikomanager.
Sehr wichtig war uns außerdem die technische Community: Softwareentwickler, KI-Architekten oder Data Scientists. Sie alle müssen verstehen, welche Anforderungen das Gesetz an ihre Modelle, Daten und Prozesse stellt. Gerade Start-ups haben oft keine eigene Rechtsabteilung – daher wollten wir eine Orientierung bieten, die verständlich und direkt nutzbar ist.
Und natürlich brauchen auch die Aufsichtsbehörden Unterstützung. Marktüberwachungsbehörden, Datenschutzbehörden und sektorale Aufsichten – etwa im Finanz- oder Gesundheitsbereich – müssen in Zukunft diese Regeln anwenden und durchsetzen. Für sie wollten wir eine anwendungsorientierte und präzise Auslegungshilfe schaffen. Nicht zuletzt denken wir an Verbände und Interessengruppen. Sie sind wichtige Multiplikatoren und übersetzen die komplexe Regulierung für ihre Mitglieder in die Praxis.
Der Kommentar richtet sich bewusst nicht an eine einzige Berufsgruppe, sondern an ein interdisziplinäres Publikum. Denn die KI-VO wird viele verschiedene Akteure betreffen – und genau so breit haben wir auch unser Werk angelegt.
Herr Pohle, Herr Andrae, vielen Dank für Ihre umfassenden Erläuterungen und viel Erfolg mit Ihrem Werk!
 |
|
| Verlagsprogramm |
Weitere Nachrichten aus dem Bereich Recht |
(ESV / Bernd Preiß)
Programmbereich: Wirtschaftsrecht