Quo vadis: Wohin steuert der Einsatz künstlicher Intelligenz?

Quo vadis: Wohin steuert der Einsatz künstlicher Intelligenz?

„Der Fantasie sind keine Grenzen gesetzt.“ Auch beim Einsatz künstlicher Intelligenz (KI) scheint die Technik der Vorstellungskraft kaum Grenzen zu setzen – so jedenfalls der Eindruck, den die täglichen Medienberichte über ChatGPT erwecken: eine generative KI, die Texte und Gedichte schreiben, schnelle Recherchen durchführen und Prüfungen an Eliteuniversitäten in den USA bestehen kann.

Viele Unternehmer fragen sich, wie sie die scheinbar unbegrenzten technischen Möglichkeiten „denkender“ Software und Algorithmen sinnvoll im Unternehmen, insbesondere im Arbeitsalltag, einsetzen können. Vier Anwendungsbereiche stechen hervor: „People Analytics“ wird zur Leistungsbeurteilung und Eignungsprüfung für neue Stellen sowie zur Qualifizierung von Talenten eingesetzt. KI im Bereich des „Algorithmic Management“ dient der Planung und Steuerung von Mitarbeitertätigkeiten. KI zur Automatisierung von Aufgaben („Task Automation“) übernimmt einfache Tätigkeiten eigenständig. Schließlich nutzen Mitarbeiter zunehmend ChatGPT, um Vorlagen für Texte, Programmierung oder Ähnliches zu erhalten.

Doch kennen Fantasie und Technik wirklich keine Grenzen – oder gibt es rechtliche Hürden, die den Einsatz riskant machen?

Ein konkreter Rechtsrahmen für den Einsatz künstlicher Intelligenz existiert in Europa bislang nicht. Spannend ist allerdings, dass die EU-Kommission im April 2021 einen ersten Entwurf für eine Verordnung über den Einsatz künstlicher Intelligenz (KI-Verordnung) vorgelegt hat, der – nach aktuellem Stand – möglicherweise noch in diesem Jahr verabschiedet wird. Ein genauerer Blick auf den Entwurf lohnt sich, um die Stoßrichtung der gesetzgeberischen Bemühungen zu erkennen.

Der Gesetzgeber legt dabei eine sehr weite KI-Definition zugrunde. Demnach könnten auch einfache Automatisierungsprozesse in den Anwendungsbereich der KI-Verordnung fallen. Eine Vielzahl bereits eingesetzter Systeme müsste demnach anhand der KI-Verordnung überprüft werden.

Die KI-Verordnung unterscheidet vier Risikoklassen (unannehmbar, hoch, gering und minimal), die unterschiedlich stark reguliert werden. KI-Praktiken, die als unannehmbar gelten – etwa weil sie fundamentale Werte der EU verletzen – sind verboten (Art. 5 KI-Verordnung). Beispiel: die Bewertung sozialen Verhaltens (Social Scoring). Für Hochrisiko-KI-Systeme gelten Mindestanforderungen (Art. 8 ff. KI-Verordnung), die Anbieter und Nutzer der Systeme erfüllen müssen (Art. 16 ff. KI-Verordnung). Unabhängig von der Risikoklasse gelten zudem insbesondere Transparenzanforderungen (Art. 52 KI-Verordnung). KI-Systeme mit geringem oder minimalem Risiko unterliegen hingegen keiner besonderen Regulierung.

Anbieter solcher Systeme können sich freiwillig an Verhaltenskodizes orientieren (Art. 69 KI-Verordnung). Vorausschauende Unternehmen könnten den geplanten und bestehenden KI-Einsatz bereits jetzt auf Basis der Regelungen validieren, um die Nutzung rechtlich sicherer zu gestalten. Die KI-Verordnung liefert wichtige und aktuelle Hinweise darauf, wie sich die EU-Kommission den rechtlichen Umgang mit KI vorstellt.

Doch welche rechtlichen Hürden gelten derzeit für den scheinbar grenzenlosen Einsatz von KI? Maßgeblich sind derzeit die Datenschutz-Grundverordnung (DSGVO), Diskriminierungsverbote, Regelungen zum Verbraucherschutz und zur Produktsicherheit sowie Mitbestimmungsrechte.

Verwendet ein Unternehmen beispielsweise die Sprachanalysesoftware von Precire, um automatisch die Eignung von Bewerbern anhand ihrer sprachlichen Fähigkeiten zu analysieren, oder stützt es sich auf die Videoanalysefunktion von HireVue zur Erstellung von Persönlichkeitsprofilen, wird eine vorherige Datenschutzanalyse und -dokumentation empfohlen. Nach § 26 Bundesdatenschutzgesetz (BDSG), der möglicherweise nicht EU-rechtskonform ist, muss die Datenverarbeitung (i) geeignet sein, den festgelegten Zweck zu erreichen, (ii) erforderlich sein, d. h. es darf kein milderes Mittel mit weniger Eingriff in Rechte geben, und (iii) eine Interessenabwägung stattfinden.

DSGVO und Diskriminierungsverbot

In der Regel ist die Erstellung von Persönlichkeitsprofilen unzulässig – es sei denn, sie ist im Einzelfall aufgrund konkreter Anforderungen im Anforderungsprofil der Stelle gerechtfertigt. Nach Art. 22 DSGVO darf Software keine Personalentscheidungen (z. B. Einstellung, Beförderung, Kündigung) selbst treffen, sondern nur als Unterstützung im Entscheidungsprozess dienen. Um einen diskriminierungsfreien Einsatz von Analysesoftware sicherzustellen, sollte der Softwareanbieter darlegen, welche Vorkehrungen er zur Vermeidung von AGG-Risiken getroffen hat. Schließlich müssen auch die aktuellen Urteile des EuGH vom 30.03.2023 und 04.05.2023 berücksichtigt werden, um die korrekte Rechtsgrundlage für die Verarbeitung von Personaldaten im Einzelfall zu gewährleisten.

Millionenstrafen drohen

Fazit: Neben der Fantasie setzt auch die Technologie dem Einsatz von KI immer weniger Grenzen – und dieser wird immer praktischer. Der Einsatz von KI sollte jedoch gut überlegt sein, um langfristig vom technischen Fortschritt zu profitieren. Andernfalls droht unliebsame Post von der Aufsichtsbehörde. Vor dem Hintergrund der in Deutschland bereits verhängten Bußgelder in Millionenhöhe bei Datenschutzverstößen ist eine Datenschutz-Folgenabschätzung dringend zu empfehlen – und zu dokumentieren – bevor künstliche Intelligenz zum Einsatz kommt.