Künstliche Intelligenz (KI o.a. AI genannt) im Bewerbungsprozess: Enorme Risiken für Arbeitgeber
Bewerber nutzen sie auch: KIs und Sprachmodelle. Arbeitgeber hingegen sollten beim Einsatz von Künstlicher Intelligenz im Zusammenhang mit Stellenausschreibungen vorsichtig sein, denn die Risiken und Kosten eines einzigen Fehlers können verheerend sein.
Stellenausschreibungen sind für Unternehmen teuer, weil aufwendig. Besonders durch den Einsatz von KI auf Seiten der Bewerber werden Unternehmen mit einer Vielzahl an Bewerbungen "zugeschüttet" die so gar nicht auf die Stelle passen, aber ellenlange Texte enthalten. Das Vorsortieren der Bewerber war schon vor den Zeiten von AI (Artificial Intelligence) zeitaufwendig und damit teuer - und es ist seitdem nicht leichter geworden.
Nicht zuletzt deswegen ist die Versuchung für Arbeitgeber groß, Bewerbungen mit Hilfe von KIs vorzusortieren oder auch sonstige Schritte des Bewerbungsverfahrens zu automatisieren. Arbeitgeber sollten aber in diesem Zusammenhang der KI noch misstrauen!
Keine Zweifel: Die KI kann Bewerbungen vorsortieren und Absagen automatisiert und individualisiert versenden
Idealerweise könnte man die Künstliche Intelligenz mit den Bewerbungen "füttern" und ihr mit einem genialen Prompt aufgeben, für den menschlichen Personaler (nur) diejenigen Kandidaten herauszusuchen, die am besten auf die ausgeschriebene Stelle passen. Der müsste sich dann nur noch mit relevanten Bewerbungsunterlagen beschäftigen. Und das Sahnehäubchen wäre es dann noch, wenn man die so als ungeeignet identifizierten Bewerbungen auch noch automatisiert mit einer - vielleicht sogar individualisierten - Absagenachricht final bearbeiten (und dann vergessen) könnte.
Dass all dies bereits möglich ist, zeigt bereits der unsägliche Trend des "White Fonting" in Bewerbungsunterlagen. Unternehmen werden zudem tagtäglich mit Angeboten für HR-KI-Tools zugespamt, die Spitzenbewerber angeblich viel zuverlässiger und schneller als menschliche Entscheider herausfiltern sollen.
White Fonting durch Bewerber: Versuch die HR-KIs auszutricksen
Dass Bewerber mittlerweile ausgefuchste und immer besser werdende Sprachmodelle nutzen, um Bewerbungsunterlagen zu erstellen ist ein alter Hut. Aber auch vor den Zeiten der Künstlichen Intelligenz hat die "Motivationsschreiben" kaum noch jemand gelesen.
Ein neuer "Trend" ist allerdings der Versuch, durch den Einsatz von weißer Schrift in den Bewerbungsunterlagen bestimmte "Keywords" in die Bewerbungsunterlagen nur für die "vorfilternde" KI hineinzuschmuggeln.
Beispiel: Dem KI-Copiloten wird vom Personaler durch einen Prompt gesagt, er suche Mitarbeitende mit unternehmerischem Denken und Innovationsgeist. Daher solle ihm die Bewerber-KI die TOP 5 Kandidatinnen und Kandidaten heraussuchen, welche diese Eigenschaften besonders ausgeprägt mitbringen.
Was macht nun die KI? - Sie durchforstet und analysiert die Bewerbungen nach einschlägigen und artverwandten Keywords und kombiniert diese ggf. mit Webergebnissen, z.B. welche früheren Arbeitgeber eines Bewerbers besonders einschlägig sein könnten. Und genau dort versuchen trickreiche Bewerber anzusetzen: Sie versuchen mit weißer Schrift auf weißem Hintergrund der KI Keywords unterzuschieben, die ein menschlicher Entscheider nicht lesen würde. Die Trickser versuchen so, den "Vorfilter" der KI zu umgehen und ihre Chancen zu erhöhen, sich doch noch bis auf den Schreibtisch oder Bildschirm eines Personalentscheiders durchzumogeln, auch wenn sie nicht wirklich etwas Relevantes für die konkrete Stelle zu bieten haben.
Verboten ist diese Masche übrigens nicht. Sie ist - entgegen landläufiger Meinung - auch kein Betrug. Ob sie tatsächlich die Einstellungschancen erhöht, ist allerdings zu bezweifeln: Der Personalsachbearbeiter wird sich die Bewerbung achselzuckend durchlesen und sich fragen, was sein HR-AI-Tool denn geritten hat, ihm diese eigentlich irrelevante Bewerbung vorzulegen. In dem Fall wird die Bewerbung dann wohl manuell ausgeschieden.
Teure Fehler: Bewerbungen mit KI vorsortieren
Welche Risiken drohen denn nun konkret, wenn man Bewerbungen mittels Artificial Intelligence (AI) vorsortieren lässt? Nun, das Offensichtliche vorweg: Wenn die KI nicht sauber arbeitet, gehen Ihnen hervorragende Mitarbeiter durch die Lappen, die Sie und Ihr Unternehmen enorm nach vorne gebracht hätten.
Viel wichtiger ist aber die richtige Vorauswahl, weil es ja auch Gesetze zu beachten gibt:
Wenn Ihr Prompt schlampig geschrieben ist und Sie die KI falsch versteht, wird nach einem Prompt mit
"alle Bewerber die Berufserfahrung im Büro haben"
schnell eine Liste mit nur männlichen Bewerbern. So schnell diskriminieren Sie weibliche und diverse Bewerber/innen aufgrund ihres Geschlechts!
Brandgefährlich ist auch die Möglichkeit, dass die KI vollkommen verbummelt, wie mit Bewerbungen schwerbehinderter Menschen umgegangen werden muss. Erkennt die KI nicht, dass ein Bewerber oder eine Bewerberin eine Schwerbehinderteneigenschaft mitbringt, wird diese Person womöglich nicht zu einem Vorstellungsgespräch eingeladen obwohl Sie die Person hätten einladen müssen! Und sollte die Person zufällig doch zu einem Vorstellungsgespräch eingeladen werden, verschlafen Sie es schneller als Sie denken, dass Sie den Betriebsrat und / oder die Schwerbehindertenvertretung informieren und beteiligen müssen. Ergebnis: Eine Diskriminierung aufgrund der Behinderung des Bewerbers oder der Bewerberin!
Wer jetzt denkt "Wenn überhaupt, dann hat die KI diskriminiert, nicht ich!" der wird seine liebe Müh' und Not haben, das dem Arbeitsgericht zu erklären. Ist der Anscheinsbeweis einer Diskriminierung erst einmal geführt, werden Sie das Schiff zur Verurteilung zu einer Entschädigung wegen verbotener Diskriminierung nicht mehr wirklich wenden können. Es drohen Entschädigungszahlungen bis zur Höhe von drei Monatsgehältern, gemessen an den hypothetischen Bezügen der ausgeschriebenen Stelle.
Härtetest: Vorsortierung von Bewerbungen durch KI-Modelle
Aus Spaß an der Freude hat unser wissenschaftlicher Mitarbeiter in der Kanzlei zwei sehr, sehr bekannte KI-Modelle mit 12 Testbewerbungen gefüttert, die wir echten Bewerbungen nachempfunden haben. Und nein: Wir nennen nicht die Namen der AIs, sonst werden wir schneller verklagt als uns lieb ist 😉
Im Nachgang dazu sollte getestet werden, ob die KI gewollt oder ungewollt diskriminiert. Hierzu wurden diverse Selektionen der Bewerber nach scheinbarer "Eignung" vorgenommen. Außerdem sollte eine Liste mit schwerbehinderten Bewerber/innen zur Unterrichtung des Betriebsrats und der Schwerbehindertenvertretrung erstellt werden.
Ergebnis:
- KI Nummer 1 nimmt die Prompts zu wörtlich und wirft als Allererstes weibliche und diverse Bewerber/innen raus. Außerdem erkennt die KI nicht zuverlässig, ob in der Bewerbung eine Schwerbehinderung erwähnt wird.
Setzen, sechs! - KI Nummer 2 verarbeitet die Prompts besser, sie nimmt uns mit "Bewerber" nicht zu wörtlich und kennt wohl das deutsche generische Maskulinum. Sie findet aber nur 1 von 2 Bewerbungen von Schwerbehinderten. Die Liste mit Schwerbehinderten für den Betriebsrat bzw. die Schwerbehindertenvertretung wäre unvollständig gewesen. Hinsichtlich der nicht gelisteten schwerbehinderten Person hätte also eine Unterrichtung des Betriebsrats bzw. der Schwerbehindertenvertretug nicht stattgefunden.
Kann teuer werden!
Fazit:
Mit beiden KIs hätten wir uns dem Risiko einer Klage wegen Diskriminierung ausgesetzt. In Zeiten knapper Budgets nicht unbedingt erstrebenswert.
Worst Case: Individuelle Absageschreiben an Bewerber
Jetzt wollten wir es aber genau wissen. Unser wissenschaftlicher Mitarbeiter murmelt etwas von "Ar*chbombe ins Fettnäpfchen" und haut in die Tasten:
Er sagt den beiden Artificial-Intelligence-Modellen, sie sollen ihm individuell auf die Bewerbungen zugeschnittene Absageschreiben für den Versand per E-Mail erstellen. Zuvor sollen sie ihm aber 10 Fragen über die ausgeschriebene Stelle stellen, um sicherzugehen, dass sie ihn richtig verstanden haben und ein konkreter Bezug zur Stellenausschreibung gegeben ist.
Ergebnis:
- KI Nummer 1 schreibt langweilige Standard-Absagen und die zuvor gestellten Fragen werden nicht wirklich berücksichtigt. Eher unbefriedigend, 0815 hätten wir auch selbst mit Textbausteinen gekonnt!
Kein Mehrwert! - KI Nummer 2 geht wirklich schön auf die Bewerbungen ein, fasst ein bisschen deren Inhalt zusammen und erklärt, dass die Qualifikationen des Bewerbers mit näher bezeichneten (auf den 10 Fragen basierenden) Anforderungen der Stelle abgeglichen wurden und es leider nicht gepasst habe.
Das liest sich zwar eloquent, aber im Prinzip sagt das dem Bewerber: "Das kannst du, das haben wir gesucht, und du hast nichts von dem was wir gesucht haben!" So etwas wird von Bewerbern schnell als arrogant empfunden und mündet in schlechten Bewertungen auf den einschlägigen Bewertungsportalen für Arbeitgeber.
Dann aber der Schock: Eine unserer nachempfundenen Bewerberinnen hatte in ihrer Bewerbung Kinder angegeben und in einem Satz angeschnitten, dass sie der Meinung sei, Ihre Mutterrolle zu Hause qualifiziere sie für den Job besonders weil diese Spontanität erfordere.
Die KI hatte diesbezüglich nichts Besseres zu tun, als der Bewerberin zu erklären, dass es mit ihr nicht passe, aber das ja nicht schlimm sei, die Bewerberin habe mit den Kindern schon eine spannende Aufgabe und so könne sie die Zeit mit den Kindern genießen!
Das ist bestenfalls eine verklausulierte Form von "Frauen an den Herd!" und im schlimmsten Fall wird das als "Wir stellen keine Mütter, also Frauen, ein!" gelesen.
So ist einem der Shitstorm sicher!
Es drängt sich die Erkenntnis auf, dass herkömmliche Wald-und-Wiesen-KIs (noch) nicht als HR-Tools dienen können und sollten. Wenn dann muss man wohl auf spezielle HR-KIs zurückgreifen, denen ein Bewerber-Onlinefragebogen vorgeschaltet wird, in dem die Bewerber und Bewerberinnen kritische Daten wie z.B. Schwerbehinderung usw. unmissverständlich über Formularfelder angeben müssen. Nur so werden diese zuverlässig erkannt und bei der Bearbeitung der Bewerbung rechtssicher berücksichtigt.
Nächstes Problem: Wo gehen die personenbezogenen Daten hin? - Auftragsdatenverarbeitung, womöglich in den USA?
Ein großes und unterschätztes Problem bei der Verarbeitung von Bewerbungen mittels KI-Tools ist der Datenschutz.
Der Upload von personenbezogenen Daten in Form von Bewerbungsunterlagen zur Serverfarm der KI ist besonders kritisch, da die Anbieter häufig in den USA oder anderen Drittstaaten sitzen, Löschungsmöglichkeiten nicht existieren und eine Einwilligung der Bewerber häufig nicht vorliegt.
Eine Bewerbung enthält massenweise sensible personenbezogene Daten. Mit Foto, Anschrift und Lebenslauf ist es ein Leichtes, die Identität einer Person zu stehlen und diese Informationen zu missbrauchen. Nicht selten finden sich auch Angaben zur Religionszugehörigkeit, Ethnie sowie zur sexuellen Orientierung (z.B. Mitgliedschaft oder Funktionsamt in einem entsprechenden Verein, z.B. CSD-Veranstaltungsverein). Diese gemäß Art. 9 Abs. 2 DSGVO besonders sensiblen Daten dürfen nur unter strengen Voraussetzungen verarbeitet werden.
Der Upload dieser Daten zu Servern von Fremdanbietern dürfte von der grundsätzlichen Einwilligung der Person, die Daten zum Zwecke des Bewerbungsverfahrens zu verarbeiten, nicht umfasst sein, zumal der Anwender (also der Arbeitgeber) eben keine DSGVO-konforme Löschung sicherstellen kann.
Hinzukommt: Moderne KIs lernen mit jedem Prompt, sie entwickeln sich weiter (maschinelles Lernen). Die Bewerbungsunterlagen und Prompts des Arbeitgebers "füttern" die KI und werden so gewissermaßen Teil davon. Die KI-Anbieter nutzen die Benutzereingaben auch zur Analyse und zur Qualitätssicherung.
Aus anwaltlicher Sicht ist eine Verarbeitung von Bewerbungen mittels KI ohne eine hinreichend sichergestellte wirksame Einwilligung des jeweiligen Bewerbers ein Seiltanz über offenem Feuer.
Gesamtfazit: KI bei Bewerbungen ist risikoreich und kann sehr teuer werden
Der Einsatz von KI im Zusammenhang mit Bewerbungen sollte wohlüberlegt sein. Es sind jedenfalls ausreichende und gründliche Tests durchzuführen, bevor Ausgaben der KI blind übernommen und an Externe versandt oder intern zur Grundlage von weitreichenden Entscheidungen gemacht werden.
Neben den unkalkulierbaren Imageschäden (Shitstorms etc.) bei Fehlern in Zusammenhang mit Bewerbungsverfahren drohen ganz konkret Schadenersatzzahlungen bis zu einer Höhe eines hypothetischen Quartalsgehalts der ausgeschriebenen Stelle.