„KI im Recruitment konnte nicht die Fairness garantieren, die wir im Recruitment haben“
Personalexperte Frank Kohl-Boas beschrieb zunächst unterschiedliche Anwendungsfelder von Künstlicher Intelligenz (KI) im Personalwesen. Weit bekannt, doch in Deutschland wenig verbreitet, ist der Einsatz von KI in der Personalbeschaffung, dem Recruitment. KI-gestützte Systeme können die Bewerbendenauswahl effizienter gestalten, allerdings ist oftmals das Problem der unbewussten Vorurteile – engl. unconscious bias – nicht geklärt.
„KI im Recruitment konnte nicht die Fairness garantieren, die wir im Recruitment haben.“
Frank Kohl-Boas erklärt die Tücken von KI im Personalwesen
Empfehlungen von Künstlicher Intelligenz basieren nämlich auf Daten in der Vergangenheit. Wenn laut der bekannten Daten für eine Position primär Männer eingestellt wurden, wird die KI lernen, dass dies die Norm ist und ggf. Frauen in der Auswahl benachteiligen.
Ein anderer Anwendungsfall von KI im Personalwesen ist die Personalentwicklung. Dies betrifft sowohl die Karriereentwicklung auf dem internen Stellenmarkt einer (Groß-)Organisation, als auch die Fähigkeitenentwicklung. KI kann auf Grundlage der bestehenden Daten dabei helfen, personalisierte Angebote entsprechend der individuellen Fähigkeiten und Präferenzen zu entwickeln.
Frank Kohl-Boas setzte zum Ende seines Impulses einen Akzent auf die positiven Möglichkeiten, die durch KI-Einsatz entstehen. Dazu gehört die Idee, dass KI dabei hilft Sozialpläne zu entwickeln, die sich an die individuellen Bedürfnisse der Beschäftigten orientieren. Dies sei gegenwärtig zwar noch Zukunftsmusik, aber eine Chance, um die Arbeitswelt besser zu gestalten.
Kohl-Boas appelliert, dass wie bei jeder neuen Technologie die Gestaltung entscheidend dafür ist, ob eher die positiven oder negativen Effekte dominieren und die politischen Gestalter*innen nicht das Potenzial abwürgen sollten, bevor es ausgeschöpft werden kann.
„Die Qualität der Daten ist einer der größten Knackpunkte der KI“
Digitalpolitikerin Rößner skizzierte ein breites Bild von Bereichen, mit denen sich der Bundestag mit Hinblick auf Algorithmen auseinandersetzt. Aus ihrer Perspektive müssen Menschen vor Diskriminierung geschützt werden. Man müsse darauf achten, dass Daten bias-frei sind. Dies sei allerdings eine Herausforderung, weil Daten ein Abbild der gesellschaftlichen Realität sind, die oft noch von Stereotypen beherrscht wird:
„Aufhorchen müssen wir bei Anwendungen, die zum Beispiel Stimm- und Mimikanalysen nutzen. Da besteht die Gefahr, dass wenn KI Akzente oder Dialekte nicht erkennt oder Menschen mit muskulären oder psychischen Erkrankungen als instabil bewertet und deshalb diskriminiert.“
Digitalpolitikerin Tabea Rößner über die Gefahr der Diskriminierung durch KI.
Sie erklärt, dass es ethische Leitplanken braucht, um die Potenziale Künstlicher Intelligenz im Sinne von Nachhaltigkeit und guter Arbeit zu nutzen. Diese Leitplanken, die sich am demokratischen Wertesystem orientieren, können nur entwickelt werden, wenn unterschiedliche Akteure aus Wirtschaft, Wissenschaft, Politik und Zivilgesellschaft zusammenarbeiten. Rößner erklärt, dass es bereits jetzt einige wichtige Initiativen gibt:
- KI-Strategie der Bundesregierung setzt Akzente für den Einsatz von KI;
- Die Daten-Ethikkommission brachte einen Bericht 2019 heraus;
- Die Enquete-Kommission „Künstliche Intelligenz – Gesellschaftliche Verantwortung und wirtschaftliche, soziale und ökologische Potenziale“ veröffentlichte 2020 einen umfänglichen Bericht mit Handlungsempfehlungen von KI;
- Das Weißbuch für Künstliche Intelligenz auf EU-Ebene setzt Standards für den verantwortungsvollen Umgang mit KI.
Insbesondere für den personalrechtlichen Bereich greifen dabei folgende regulatorische Rahmenbedingungen:
- Die Datenschutz-Grundverordnung (DSGVO) und das Bundesdatenschutzgesetz setzen die Leitplanken für den Umgang mit sensiblen Daten. In Zusammenhang mit KI erfordern diese Gesetze, dass eine Einwilligung von Beschäftigten gegeben wird, bevor die KI implementiert wird und der Einsatz sorgfältig geprüft werden muss;
- In puncto Mitbestimmung regeln das Betriebsrätemodernisierungsgesetz und das Betriebsverfassungsgesetz die Arbeitnehmerrechte auch mit Hinblick auf digitale Prozesse.
Zudem wird gegenwärtig die KI-Verordnung auf europäischer Ebene verhandelt. Rößner unterstützt den risikobasierten Ansatz, nach welchem höhere regulatorische Eingriffe vorgenommen werden sollen, wenn das Risiko der Anwendung steigt.
Auf Bundesebene soll hingegen ein Dateninstitut entstehen, um die Datenverfügbarkeit und -standardisierung weiterzuentwickeln. Zusätzlich wird mit Hinblick auf den Beschäftigtendatenschutz an einem Entwurf gearbeitet, der sowohl für Beschäftigte wie für Arbeitgeber Rechtsklarheit in puncto Datennutzung schafft.
Der Datenschutz ist nicht der Bremsklotz der digitalen Transformation
Rößner und Kohl-Boas diskutierten über die Bedingungen und Bremsen in der digitalen Transformation in Unternehmen und der Gesellschaft. Rößner sieht die Debatte um den Datenschutz als unvollständig. Wenn man Datenschutz von Anfang an mitdenke, könne man beispielsweise bei der Entwicklung von KI profitieren: „Die DSGVO verbietet nicht nur, sie ermöglicht auch“, erklärt die Politikerin. Für bestimmte Grenzbereiche, in denen Datentracking genutzt wird, um sensible Informationen von Beschäftigten zu erhalten, brauche man klare Regularien für den Arbeitnehmerschutz.
Kohl-Boas ergänzte, dass oft nicht der Datenschutz bei der Implementierung das Problem sei, sondern teilweise die digitalen Kompetenzen fehlen würden. Bereits im Kindsalter müsse man ansetzen, um bestimmte Fähigkeiten zu vermitteln und ein tiefgreifendes Verständnis von Digitalisierung zu schaffen.
Das Demographie Netzwerk sieht in Künstlicher Intelligenz und der digitalen Transformation eine Möglichkeit, um die Folgen des demographischen Wandels abzufedern. Der Fach- und Arbeitskräftemangel kann beispielsweise mithilfe von digitalen Lösungen abgemildert werden, indem bestimmte Routinetätigkeiten optimiert oder gar automatisiert werden und Beschäftigte sich komplexeren Aufgaben widmen können. Auch mit Hinblick auf das Gesundheitsmanagement der Beschäftigten gibt es eine Reihe digitaler Lösungen. Wir unterstützen Bestrebungen einen ethischen rechtlichen Rahmen zu entwickeln, der Beschäftigte im gleichen Maße befähigt und schützt. Die Art wie Algorithmen unsere Arbeitswelt verändern haben Tabea Rößner und Frank Kohl-Boas deutlich gezeigt. Wir bedanken uns herzlich für die Teilnahme an der Impulsreihe „Digitale Ethik“.
