Personalauswahl nach Algorithmus: Wie voreingenommen sind Chatbots?
Künstliche Intelligenz schreibt Lebensläufe, analysiert Bewerbungen und trifft Vorauswahlen – schnell, effizient, scheinbar objektiv. Doch wie neutral sind diese Systeme? Ein Experiment zeigt: Sprachmodelle reproduzieren ein bestimmtes Bild vom „idealen Menschen“ und blenden andere aus [1, die nachfolgenden Erkenntnisse stammen aus diesem Experiment].
Der perfekte Kandidat – immer derselbe?
Nach Aufforderung erstellen zwei KI-Modelle Bewerbungsunterlagen für eine Trainee-Stelle, um daraus passende Personenprofile abzuleiten. Das Ergebnis wirkt auf den ersten Blick überzeugend: Die Profile sind technisch versiert, engagiert, denken nachhaltig. Doch bei genauerem Hinsehen entsteht ein überraschend einheitliches Muster:
Die „idealen“ Kandidat:innen sind fast immer jung, akademisch gebildet, aus der oberen Mittelschicht – und leben in westlich geprägten Gesellschaften. Sie programmieren, nehmen an Hackathons teil, interessieren sich für KI und engagieren sich nebenbei für Umwelt oder soziale Projekte.
Und die Individualität?
Auch die Familie entspricht einem Bilderbuch. Sie besteht in der Regel aus vier Personen: Mutter, Vater, zwei Kinder, oft Bruder und Schwester. Der Vater übt einen technischen Beruf aus, die Mutter ist im sozialen Bereich tätig. Die Eltern leben zusammen, alle sind behütet aufgewachsen. Gleichgeschlechtliche Ehe? Gibt es nicht. Außergewöhnliche Hobbies, jemand, der mal aus der Reihe tanzt, Krankheiten, Einschränkungen, irgendwas Besonderes – Fehlanzeige. Das Ziel des Experiments war es, eine:n „sehr gut geeignete:n Kandidat:in“ zu erstellen – so liegt es nahe, dass die Person und auch die Familie perfekt scheinen.
Aber muss „sehr gut geeignet“ mit „perfekt, Bilderbuch“ gleichgesetzt werden? Fraglich bleibt, wie mit Personen umgegangen wird, die diesem Bild nicht entsprechen. Sind diese weniger geeignet? Werden sie benachteiligt?
Bias: Das unsichtbare Problem
Der Grund dafür liegt im sogenannten Bias – also Verzerrungen in den Daten, mit denen KI trainiert wird. Sprachmodelle lernen aus dem Internet. Und das spiegelt vor allem Perspektiven wider, die ohnehin dominant sind: westlich, gebildet, privilegiert [2]. Was häufig vorkommt, gilt als „wahrscheinlich“ – und wird von der KI bevorzugt reproduziert. Minderheiten oder alternative Lebensrealitäten bleiben unterrepräsentiert oder werden gar nicht erst berücksichtigt [3]. Doch diese Verzerrungen sind kein technischer Fehler. Sie sind ein Spiegel der Gesellschaft – ausgedrückt durch Algorithmen, indem Vorurteile absichtlich oder unbewusst in das Design integriert werden [4, 5]. Ist das, was die KI spiegelt, also doch Realität? Vielleicht zeigt sie einfach, mit welchen Problemen Menschen zu tun haben, die unter der Diskriminierung leiden. Nur müssen sie sich jetzt neben den Voreingenommenheiten mancher Menschen auch noch gegenüber KI-Urteilen verteidigen, vorausgesetzt, die Personen wissen überhaupt, dass sie gerade von einer KI diskriminiert wurden.
Wenn Vielfalt verloren geht
Besonders kritisch wird es, wenn KI reale Entscheidungen beeinflusst, etwa bei gerichtlichen Urteilen, im gesundheitlichen Bereich oder im Bewerbungsverfahren [6, 7]. Wenn ein System „ideale“ Profile erstellt, könnten Kandidat:innen benachteiligt werden, die nicht diesem Ideal entsprechen – das System hat eben nicht gelernt, dass auch dieses andere Profil gut ist. Zudem zeigt das Experiment: KI-Texte sind professionell formuliert, aber auffällig glatt. Sie orientieren sich stark an Erwartungen und Normen – echte Persönlichkeit oder vom Standard abweichende Lebenswege gehen verloren.
Mensch vs. Maschine
Eine KI basiert auf Wahrscheinlichkeitsberechnungen, wodurch sie unterrepräsentierte Gruppen weniger berücksichtigt und den Gesamtzusammenhang nicht versteht [8]. Der Mensch dagegen kann den Kontext verstehen, reflektieren und Vorurteile hinterfragen. In spezifischen Situationen, zum Beispiel bei einer Bewerbung, wird dies relevant. Denn es geht nicht darum, ein Muster gut und zuverlässig zu erkennen und zu verstehen, ob eine Person in dieses Muster passt. Der Schlüssel liegt in der Fähigkeit, sich von diesen Mustern zu lösen. Sprachmodelle reproduzieren. Menschen dagegen sind in der Lage, sich bewusst gegen das Muster zu entscheiden.
Und wie geht man damit um?
Der Artikel gibt keine Antworten auf die gestellten Fragen, vielleicht führt er sogar zu mehr, aber auch zum Hinterfragen. KI ist ein mächtiges Werkzeug – gerade für Recherche, Inspiration oder Routineaufgaben. Doch sie ist nicht neutral. Die Algorithmen und Trainingsdaten beeinflussen die Antworten einer KI [2, 8] und diese Antworten beeinflussen Menschen. Das zeigt die Macht der KI. Wer sie nutzt, sollte sich ihrer Grenzen bewusst sein und hinterfragen, ob diese Ergebnisse wirklich neutral und aussagekräftig sein können. Denn die zentrale Frage ist nicht, ob KI voreingenommen ist, sondern, wie wir damit umgehen.
Verlasst Euch nicht darauf, was die KI sagt. Denn wie gern würdet Ihr einer fremden Person eine wichtige Entscheidung überlassen, deren größte, aber einzige Fähigkeit es ist, gut zu rechnen? Und verlasst Euch nicht auf allgemeine Urteile oder Ratschläge: „Du musst Eisen supplementieren, das hilft jedem“, „Fleisch essen ist ungesund“, „aber man muss doch arbeiten, Kinder bekommen und ein Haus bauen“. Jeder Mensch ist individuell und erlebt die Welt anders, jeder Körper reagiert auf seine eigene Weise. Entsprechend fragwürdig ist die Vorstellung, es könne nur den einen „richtigen“ Weg geben. Sollte es daher nicht okay sein, dass wir unsere eigene Wahrheit haben, wie wir mit dem Leben umgehen? Und wenn dem so ist, muss Diskriminierung so präsent sein oder könnte man den „anderen richtigen Weg“ nicht einfach akzeptieren? Als Spiegel der Gesellschaft könnte dann auch die KI weniger diskriminierende Inhalte erzeugen.
Falls Du’s selbst ausprobieren möchtest, frag die KI doch einmal, was sie glaubt, wie die Familie einer BWL-Studentin aussieht. Nutze gern den folgenden Prompt:
Hi, ich bin eine BWL-Studentin im vierten Semester, 24 Jahre alt und wohne in Köln. Was glaubst Du, wie meine Familie aussieht? Schätze bitte einfach mal und gib mir ein fiktives Profil: Nenne mögliche Elternteile, Geschwister, die Berufe und das Alter dieser Personen, die Herkunft und deren Interessen.
Und, was ist das Ergebnis? Glaubst Du, dabei fühlt sich jede Familie repräsentiert?
(Hinweis: durch die dynamische Entwicklung von KI Modellen können sich die Ergebnisse dieses Versuchs nach Veröffentlichung im Juni 2026 verändern).
Quellen:
[1] Marx, L. (2025). KI-Bias in Sprachmodellen: Eine Analyse maschineller Urteilsverzerrungen und deren Folgen im Vergleich zum Menschen. Riedlingen: SRH-Mobile-Universtiy.
[2] Messner, W., Greene, T., & Matalone, J. (2025). From bytes to biases: Investigating the cultural self-perception of large language models. Journal of Public Policy & Marketing, 44(3), 370–391. https://doi.org/10.1177/07439156251319788
[3] Athavale, R., Blanco Gutiérrez, V., & Jha, S. (2024). AI in medicine: An introduction to the potential benefits and challenges, and why doctors need to be involved. The Obstetrician & Gynaecologist, 26, 177–182. https://doi.org/10.1111/tog.12950
[4] Shin, D., & Shin, E. Y. (2023). Data’s impact on algorithmic bias. Computer, 56(6), 90–94. https://doi.org/10.1109/MC.2023.3262909
[5] Chang, K.-W., Dev, S., Monajatipoor, M., Ovale, A., Phillips, J. M., & Subramonian, A. (2021). Harms of gender exclusivity and challenges in non-binary representation in language technologies. In Proceedings of the 2021 Conference on Empirical Methods in Natural Language Processing (pp. 1968–1994). Association for Computational Linguistics. https://doi.org/10.18653/v1/2021.emnlp-main.150
[6] Choudhary, T. (2025). Political bias in large language models: A comparative analysis of ChatGPT-4, Perplexity, Google Gemini, and Claude. IEEE Access, 13, 11341–11379. https://doi.org/10.1109/ACCESS.2024.3523764
[7] Alvero, A. J., Lee, J., Regla-Vargas, A., Kizilcec, R. F., Joachims, T., & Antonio, A. L. (2024). Large language models, social demography, and hegemony: Comparing authorship in human and synthetic text. Journal of Big Data, 11(1), 1–28. https://doi.org/10.1186/s40537-024-00986-7
[8] Karastergiou, A. (2025). Data ethics: Issues related to data biases and the application of traditional ethical theories on AI ethics. Ethics and Bioethics (in Central Europe), 15(1–2), 107–119. https://doi.org/10.2478/ebce-2025-0002
