KI-Bias in der persönlichen Finanzwelt:Geschlechterparität und Fairness

Künstliche Intelligenz verändert unsere Welt und Finanzdienstleistungen bilden da keine Ausnahme. KI verändert den Privatbanksektor, aber wo steht sie derzeit in Bezug auf Geschlechterparität, Transparenz und Fairness?

Wenn heute jemand einen Kreditantrag stellt, steigt die Wahrscheinlichkeit, dass kein Mensch seinen Antrag jemals liest. Ein datengesteuerter Algorithmus entscheidet oft in Sekundenschnelle und ohne Erklärung darüber, ob sie sich qualifizieren, wie viel sie leihen können und wie riskant sie sind. Dabei gestaltet er im Stillen finanzielle Möglichkeiten auf eine Weise, die die meisten Menschen in ihrem Alltag nie sehen, aber fühlen.

Diese Systeme werden meist als neutrale Werkzeuge dargestellt:schneller als Menschen, konsistenter, weniger anfällig für Vorurteile.

In einem Sektor, der seit langem wegen Undurchsichtigkeit und Voreingenommenheit kritisiert wird, ist dieses Versprechen verlockend und wird in Branchen- und politischen Debatten häufig wiederholt. Dieses Versprechen beruht jedoch auf der fragilen, selten explizit gemachten Annahme, dass die Daten, aus denen diese Systeme lernen, das Leben aller Menschen gleichermaßen widerspiegeln.

In einem aktuellen Bericht der EU-Agentur für Grundrechte, der auf Feldforschung in fünf Mitgliedstaaten basiert, wurde untersucht, wie Hochrisiko-KI-Systeme im Rahmen des EU-KI-Gesetzes in Bereichen wie Beschäftigung, öffentliche Leistungen und Strafverfolgung geregelt werden. Es wurde eine auffällige Kluft zwischen rechtlichen Ambitionen und der Praxis festgestellt:Während Diskriminierungsrisiken allgemein anerkannt sind, mangelt es Anbietern und Betreibern häufig an Werkzeugen, Fachwissen und Anleitung, um sie systematisch zu bewerten. Selbsteinschätzungen sind in der Regel inkonsistent und die Kontrolle bleibt dürftig.

Das ist ein wichtiges Thema. Wenn die in diese Systeme eingespeisten Daten die Realität des Finanzlebens von Frauen nicht mit der gleichen Tiefe und Genauigkeit erfassen wie das von Männern, ist das Ergebnis nicht nur ein technischer Mangel, sondern eine strukturelle Verzerrung, die darüber entscheidet, wer zu welchen Konditionen und mit welchen langfristigen Konsequenzen Zugang zu Krediten erhält. Damit die KI-gesteuerte Finanzierung fair ist, müssen Frauen zunächst in den Daten, auf denen diese Systeme basieren, „sichtbar“ sein.

Algorithmen beurteilen nicht die Fairness und fragen nicht, ob ein Ergebnis sinnvoll ist, sondern schätzen anhand der ihnen zur Verfügung gestellten Daten, was am wahrscheinlichsten richtig ist, zeichnen Muster und projizieren sie in die Zukunft. Wenn Daten unvollständig oder verzerrt sind, beruhen die Schlussfolgerungen des Systems von Anfang an auf unsicheren Annahmen.

Wenn Frauen unterrepräsentiert sind, schlecht gemessen werden oder nie getrennt von Männern analysiert werden, kann das System keine ungleichen Ergebnisse erkennen und was es nicht sehen kann, kann es nicht korrigieren. Voreingenommenheit wird einfach fortgeführt und zur Routine gemacht.

Diese Dynamik ist leicht zu übersehen, wenn die Diskussionen auf der Ebene von Modellen und Regulierung bleiben. Ihre Auswirkungen werden jedoch deutlich, sobald automatisierte Systeme in der Praxis beobachtet werden. In verschiedenen Ländern gibt es Hinweise darauf, wie schnell Ungleichheit in algorithmische Entscheidungen eingebettet werden kann, und zwar nicht, weil Systeme auf Diskriminierung ausgelegt sind, sondern weil sie die bereits vorhandenen Verzerrungen in den Daten, aus denen sie lernen, getreu reproduzieren.

Kenia bietet ein aussagekräftiges Beispiel. Laut veröffentlichten Studien bot ein weit verbreiteter digitaler Kreditalgorithmus Frauen trotz höherer Rückzahlungsleistung durchweg kleinere Kredite an als Männern, teilweise um mehr als ein Drittel. Das System hat Frauen nicht absichtlich herausgegriffen:Es hat lediglich aus Daten gelernt, die durch langjährige soziale und wirtschaftliche Ungleichheiten entstanden sind, und diese Muster dann in großem Maßstab angewendet.

In diesem Beispiel kommt es nicht auf Kenia selbst an, sondern darauf, was der Fall sichtbar macht. Der Algorithmus tat genau das, wofür er entwickelt wurde:Er lernte aus vergangenem Verhalten und wandte diese Muster konsequent an. Doch ohne die Fähigkeit, zwischen den Ergebnissen von Frauen und Männern zu unterscheiden, gab es keine Möglichkeit, in Echtzeit zu erkennen, dass Ungleichheit reproduziert wurde. Das Problem war nicht die Automatisierung, sondern die Blindheit.

Wie kann die Finanzwelt den geschlechtsspezifischen blinden Fleck überwinden?

Hier werden nach Geschlecht aufgeschlüsselte Daten unerlässlich. Durch die Sortierung von Finanzdaten nach Geschlecht können Regulierungsbehörden, Finanzinstitute und Technologiedesigner die Auswirkungen automatisierter Systeme aufdecken, ermitteln, wer Zugang zu Finanzmitteln hat, und Bereiche ermitteln, in denen die Ergebnisse voneinander abweichen. Ohne diese Sichtbarkeit bleiben die Geschlechterunterschiede verborgen, und versteckte Unterschiede neigen dazu, dauerhaft zu werden. Im digitalen Finanzwesen sind Daten „die beste Freundin eines Mädchens“, nicht als Slogan, sondern als praktische Voraussetzung für Rechenschaftspflicht.

Die meisten Finanzinstitute erfassen bereits im Rahmen der Basisidentifikation das Geschlecht eines Kunden. Auf dem Papier sind die Informationen vorhanden, eingebettet in Routineberichte und grundlegende Kundendaten. In der Praxis ist das Aufzeichnen einer Variablen jedoch nicht dasselbe wie deren Verwendung. In vielen Ländern erscheint das Geschlecht des Kunden in Datenbanken, wird jedoch nie von den Aufsichtsbehörden analysiert, gemeldet oder überwacht, auch nicht in zentralen Aufsichtsrahmen wie der aufsichtsrechtlichen Berichterstattung. Zu oft sind die Daten bereits vorhanden, werden aber gesammelt, abgelegt und dann stillschweigend ignoriert. Das Problem liegt nicht darin, was getan werden kann, sondern darin, was getan wird.

Gerechtere Finanzierung:Entwicklungsländer sind Vorreiter

Ganz anders sieht das Bild in Ländern aus, in denen oft angenommen wird, dass sie über weniger Ressourcen verfügen. In Teilen Lateinamerikas und Afrikas verlangen die Aufsichtsbehörden seit Jahren eine nach Geschlechtern aufgeschlüsselte Berichterstattung und veröffentlichen regelmäßig Daten zu geschlechtsspezifischen Unterschieden im Finanzwesen.

In Chile verfolgen die Finanzbehörden seit mehr als zwei Jahrzehnten geschlechtsspezifische Unterschiede bei Krediten und Einlagen und veröffentlichen regelmäßig nach Geschlechtern aufgeschlüsselte Finanzstatistiken.

In Mexiko kombinieren Aufsichtsbehörden Bankdaten mit landesweiten Haushaltsbefragungen, um zu verstehen, wie Frauen und Männer Finanzdienstleistungen nutzen und wie sie sich als Kreditnehmer verhalten.

Diese Sichtbarkeit hatte praktische Konsequenzen. In Mexiko zeigten Aufsichtsdaten, dass die Kredite an Frauen zwar geringer, aber weniger riskant waren, was zu Änderungen der Rückstellungsregeln für Kreditausfälle führte.

In Chile zeigten die Daten, dass der gleichberechtigte Zugang zu Konten nicht zu gleichen Ergebnissen beim Sparen oder Versichern führte, was zu gezielteren politischen Reaktionen führte. Sobald diese Lücken sichtbar wurden, wurde es viel schwieriger, sie zu ignorieren.

Aus dieser Perspektive sieht die Situation in vielen Volkswirtschaften mit hohem Einkommen weniger wie eine technische Verzögerung als vielmehr wie ein institutionelles Zögern aus. In weiten Teilen Europas bleiben Geschlechterdaten trotz fortschrittlicher Dateninfrastrukturen freiwillig oder fragmentiert, was nicht auf ein Versagen der technischen Kapazität, sondern der institutionellen Wahlmöglichkeiten zurückzuführen ist. Mein bevorstehendes Grundsatzpapier „Daten sind die besten Freunde eines Mädchens:Bekämpfung digitaler finanzieller Ungleichheit durch nach Geschlecht aufgeschlüsselte Daten“, das im Mai veröffentlicht werden soll, untersucht dies.

Je stärker künstliche Intelligenz in die finanzielle Entscheidungsfindung eingebettet wird, desto schwieriger wird es, diese Entscheidung zu verteidigen. In einer Zeit, in der Europa das EU-KI-Gesetz umsetzt und darüber debattiert, wie die algorithmische Entscheidungsfindung im Finanzwesen reguliert werden kann, wirft das Fehlen systematischer Geschlechterdaten eine grundlegende Frage auf:Wie kann Fairness überwacht werden, wenn die zur Erkennung von Ungleichheit erforderlichen Daten nie analysiert werden?

Frauen in den Daten sichtbar zu machen hat keinen symbolischen Charakter. Ohne sie ist faire Finanzierung kaum mehr als ein Anspruch.

Eine wöchentliche E-Mail in englischer Sprache mit Fachwissen von Wissenschaftlern und Forschern. Es bietet eine Einführung in die Vielfalt der Forschung auf dem Kontinent und befasst sich mit einigen der wichtigsten Probleme, mit denen die europäischen Länder konfrontiert sind. Holen Sie sich den Newsletter!