Was ist KI Bias (Voreingenommenheit)? Ursachen und Gegenmaßnahmen

Was ist KI Bias?

KI Bias, auf Deutsch Voreingenommenheit, ist die Neigung eines KI Systems, für bestimmte Gruppen oder Situationen systematisch unfaire oder verzerrte Ergebnisse zu liefern. Die Ursache liegt meist in Lücken bei Daten, Beschriftung, Entwurf oder Nutzung. Das Modell handelt nicht böswillig. Stattdessen wiederholt es lediglich die Muster, die es gelernt hat.

Ein einfacher Vergleich hilft. Stellen Sie sich einen Kassierer vor, der nur die Kundschaft aus seiner eigenen Nachbarschaft kennt. Kommt jemand aus einem anderen Viertel, fragt er daher mehr nach und vertraut weniger. Er meint es nicht böse, denn seine Erfahrung ist schmal. In der Praxis funktioniert eine KI genauso. Sie lernt aus Beispielen, also liefern enge oder schiefe Beispiele schiefe Ergebnisse.

In diesem Beitrag beantworten wir die Frage "Was ist KI Bias" und bleiben bei diesem einen Begriff. Wir sind Talha Aslan und Team und erklären Bias verständlich für Teams, die KI in echte Geschäftsprozesse einbinden. Nachbarbegriffe streifen wir nur kurz in der Vergleichstabelle, denn dafür gibt es eigene Artikel.

Wie funktioniert Bias in einem KI System?

Ein Modell lernt, indem es Muster aus den Trainingsdaten in Zahlen übersetzt. Trifft es dann auf einen neuen Fall, sucht es nach diesen Mustern und trifft eine Vorhersage. Ist eine Gruppe in den Daten kaum vertreten, erkennt das Modell sie also schlechter. Außerdem übernimmt es unfaire Entscheidungen aus der Vergangenheit, wenn die Daten sie enthalten.

Dabei gilt ein wichtiger Punkt. Allerdings bleibt Bias selten in einer einzelnen fehlerhaften Zeile. Stattdessen breitet er sich im ganzen System aus. Das heißt, ein Modell kann ein verzerrtes Muster in tausende Entscheidungen tragen. Weil die Ergebnisse konsistent aussehen, fällt das Problem kaum auf.

Merken Sie sich diese Kette, denn jedes Glied birgt ein eigenes Risiko:

• Zunächst sammelt ein Team Daten, und diese Daten zeichnen ein Bild der Welt.
• Danach beschriften Menschen die Daten und legen fest, welche Merkmale zählen.
• Dann leitet das Modell aus den Beschriftungen ein Muster ab.
• Schließlich trifft das System auf echte Nutzer, und seine Ausgaben münden in Entscheidungen.

Somit kann jedes Glied Bias einbringen oder verstärken. Deshalb reicht es nicht, nur an einer Stelle zu suchen.

In welcher Phase des KI Lebenszyklus entsteht Bias?

Bias kann in jeder Phase entstehen, daher müssen Sie den gesamten Lebenszyklus im Blick behalten. Zum Beispiel betrachtet das NIST Bias über Entwurf, Entwicklung und Einsatz hinweg. Das Problem beginnt also nicht erst bei den Trainingsdaten, sondern oft schon bei der Idee.

Sie können sich den Ablauf in dieser Reihenfolge vorstellen:

1. Planung: Das Team legt fest, welches Problem das System löst und wen es betrifft. Ein falsches Ziel verzerrt hier alles, was danach kommt.
2. Daten: Quelle, Abdeckung und Qualität der Repräsentation nehmen Gestalt an.
3. Modell: Das Team wählt Algorithmus, Merkmale und Erfolgsmaß.
4. Bewertung: Das Team prüft die Ergebnisse gruppenweise.
5. Einsatz und Beobachtung: Das Team verfolgt die Ergebnisse im Alltag und passt das Modell an, wenn nötig.

Außerdem entscheiden in jeder Phase andere Personen. Zum Beispiel verantwortet der Fachbereich die Planung, ein Datenteam die Daten und der Betrieb die tägliche Nutzung. Daher kann Bias Management nicht die Aufgabe einer einzelnen Fachkraft sein. Konkret brauchen Sie eine klare Aufteilung der Verantwortung zwischen den Teams.

Welche Hauptquellen hat KI Bias?

Das amerikanische National Institute of Standards and Technology (NIST) ordnet KI Bias in drei Kategorien ein. Es unterscheidet systemischen, statistischen beziehungsweise rechnerischen und menschlichen Bias. Diese Einteilung zeigt also, dass das Problem nicht nur technisch ist. Regeln von Institutionen, gesellschaftliche Gewohnheiten und persönliche Annahmen spielen ebenfalls mit.

Das NIST beschreibt dies in seiner Sonderveröffentlichung NIST SP 1270. Zudem nimmt das Dokument eine soziotechnische Sicht ein. Anders gesagt, die Technik allein trägt nicht die Schuld. Auch die Menschen und Organisationen, die sie bauen und nutzen, gehören zum Bild.

In der Praxis empfehlen wir, vier Quellen einzeln zu prüfen:

• Daten: Wessen Beispiele sind enthalten, und wessen fehlen?
• Beschriftung: Wer hat die Labels vergeben, und nach welchen Kriterien?
• Entwurf: Was soll das Modell erreichen, und was misst es?
• Nutzung: In welchem Umfeld läuft das System, und wen betrifft es?

Danach öffnen die folgenden Abschnitte diese vier Quellen der Reihe nach.

Wie entsteht Bias durch Daten?

Zunächst sind Daten die am häufigsten genannte Quelle. Denn ein Datensatz zeigt nur einen kleinen, ausgewählten Ausschnitt der Welt. Ein Modell, das aus Kundenbewertungen lernt, sieht zum Beispiel die stille Mehrheit nie, die keine Bewertungen schreibt. Folglich lernt es auch nicht, was diese Kunden brauchen.

Typische Formen von Datenbias sind:

• Unterrepräsentation: Eine Gruppe kommt in den Daten kaum vor.
• Stichprobenverzerrung: Die Daten stammen nur von Personen, die leicht erreichbar sind.
• Historischer Bias: Die Daten tragen unfaire Entscheidungen aus der Vergangenheit in sich.
• Veralten: Die Daten spiegeln die heutigen Bedingungen nicht mehr.

Vor allem der historische Bias fällt kaum auf. Die Daten sind technisch richtig, denn sie beschreiben, was wirklich geschah. Allerdings war das, was geschah, nicht fair. Somit hält das Modell diese Vergangenheit für ein gutes Beispiel und trägt sie in die Zukunft.

NIST SP 1270 nennt Datensätze als eine von drei Kernherausforderungen beim Umgang mit Bias. Beurteilen Sie die Datenqualität deshalb nicht nur nach fehlenden Zellen. Fragen Sie vor allem, wen die Daten abbilden.

Was sind Bias durch Beschriftung und Entwurf?

Erstens ist Beschriftung die menschliche Arbeit, die Rohdaten ihre Bedeutung gibt. Menschen entscheiden, ob eine Bewertung positiv oder negativ zählt oder ob eine Bewerbung passt. Deuten die Beschrifter Fälle unterschiedlich oder sind die Richtlinien vage, hält das Modell diese Unklarheit für ein Muster.

Zweitens entsteht Bias durch den Entwurf an anderer Stelle. Das Team legt dann fest, was das Modell anstreben soll. Ein Ziel wie "finde Kandidaten, die früheren Einstellungen ähneln" zementiert das Muster der Vergangenheit. Ist das Ziel falsch, hilft deshalb selbst die beste Datenbasis nicht.

Außerdem gehören Stellvertretermerkmale hierher. Ein Modell kann ein geschütztes Merkmal meiden und trotzdem ein anderes Merkmal nutzen, das damit zusammenhängt. Postleitzahl, Schulname oder ein Hobby können diese Rolle übernehmen. Somit stellt das System indirekt wieder her, was Sie verbieten wollten.

Stellen Sie deshalb in jeder Entwurfsrunde eine Frage: Wen zählt unser Erfolgsmaß als Erfolg, und wofür?

Wie erzeugt der Nutzungskontext Bias?

Ein Modell kann im Labor fair wirken und im Alltag trotzdem ungleich arbeiten. Der Grund ist einfach, denn die Einsatzumgebung unterscheidet sich von der Trainingsumgebung. Daher gilt: Wenden Sie das System auf ein neues Publikum, eine neue Sprache oder einen neuen Zweck an, verschieben sich die Ergebnisse.

Rückkopplungsschleifen sind ein weiterer wichtiger Mechanismus. Ein Empfehlungssystem zeigt bestimmte Inhalte, Nutzer klicken darauf, und das System schließt daraus, dass diese Inhalte gut sein müssen. Dann zeigt es noch mehr davon. Folglich wächst eine kleine anfängliche Schieflage mit der Zeit.

Zudem spielt menschliches Verhalten eine Rolle. Wer ein Entscheidungshilfe System nutzt, vertraut ihm womöglich zu sehr, selbst wenn ein Fehler auffällt. Das heißt, Fachleute nennen diese Gewohnheit Automatisierungsbias. Außerdem greift ein Prüfer gern zu dem Vorschlag, der seine eigene Annahme bestätigt.

Suchen Sie Bias deshalb nicht nur in der Modelldatei. Schauen Sie auch auf den Prozess und auf die Menschen, die mit dem System arbeiten.

Wie zeigt sich Bias in einem Bewerbungsfilter?

Bauen wir zunächst ein Beispielszenario. Es ist erfunden und beschreibt keinen echten Kunden. Ein Unternehmen nutzt ein System, das Lebensläufe automatisch sortiert. Das System hat sich dann an den Lebensläufen der Personen orientiert, die das Unternehmen früher eingestellt hat.

Nehmen wir an, die meisten früheren Einstellungen kamen von einer bestimmten Gruppe von Hochschulen und aus einem bestimmten Karriereweg. Das Modell lernt dieses Muster als "erfolgreicher Kandidat". Folglich erhalten Bewerber aus anderen Wegen, die den Job sehr gut machen könnten, niedrigere Punktzahlen.

Allerdings hat in diesem Szenario niemand etwas absichtlich getan. Trotzdem lieferte das System ein unfaires Ergebnis. Genau darin liegt die Gefahr von Bias: Es gibt keine Absicht, aber es gibt Wirkung. Das Beispiel beantwortet die Frage "Was ist KI Bias" ganz ohne bösen Willen.

Stellen Sie vor dem Einsatz eines solchen Systems diese Fragen:

• Auf welche früheren Entscheidungen stützt sich das Modell?
• Kann ein Mensch die Gründe hinter einer Rangfolge nachlesen?
• Haben Sie eine Stichprobe der abgelehnten Bewerber geprüft?

Bei Entscheidungen über Personen, etwa bei Einstellungen, prüfen Sie außerdem das geltende Recht und Ihre Pflichten. Dieser Beitrag ist keine Rechtsberatung.

Wie zeigen sich Klischees bei der Bilderzeugung?

Bias zeigt sich nicht nur bei Punkten und Ranglisten, sondern auch bei generativer KI. Geben Sie in ein Bildmodell einen Beruf wie "Führungskraft" oder "Pflegekraft" ein, zeichnet es oft das vorherrschende Muster aus seinen Trainingsdaten. Allerdings ist dieses Muster nur ein Ausschnitt der Wirklichkeit.

Denken Sie an ein Beispielszenario. Ein Marketingteam möchte vielfältige Teamfotos für eine Firmenpräsentation. Dann liefert das Modell immer wieder dasselbe Alter, dasselbe Aussehen und dieselbe Umgebung. Bemerkt das Team das nicht, bleibt die Bildsprache der Marke eng und klischeehaft.

Dennoch können Sie das Problem verringern. Beschreiben Sie den Kontext im Prompt genauer, sichten Sie Ergebnisse gebündelt und fragen Sie bei wichtigen Motiven eine Designerin oder einen Designer. Beurteilen Sie außerdem nie ein Modell anhand eines einzelnen Bildes. Achten Sie auf die gemeinsame Tendenz vieler Bilder.

Wenn Sie das große Bild suchen, lesen Sie unseren Leitfaden dazu, was generative KI ist.

Wie unterscheidet sich Bias bei generativer KI von klassischen Modellen?

Bei einem klassischen Klassifikationsmodell lässt sich Bias vergleichsweise leicht messen. Die Ausgabe ist ein Wert oder eine Kategorie, also zählen Sie die Ergebnisse nach Gruppen. Dagegen besteht bei einem generativen Modell die Ausgabe aus freiem Text oder einem Bild. Deshalb kann sich Bias im Ton, in der Beispielwahl und in Annahmen verstecken.

Wenn Sie zum Beispiel einem Textmodell dieselbe Frage mit verschiedenen Personennamen stellen und der Ton wechselt, ist das ein Signal. Allerdings lässt sich dieser Wechsel nicht immer als Zahl ausdrücken. Daher brauchen generative Systeme automatische Tests und menschliche Prüfung zusammen.

Diese Kontrollen bewähren sich bei generativen Modellen:

• Lassen Sie denselben Prompt mit kleinen Änderungen mehrfach laufen.
• Sichten Sie Ausgaben gebündelt statt einzeln.
• Protokollieren Sie Beispiele mit Klischees.
• Beschreiben Sie in den Systemanweisungen einen neutralen und inklusiven Ton.

Die eingebauten Sicherheitseinstellungen eines Modells helfen zwar, reichen aber allein nicht aus. Prüfen Sie die aktuelle Anleitung in der offiziellen Dokumentation des Anbieters.

Was ist KI Bias und wie unterscheidet er sich von Halluzination und Fehlern?

Drei Begriffe verwechseln viele Menschen. Erstens liegt eine Halluzination vor, wenn ein Modell Informationen erfindet, die es nicht gibt. Zweitens ist ein einfacher Fehler eine einzelne falsche Vorhersage. Bias dagegen ist ein Muster, bei dem sich Fehler in bestimmten Gruppen oder Richtungen häufen. Für die Halluzination gibt es bei uns einen eigenen Beitrag, hier zeigen wir nur den Unterschied.

Beachten Sie in der Tabelle einen Punkt. Ein Modell kann insgesamt eine hohe Genauigkeit zeigen und trotzdem Bias haben. Denn ein Durchschnitt verbirgt die schlechten Ergebnisse einer kleinen Gruppe. Zum Overfitting lesen Sie unseren Beitrag dazu, was Overfitting ist.

Was ist KI Bias, und warum betrifft er Unternehmen?

Die Kosten von Bias sind nicht nur ethisch, sondern für ein Unternehmen ganz konkret. Zunächst senkt ein System mit unfairen Ergebnissen das Vertrauen der Kunden. Außerdem kann es Beschwerden, Widersprüche und Imageschäden auslösen. In manchen Bereichen kommt zudem rechtliche Verantwortung ins Spiel.

Zudem senkt Bias die Qualität Ihrer Arbeit. Versteht ein Support Bot zum Beispiel eine Sprache oder Schreibweise schlechter als eine andere, sind diese Kunden öfter frustriert. Folglich geht ein Teil des möglichen Umsatzes unbemerkt verloren.

Das NIST AI Risk Management Framework (AI RMF) zählt den Umgang mit schädlichem Bias zu den Merkmalen vertrauenswürdiger KI. Das Rahmenwerk ist freiwillig, also kein verbindlicher Standard. Dennoch zeigt es Ihnen geordnet, worauf Sie achten sollten.

Die Kurzfassung lautet: Ein Unternehmen, das ein KI System kauft oder baut, kann die Verantwortung für dessen Ergebnisse nicht ganz an den Anbieter abgeben. Denn Sie nutzen die Software, und Sie begegnen der betroffenen Person.

Wie messen Sie KI Bias?

Denn was Sie nicht messen, können Sie nicht verringern. Der erste Schritt ist daher, die Ergebnisse nach Gruppen zu trennen und zu vergleichen. Sie berechnen zum Beispiel Zustimmungsrate, Fehlerrate und Durchschnittswert für jede Gruppe einzeln. Ist der Abstand groß, suchen Sie dann die Ursache.

Beachten Sie beim Messen diese Grundsätze:

• Schauen Sie auf Ergebnisse der Untergruppen statt auf einen Gesamtdurchschnitt.
• Verfolgen Sie falsche Zustimmung und falsche Ablehnung getrennt.
• Bedenken Sie außerdem, dass kleine Gruppen oft zu wenige Stichproben liefern.
• Entscheiden Sie vorab, welche Fairness Definition Ihr Unternehmen akzeptiert.

Allerdings gibt es kein einzelnes Maß für Fairness. Verschiedene Definitionen können sich widersprechen, sodass die Verbesserung des einen das andere verschlechtert. Deshalb ist die Wahl des Maßes ebenso eine geschäftliche wie eine technische Entscheidung.

NIST SP 1270 behandelt diesen Bereich als zweite Herausforderung unter dem Namen Test, Evaluierung, Validierung und Verifikation, englisch TEVV. Messen ist also keine einmalige Aufgabe, sondern eine Gewohnheit über den ganzen Lebenszyklus.

Für einfache Vergleichstests können Sie unseren A/B Test Rechner nutzen.

Warum widersprechen sich Fairness Maße?

Im Alltag klingt Fairness wie eine einzige Idee. In der Mathematik hat sie dagegen mehrere Definitionen. Eine Definition verlangt gleiche Zustimmungsraten über alle Gruppen. Eine andere verlangt, dass wirklich geeignete Personen in jeder Gruppe gleich oft zugelassen sind. Somit lässt sich beides gleichzeitig unter Umständen nicht erfüllen.

Zum Beispiel: Nehmen wir an, in einem Auswahlsystem unterscheidet sich die tatsächliche Eignungsquote zweier Gruppen. Dann können gleiche Zustimmungsraten und gleiche Treffsicherheit nicht zugleich gelten. Somit heißt eine Wahl immer, auf das andere zu verzichten. Daher kann ein technisches Team die Frage "Was ist fair?" nicht allein beantworten.

Wir empfehlen Folgendes:

• Hören Sie vor der Wahl die Menschen an, die die Entscheidung betrifft.
• Halten Sie schriftlich fest, welches Maß Sie gewählt haben und warum.
• Besprechen Sie Ihre Wahl mit den Verantwortlichen für Recht und Compliance.
• Prüfen Sie das Maß erneut, wenn sich die Bedingungen ändern.

Wie Sie die Grundfrage "Was ist KI Bias" beantworten, prägt die gemeinsame Sprache Ihres Teams. Sobald diese Sprache klar ist, gehen Messen und Korrigieren somit deutlich schneller.

Wie verringert Datenausgleich den Bias?

Datenausgleich heißt, unterrepräsentierten Gruppen in den Trainingsdaten mehr Gewicht zu geben. Dadurch sieht das Modell also auch von diesen Gruppen genug Beispiele. Außerdem ist es die verbreitetste Methode zur Minderung.

In der Praxis haben Sie mehrere Wege:

• Sammeln Sie zusätzliche, hochwertige Daten für die fehlende Gruppe.
• Geben Sie unterrepräsentierten Beispielen ein höheres Gewicht.
• Verringern Sie Beispiele, die zu stark dominieren.
• Füllen Sie Lücken bei Bedarf mit synthetischen, also künstlich erzeugten Daten.

Allerdings hat jede Methode ihren Preis. Erstens kostet es Zeit und Aufwand, zusätzliche Daten zu sammeln. Zweitens kann das Ändern der Gewichte die Gesamtgenauigkeit leicht verschieben. Synthetische Daten können außerdem eine neue Verzerrung einbringen, wenn sie die Wirklichkeit schlecht nachahmen. Zu synthetischen Daten gibt es bei uns einen eigenen Beitrag.

Dennoch genügt Ausgleichen allein nicht. Denn Bias durch Beschriftung und Entwurf bleibt bestehen, auch wenn die Daten perfekt ausgewogen wirken. Verbinden Sie den Ausgleich daher mit Messung und menschlicher Prüfung.

Wie richten Sie Tests und menschliche Kontrolle ein?

Zunächst bereiten Sie vor dem Start ein Testset vor, das auf Bias zielt. Nehmen Sie dabei bewusst verschiedene Gruppen, Grenzfälle und schwierige Beispiele auf. Führen Sie danach bei jeder neuen Version denselben Test erneut aus, damit Sie Rückschritte früh erkennen.

Außerdem ergänzt die menschliche Kontrolle den Test. Zum Beispiel sollte bei wichtigen Entscheidungen eine Person den Vorschlag des Systems prüfen. Allerdings muss sie die Begründung sehen und den Vorschlag ablehnen können. Sonst bleibt die Kontrolle eine Formsache.

Sie können diese Reihenfolge nutzen:

1. Notieren Sie, wen die Entscheidung betrifft und wie schwer die Folgen sind.
2. Legen Sie fest, welche Gruppen Sie vergleichen.
3. Bereiten Sie das Bias Testset vor und setzen Sie die Schwelle vorab.
4. Prüfen Sie nach dem Start in regelmäßigen Abständen Stichproben.
5. Richten Sie einen Kanal für Widersprüche und Korrekturen ein.

Daher steigert ein Widerspruchsweg für Nutzer Fairness und Lernen zugleich. Denn Widersprüche zeigen Probleme, die Ihre Tests übersehen haben.

Wo beginnt die Verantwortung eines Unternehmens?

Die Verantwortung beginnt in dem Moment, in dem Sie das Werkzeug wählen. Auch wenn Sie das fertige Modell eines Anbieters nutzen, entscheiden also Sie, für welche Entscheidungen es zum Einsatz kommt. Beurteilen Sie ein KI System daher nach seinem Einsatzzweck und nicht nach der Wirkung seiner Demo.

Zudem beschreibt das NIST AI RMF vier Funktionen: Govern, Map, Measure und Manage. Sie können sie so auf Bias übertragen:

• Govern: Benennen Sie die verantwortliche Person und den Freigabeprozess.
• Map: Halten Sie fest, wen das System wie betrifft.
• Measure: Verfolgen Sie Ergebnisse je Gruppe nach festem Zeitplan.
• Manage: Setzen Sie einen Korrekturplan um, sobald ein Befund auftaucht.

Prüfen Sie den aktuellen Wortlaut des Rahmenwerks auf der offiziellen NIST Seite, denn Details können sich ändern. Nützliche Quellen sind die Seite zum NIST AI Risk Management Framework und das AI RMF Dokument des NIST.

Der Prozess braucht außerdem einen Platz in Ihrer Unternehmenskultur. Wächst die KI Kompetenz Ihres Teams, bemerken Sie Bias daher früher. Ein guter Einstieg ist unser Beitrag dazu, was KI Kompetenz ist.

Welche Fragen stellen Sie einem Anbieter zu Bias?

Kaufen Sie ein fertiges KI Produkt, ist es normal, den Anbieter nach dem Bias Risiko zu fragen. Zunächst antwortet ein guter Anbieter offen. Weicht ein Anbieter dagegen aus, ist das ein Warnsignal für Sie.

Das sind die Kernfragen:

• Was teilen Sie über Herkunft und Abdeckung Ihrer Trainingsdaten mit?
• Haben Sie Leistungstests nach Gruppen gemacht, und können wir die Ergebnisse sehen?
• Für welche Einsatzzwecke ist das System gedacht, und wofür eignet es sich nicht?
• Wie gehen Sie mit Widersprüchen von Nutzern um?
• Wie informieren Sie Kunden, wenn das Modell ein Update bekommt?

Lassen Sie sich deshalb die Antworten schriftlich geben. Machen Sie außerdem einen kleinen Test mit Ihren eigenen Daten, denn die Testumgebung des Anbieters kann sich von Ihrem Kundenkreis unterscheiden. So sehen Sie das echte Risiko vor dem Kauf.

Lassen Sie ein eigenes System bauen, nehmen Sie diese Fragen vor Vertragsabschluss in Ihre Anforderungsliste auf.

Welche Irrtümer über KI Bias sind verbreitet?

Allerdings machen manche Irrtümer den Umgang mit Bias schwerer. Diese hören wir am häufigsten:

• "Große Datenmengen bedeuten keinen Bias." Nein, auch große Daten können schief sein.
• "Wenn wir das sensible Merkmal löschen, ist das Problem weg." Nein, Stellvertretermerkmale können dieselbe Information tragen.
• "Ein Modell ist nur Mathematik und deshalb neutral." Nein, Menschen wählen die Mathematik.
• "Wir haben einmal getestet, also sind wir fertig." Nein, Daten und Nutzung ändern sich.

Ein weiterer Irrtum ist die Annahme, Bias lasse sich auf null bringen. NIST SP 1270 stellt klar, dass ein Risiko von null Bias in einem KI System nicht erreichbar ist. Ihr Ziel sollte daher bewusstes Management sein, nicht Perfektion.

Auch Erklärbarkeit hilft hier. Denn wenn Sie sehen, warum ein Modell ein Ergebnis geliefert hat, erkennen Sie Bias leichter. Dieses Thema behandeln wir in unserem Beitrag dazu, was erklärbare KI (XAI) ist.

Wie steuert ein kleines Unternehmen Bias in der Praxis?

Für die Grundschritte brauchen Sie allerdings kein großes Team. Listen Sie zunächst die Entscheidungen auf, bei denen KI eine Rolle spielt. Trennen Sie dann diejenigen ab, die Menschen direkt betreffen. Das sind somit Ihre vorrangigen Prüfbereiche.

Denken Sie an ein Beispielszenario. Ein Onlineshop nutzt einen Bot, der Kundennachrichten automatisch sortiert. Der Shop zieht dann eine Zufallsstichprobe der Bot Antworten und vergleicht die Ergebnisse nach Schreibweise und Sprache. Fällt die Lösungsquote bei einer Sprache deutlich, ergänzt der Shop Beispiele und menschliche Hilfe für diese Sprache.

In der Praxis braucht dieses Vorgehen kein teures Werkzeug. Eine Tabelle, eine wöchentliche Prüfstunde und eine benannte Person genügen oft. Außerdem hilft es dem Team, wenn Sie Befunde notieren, denn so sehen alle, was sich im Lauf der Zeit verbessert hat.

Für ein kleines Unternehmen reichen drei Grundsätze:

• Automatisieren Sie nur die Entscheidungen, bei denen es nötig ist.
• Halten Sie bei wichtigen Entscheidungen einen Menschen im Prozess.
• Erfassen Sie Beschwerden und lesen Sie sie regelmäßig.

Wenn Sie bei diesem Vorgehen Unterstützung möchten, erreichen Sie uns über unsere Seite zur KI Beratung.

Was ist KI Bias, und wie sieht eine Checkliste vor dem Start aus?

Die folgende Liste sammelt die Fragen, die Sie vor dem Einsatz eines KI Systems stellen sollten. Sie müssen nicht alles mit Ja beantworten, denn jedes Projekt ist anders. Zu jeder Frage brauchen Sie dennoch eine Antwort und bei Bedarf einen Plan.

• Haben wir notiert, welche Entscheidung das System stützt und wen sie betrifft?
• Kennen wir Quelle und Abdeckung der Trainingsdaten?
• Haben wir geprüft, welche Gruppen unterrepräsentiert sind?
• Ist die Beschriftungsrichtlinie klar und einheitlich?
• Wen zählt das Erfolgsmaß als Erfolg?
• Haben wir Ergebnisse je Gruppe gemessen und die Schwelle vorab gesetzt?
• Prüft ein Mensch wichtige Entscheidungen?
• Können Nutzer Widerspruch einlegen?
• Führen wir die Tests erneut aus, wenn sich das System ändert?
• Gibt es eine verantwortliche Person und einen schriftlichen Prozess?

Legen Sie daher diese Liste in Ihre Projektunterlagen und prüfen Sie sie bei jeder neuen Version. Kurz gesagt: Bias Management ist keine einmalige Freigabe, sondern eine Gewohnheit, die Kontinuität braucht.

Lässt sich Bias vollständig beseitigen?

Die kurze Antwort lautet also nein. Bias ist nicht auf KI beschränkt, denn auch menschliche Entscheidungen tragen ihn in sich. KI übernimmt ihn jedoch oft aus den Daten und skaliert ihn. Das Ziel ist deshalb nicht null Bias, sondern Bias, den Sie kennen, messen und auf einem vertretbaren Niveau halten.

Zudem sollten die Grenzen klar sein. In manchen Bereichen widersprechen sich Fairness Definitionen. Zum Beispiel finden Sie für manche Gruppen nicht genug Daten. Dann kann es klüger sein, das System in engerem Rahmen einzusetzen oder die Entscheidung einem Menschen zu überlassen.

Zudem wiegt nicht jedes Risiko gleich. Ein falscher Vorschlag in einer Unterhaltungs App unterscheidet sich von einer falschen Entscheidung über einen Antrag. Passen Sie daher die Strenge Ihrer Kontrolle an die Schwere der Entscheidung an.

Schließlich unterscheiden sich Regeln von Land zu Land. Verfolgen Sie daher die aktuelle Regulierung zur KI Nutzung in offiziellen Quellen. Einen allgemeinen Rahmen finden Sie in unserem Beitrag zu generativer KI in der Türkei: Nutzung, Markt und Regulierung. Dieser Inhalt ist keine Rechtsberatung.

Welche verwandten Begriffe lernen Sie als Nächstes?

Bias steht im Netz der KI Begriffe nicht allein. Die Frage "Warum hat das Modell dieses Ergebnis geliefert?" führt zur Erklärbarkeit. Lernt ein Modell seine Trainingsdaten auswendig, geht es um Overfitting. Erfundene Informationen führen zur Halluzination. Dennoch ist jeder dieser Begriffe ein eigenes Thema.

Unsere empfohlene Lesereihenfolge sieht so aus:

1. Lernen Sie zuerst die Erklärbarkeit kennen, denn sie hilft Ihnen, Bias zu bemerken.
2. Danach beschäftigen Sie sich mit Overfitting, denn es ist die Grundlage für die Beurteilung der Modellqualität.
3. Zuletzt lesen Sie über Halluzination und synthetische Daten.

Wer tiefer einsteigen möchte, schaut in die Veröffentlichung NIST SP 1270. Das Dokument ist zwar lang, aber die Abschnitte zu den drei Kategorien und den drei Herausforderungen sind klar. Allerdings ist die Veröffentlichung selbst eine freiwillige Orientierung und ersetzt kein Gesetz.

Wenn Sie KI in Ihr Geschäft einbinden, kostet es weit weniger, Bias von Anfang an mitzudenken, als ihn später zu beheben. Möchten Sie das mit Ihrem Team besprechen, schreiben Sie uns über die Kontaktdaten auf unserer Seite zur KI Beratung.