KI und Entscheidungsbias: Verstärkung oder Korrektur?
Die EU‑KI‑Verordnung (KI‑VO) schreibt für besonders sensible Anwendungen erstmals verbindliche Regeln zur Datenqualität und Governance vor, um Entscheidungsbias in Systemen der Künstliche Intelligenz zu adressieren. Zugleich bleiben Ausnahmen und Durchsetzungsfragen offen, was Folgen für Anbieter, Behörden und Betroffene hat.
EU‑Regelwerk und Art. 10: Konkrete Vorgaben zur Datenqualität gegen Entscheidungsbias
Die KI‑VO setzt mit Artikel 10 einen Schwerpunkt auf die Daten‑ und Validierungsphase von Maschinelles Lernen-Systemen. Für als Hochrisiko klassifizierte KI‑Systeme fordert die Verordnung Verfahren zur Identifikation, Verhinderung und Abschwächung von Datenverzerrung und diskriminierenden Effekten.
Die Regelung sieht zudem vor, dass in Ausnahmefällen sensible personenbezogene Daten verarbeitet werden dürfen, wenn dies zur Identifikation oder Korrektur von Verzerrungen zwingend erforderlich ist. Verantwortlich für die unionsweite Überwachung ist das AI‑Office, nationale Marktüberwachungsbehörden – in Deutschland voraussichtlich die Bundesnetzagentur – können technische Prüfungen anordnen und bei Verstößen Bußgelder bis zu 15 Mio. € oder 3 % des Weltumsatzes verhängen.
Praxisbezug und Folgen für Anbieter
Die Pflichten betreffen vor allem Anbieter und Betreiber von HRAIS in Bereichen wie Biometrie, Beschäftigung oder Justiz. Für Entwickler bedeutet das höhere Dokumentations‑ und Testaufwände; Anbieter von General‑Purpose‑Modellen stehen zusätzlich unter Beobachtung des AI‑Office. Diese Vorgaben zielen auf eine systematische Bias‑Prävention ab und könnten die Marktstruktur im KI‑Sektor verändern.
Wie Entscheidungsbias im Lebenszyklus von KI entsteht und verstärkt wird
Bias tritt laut Fachliteratur in mehreren Phasen auf: bei der Datenerhebung als historischer Bias, während der Modellentwicklung als algorithmische Voreingenommenheit und bei der Nutzung durch Automationsbias, wenn Menschen den Systemausgaben blind vertrauen.
Bekannte Fälle wie das von Amazon verworfene Recruiting‑Tool oder der COMPAS‑Algorithmus, der durch Recherchen von ProPublica 2016 als diskriminierend identifiziert wurde, zeigen die reale Wirkung solcher Verzerrungen. Forschende wie Joy Buolamwini hatten bereits 2018 mit Studien wie „Gender Shades“ ernste Genauigkeitsunterschiede bei Gesichtserkennungssystemen nachgewiesen.
Technik, Ethik und Kontrolle
Behördliche Untersuchungen und Publikationen, etwa vom BSI oder dem Deutschen Ethikrat, betonen, dass technische Maßnahmen zur Korrektur möglich sind, aber nicht alle Verzerrungsformen vollständig eliminieren. Die Herausforderung bleibt, verschiedene Fairness‑Ziele technisch und rechtlich auszugleichen.
Ein zentraler Punkt: Ohne repräsentative Datensätze und stringente Validierungsprozesse können Modelle historische Ungerechtigkeiten reproduzieren und damit die Entscheidungsfindung in sensiblen Bereichen weiter verzerren.
Durchsetzungslücken, Forschungsausnahmen und Folgen für die digitale Wirtschaft
Die KI‑VO stärkt zwar die Regulierung von HRAIS, lässt aber Lücken offen. Ausgenommen sind Forschungs‑ und Entwicklungstätigkeiten vor Inverkehrbringen sowie Systeme für militärische Zwecke. Diese Ausnahmen können präventive Kontrollen in frühen Entwicklungsphasen unterlaufen.
Zudem fallen viele Anwendungen in die Kategorien niedrigen Risikos und bleiben weitgehend von verbindlichen Bias‑Vorgaben unberührt; hier setzt die EU auf freiwillige Verhaltenskodizes. Kritiker sehen darin ein Effizienz‑ und Schutzdefizit für Betroffene, da individuelle Durchsetzungsrechte gegenüber Betreibern begrenzt bleiben.
Wirtschaftliche und regulatorische Konsequenzen
Für die Digitalwirtschaft bedeuten die Vorgaben höhere Compliance‑Investitionen, Unsicherheit bei Ausnahmeregeln und erhöhten Prüfungsdruck durch nationale Behörden. Zugleich zwingt die Gesetzgebung Anbieter, Ethik der KI und technische Absicherungen stärker zu integrieren, was langfristig das Vertrauen in automatisierte Entscheidungsfindung stärken könnte.
Wesentlich bleibt, dass die KI‑VO einen wichtigen Rahmen für die Bekämpfung algorithmischer Verzerrungen setzt, ihre Wirksamkeit aber davon abhängt, wie eng Ausnahmen interpretiert und wie konsequent nationale Behörden die Vorgaben umsetzen.
