Die dunkle Seite von AI im öffentlichen Dienst

Künstliche Intelligenz und maschinelles Lernen haben das Potenzial, die Art und Weise, wie wir leben und arbeiten, zu revolutionieren. Da wir uns jedoch zunehmend auf diese Technologien verlassen, ist es von entscheidender Bedeutung, dass wir sicherstellen, dass sie auf ethische Weise entwickelt, implementiert und überwacht werden. Leider ist dies nicht immer der Fall, wie zahlreiche Beispiele für die dunkle Seite der KI aus aller Welt zeigen. Von dem voreingenommenen KI-System, das zur Vorhersage von Verbrechen in Chicago eingesetzt wurde, über die KI-gestützte Beurteilung von Sozialleistungen in Australien bis hin zum Einsatz von KI in der Strafjustiz in Deutschland haben diese Technologien allzu oft bestehende Voreingenommenheiten und Ungleichheiten aufrechterhalten. In diesem Artikel werden wir einige dieser Beispiele untersuchen und erörtern, was Regierungen und Gesellschaften tun müssen, um künftige KI-gestützte Skandale zu verhindern und blinde Flecken in der Gesellschaft und in den Regierungen zu verringern.

Was sind die blinden Flecken in der Gesellschaft?

Blinde Flecken sind Bereiche der Gesellschaft, in denen Einzelpersonen oder Gruppen Vorurteile haben oder nicht über ausreichende Informationen oder Kenntnisse verfügen. In Politik und Gesellschaft können sich diese blinden Flecken auf verschiedene Weise manifestieren, zum Beispiel:

1. Mangelnde Repräsentation: Blinde Flecken in der Politik können entstehen, wenn bestimmte Gruppen wie Frauen, farbige Menschen oder die LGBTQ+-Gemeinschaft bei politischen Entscheidungen unterrepräsentiert sind und ihre Perspektiven und Erfahrungen nicht berücksichtigt werden.
2. Unbewusste Voreingenommenheit: Gesellschaftliche blinde Flecken können auch aus unbewussten Voreingenommenheiten resultieren, bei denen Einzelpersonen vorgefasste Meinungen über bestimmte Gruppen haben, die ihre Wahrnehmungen und Handlungen beeinflussen, auch wenn sie sich dessen nicht bewusst sind.
3. Begrenztes Verständnis: Blinde Flecken können auch aus einem begrenzten Verständnis bestimmter sozialer Probleme oder Erfahrungen resultieren, wie z. B. Armut oder Behinderungen. Dies kann zu unangemessenen politischen Maßnahmen oder Lösungen führen, die die eigentlichen Ursachen dieser Probleme nicht angehen.
4. Echokammern: Im Zeitalter der sozialen Medien ist der Einzelne oft Informationen und Perspektiven ausgesetzt, die mit seinen eigenen Überzeugungen und Werten übereinstimmen, wodurch "Echokammern" entstehen, in denen es schwierig ist, die eigenen Vorurteile und Annahmen zu hinterfragen.

Diese blinden Flecken in Politik und Gesellschaft können negative Folgen haben, z. B. die Aufrechterhaltung von Ungleichheit und Ungerechtigkeit und die Verhinderung von Fortschritten bei der Schaffung einer integrativeren und gerechteren Gesellschaft. Die Beseitigung dieser blinden Flecken erfordert kontinuierliche Anstrengungen, um die Repräsentation und das Verständnis zu verbessern, Vorurteile und Annahmen in Frage zu stellen und nach vielfältigen Perspektiven und Erfahrungen zu suchen.

Die Gefahren einer unregulierten KI-Übernahme: Fortbestehende Vorurteile und Verstärkung blinder Flecken

Der massive Einsatz von KI und maschinellem Lernen sowie die zunehmende Automatisierung durch die Regierungen könnten möglicherweise zu größeren blinden Flecken in der Gesellschaft führen. Denn KI-Systeme sind nur so gut wie die Daten und Algorithmen, die ihnen zugrunde liegen. Wenn diese Systeme nicht mit Blick auf Vielfalt, Fairness und Transparenz konzipiert und implementiert werden, können sie bestehende Vorurteile und Ungerechtigkeiten aufrechterhalten oder verstärken.

Wird ein KI-System beispielsweise mit voreingenommenen Daten trainiert, wird es Entscheidungen treffen, die diese Voreingenommenheit widerspiegeln, was zu ungleichen Ergebnissen führen kann. Wenn der Entscheidungsfindungsprozess von KI-Systemen nicht transparent ist, kann es darüber hinaus schwierig sein, Quellen von Voreingenommenheit zu erkennen und zu beseitigen, was bestehende blinde Flecken noch weiter verschärfen kann.

Beispiele für schiefgelaufene Regierungs-KI

Niederlande

Der Kindergeldskandal in den Niederlanden ist ein Beispiel dafür, wie der Einsatz von KI und maschinellem Lernen bei der Entscheidungsfindung in der Regierung zu blinden Flecken in der Gesellschaft und schwerwiegenden Folgen führen kann.

In diesem Fall setzte die niederländische Regierung ein KI-System ein, um Betrug im Kindergeldprogramm (toeslagenschandaal) aufzudecken. Das System basierte jedoch auf falschen Annahmen und wurde nicht ordnungsgemäß getestet, was dazu führte, dass Tausende von Familien zu Unrecht des Betrugs beschuldigt und ihnen die Leistungen gestrichen wurden. Der Skandal löste in der Öffentlichkeit große Empörung aus, da viele der betroffenen Familien um ihren Lebensunterhalt kämpfen mussten und nicht in der Lage waren, die Entscheidung anzufechten.

Der Kindergeldskandal macht deutlich, wie wichtig es ist, bei der Implementierung von KI und maschinellen Lernsystemen in die staatliche Entscheidungsfindung auch die blinden Flecken in der Gesellschaft zu berücksichtigen. In diesem Fall hat die Regierung die Erfahrungen und Perspektiven einkommensschwacher Familien nicht angemessen berücksichtigt, was zu einem System führte, das nicht nur ungenau war, sondern auch verheerende Folgen für die Betroffenen hatte.

Vereinigte Staaten

In den Vereinigten Staaten führte die Stadt Chicago ein KI-System ein, das vorhersagen sollte, wo Verbrechen vorkommen würden, aber es stellte sich heraus, dass das System eine erhebliche Voreingenommenheit gegenüber afroamerikanischen Gemeinden aufwies. Dies führte zu einer verstärkten polizeilichen Überwachung in diesen Gebieten, was den Gemeinden schadete und zu einem Teufelskreis aus Überpolizei und Überkriminalisierung beitrug. Die Voreingenommenheit des KI-Systems war auf die Verwendung historischer Verbrechensdaten zurückzuführen, die so verzerrt waren, dass sie eine übermäßige Polizeipräsenz in afroamerikanischen Gemeinden widerspiegelten.

Indien

In Indien wurde die künstliche Intelligenz eingeführt, um die finanzielle Gesundheit von Kleinunternehmen zu bewerten und die Kreditvergabe zu bestimmen, aber es stellte sich heraus, dass das System Unternehmen im Besitz von Frauen und Personen aus niedrigen Kasten benachteiligte. Dies führte zu einem ungleichen Zugang zu Finanzmitteln und verstärkte die bestehenden gesellschaftlichen Ungleichheiten. Die Voreingenommenheit des KI-Systems war darauf zurückzuführen, dass diese Gruppen in den Trainingsdaten nicht vertreten waren, was zu einer ungenauen Bewertung ihrer finanziellen Lage führte. 

Vereinigtes Königreich

Im Vereinigten Königreich wurde ein künstliches Intelligenzsystem eingeführt, um den Anspruch auf Invaliditätsleistungen zu ermitteln, doch stellte sich bald heraus, dass das System ungenau und unsensibel war. Dies führte dazu, dass vielen Menschen mit Behinderungen zu Unrecht Leistungen verweigert wurden und sie in finanzielle Not gerieten. Die Ungenauigkeiten des KI-Systems waren auf mangelndes Verständnis für die komplexen Bedürfnisse von Menschen mit Behinderungen und auf die Verwendung fehlerhafter Daten und Verfahren zurückzuführen.

Australien

In Australien wurde ein KI-System eingeführt, um die Anspruchsberechtigung von Sozialhilfeempfängern zu ermitteln, das sich jedoch bald als zu strafend erwies. Dies führte dazu, dass vielen Menschen zu Unrecht Leistungen verweigert oder gekürzt wurden, was erhebliche finanzielle Härten und Stress verursachte. Der harte Ansatz des KI-Systems war auf mangelndes Verständnis für die Komplexität des Lebens der Menschen und ein übermäßiges Vertrauen auf strenge Regeln und Algorithmen zurückzuführen.

Deutschland

In Deutschland hat sich herausgestellt, dass ein System der künstlichen Intelligenz, das das Rückfallrisiko von Straftätern bewerten sollte, eine Voreingenommenheit gegenüber farbigen Personen aufweist. Dies hat zu einer Ungleichbehandlung innerhalb des Justizsystems des Landes geführt, in dem farbige Menschen eher als Hochrisikopersonen eingestuft werden und mit härteren Strafen oder der Verweigerung von Bewährung rechnen müssen als ihre weißen Kollegen mit ähnlichen Vorstrafen.

Kanada

In Kanada wurde festgestellt, dass ein künstliches Intelligenzsystem, das zur Bestimmung des Einwanderungsstatus und des Anspruchs auf Sozialleistungen eingesetzt wurde, weit verbreitete Ungenauigkeiten aufwies. Dies führte dazu, dass zahlreiche Personen fälschlicherweise abgeschoben wurden oder ihnen Leistungen verweigert wurden, was verheerende Folgen für ihr Leben und ihre Familien hatte.

Faire KI für eine bessere Zukunft

Künstliche Intelligenz (KI) hat das Potenzial, die Art und Weise, wie Regierungen und Gesellschaften arbeiten, zu revolutionieren, aber es ist von entscheidender Bedeutung, dass Schritte unternommen werden, um sicherzustellen, dass ihr Einsatz fair, genau und unvoreingenommen ist. Um dies zu erreichen, müssen mehrere Schlüsselfaktoren berücksichtigt und angegangen werden.

1. Größere Transparenz und Rechenschaftspflicht bei der Entwicklung und dem Einsatz von KI-Systemen.
2. Laufende Überwachung und Bewertung, um sicherzustellen, dass die KI-Systeme gerecht und genau funktionieren.
3. Vertretung der verschiedenen Perspektiven und Erfahrungen bei der Entwicklung und dem Einsatz von KI-Systemen.
4. Einbeziehung von Personen verschiedener Rassen, Geschlechter und sozioökonomischer Hintergründe in den Entwicklungsprozess.
5. Umgang mit potenziellen Verzerrungen und Fehlern in KI-Systemen, insbesondere in sensiblen Bereichen wie Strafjustiz, Sozialhilfe und Beschäftigung.

Unverzichtbare Lektüre

Für Leser, die die Auswirkungen der dunklen Seite der KI weiter erforschen möchten, bietet das Buch ‘Weapons of Math Destruction’ by Cathy O’Neil is a valuable resource. It highlights the ways in which mathematical models can perpetuate and amplify social inequalities, and provides recommendations for how to create more responsible and equitable use of data and technology.