Frage: Kann eine KI gefährlich werden?

Clarissa Elisabeth Hohenwalde Beantwortet am 18 Jun 2024:

Ja, KI kann gefährlich werden.

KI ist ein Werkzeug, das man sowohl für Gutes als auch für Schlechtes einsetzen kann. Das ist zum Beispiel der Fall, wenn wir KIs entwickeln, die das Verhalten von Menschen manipulieren, Menschen in Klassen einteilen oder dauerhaft jeden einzelnen unserer Schritte überwachen. Diese Art von KI ist eine Gefahr für die Demokratie und unsere Gesellschaft. Daher ist ihre Entwicklung in der EU verboten.

Aber auch KIs, die einem positiven Zweck dienen, können gefährlich sein.
Ein Beispiel: Stell dir vor, du sollst eine KI bauen, die entscheidet, wer zuerst im Krankenhaus behandelt wird. An sich ist das eine super Idee: Zuerst sollten die Personen drankommen, die am schwersten erkrankt sind.

Um deine KI zu erstellen, nutzt du nun historische Entscheidungsdaten aus realen Notaufnahmen. Doch diese Daten sind durch die Entscheidungen menschlicher Ärzt*innen und Pflegenden verzerrt – in der Wissenschaft sprechen wir von einem Bias. Es kann sein, dass Ärzt*innen und Pflegende in der Vergangenheit nicht nur die Krankheit, sondern auch rassistische Kriterien in ihre Entscheidungen einbezogen haben. In der Gesellschaft gab es z.B. lange die falsche Vorstellung, dass bestimmte Bevölkerungsgruppen weniger Schmerzen empfinden als andere. Heute wissen wir es besser.

Doch wenn du die KI mit den bestehenden Daten trainierst, wird auch sie die gleichen rassistischen Entscheidungen treffen wie die Ärz*tinnen und Pflegenden in der Vergangenheit. Obwohl du mit deiner KI etwas Gutes tun wolltest, festigst du nun rassistische Vorurteile. Daher muss man besonders vorsichtig sein, wie man seine KI trainiert.

Weitere spannende Antworten, die zu deiner Frage passen, findest du auch hier:

Glauben sie, dass KI irgendwann die Welt übernehmen kann/wird?

Denken Sie, dass KI eine Chance oder eine Gefahr für Jugendliche darstellt?