Fuád Abuschuscha

Künstliche Intelligenz hat wie jede andere Technologie nicht ausschließlich positive Aspekte. Zu jeder Technologie gehören daraus resultierende Herausforderungen und Gefahren.

Die Technologie, in diesem Fall KI, kann bewusst für das Falsche eingesetzt werden. Dieses Problem liegt auf der Hand und führt weg von den aus meiner Sicht unterschätzten und weniger offensichtlichen Herausforderungen. Daher möchte ich das zunächst einmal ausklammern und nur die Anwendungsfälle betrachten, in denen Menschen versuchen, KI wirklich sinnvoll einzusetzen.

Diskriminierende System-KI

Vor knapp zehn Jahren hat Amazon ein KI-System trainiert, um im Auswahlprozess von Bewerbern die Menschen zu finden, die ein besonders großes Interesse daran haben, bei einem Tech-Konzern zu arbeiten. Der Gedanke dahinter war, genau die Leute zu finden, die zu Amazon passten. Schlussendlich trug die KI im Ergebnis dazu bei, dass alle weiblichen Bewerberinnen aussortiert wurden. Das lag jedoch offensichtlich nicht am grundsätzlich fehlenden Interesse oder der grundsätzlich fehlenden Motivation, bei einer Tech-Company zu arbeiten. Daher schaute man sich das genauer an und stellte fest, dass das KI-System mit diskriminierenden Daten trainiert wurde. Die KI konnte erkennen, dass Männer viel häufiger in den entsprechenden Berufen tätig sind und folgerte daraus, dass Männer demnach auch ein höheres Interesse an solchen Jobs zeigen und eine höhere Motivation an den Tag legen würden. Die KI kam zu dem Entschluss, dass Frauen schlicht nicht interessiert und nicht motiviert genug seien. Natürlich bildet das nicht die Realität ab. Das Beispiel zeigt, dass die Daten, mit welchen die KI arbeitet, entscheidend sind. Sind die Daten diskriminierend und bilden eine Verzerrung ab, lernt auch die KI diese Verzerrung. Dieses Problem muss man sich bewusst machen, wenn man mit solchen Systemen arbeitet, denn die Systeme können nur so gut sein wie die Daten, mit denen sie arbeiten. Es ist also unsere Aufgabe, die der Menschen, den Systemen entsprechende Daten zur Verfügung zu stellen. Wir müssen lernen, wie wir es schaffen, solche diskriminierenden Daten zu erkennen und so aufzubereiten, dass KI-Systeme die Chance bekommen, das zu leisten, was sie auch tatsächlich leisten können.

Machen Sie Ihr Unternehmen jetzt zukunftssicher!