In letzter Zeit ist es kaum möglich, Nachrichten zu schauen oder durch soziale Medien zu scrollen, ohne von KI zu hören, oft mit Verweis auf ihre Risiken. Wie jedes mächtige Werkzeug kann sie Schaden anrichten. Sie könnten Menschen (und Ihrem eigenen Unternehmen) schaden, wenn Sie Ihre KI-Lösung nicht mit diesem Bewusstsein entwickeln. Hier gebe ich Ihnen einen Überblick über drei zentrale Bereiche, die Ihnen helfen, die Möglichkeiten von KI sicher zu nutzen.

Prinzipien für menschzentriertes Design für KI (KI-Ethik):

1. 1. Die Schmerzpunkte und Bedürfnisse von Menschen verstehen, um das Problem besser zu definieren
   2. Fragen, ob KI für eine mögliche Lösung Mehrwert schafft
   3. Mögliche Schäden berücksichtigen, die das KI-System verursachen könnte
   4. Beim Prototyping mit Nicht-KI-Lösungen beginnen und sicherstellen, dass Menschen mit unterschiedlichen Hintergründen in den Prozess einbezogen werden
   5. Möglichkeiten schaffen, das System anzufechten
   6. Sicherheitsmaßnahmen integrieren

Bias in KI (sechs Beispiele):

1. 1. Historischer Bias (entsteht, wenn der Zustand der Welt, in dem die Daten erzeugt wurden, fehlerhaft ist)
   2. Repräsentationsbias (entsteht beim Aufbau von Trainingsdatensätzen für ein Modell, wenn diese Datensätze die Menschen, denen das Modell dienen soll, schlecht repräsentieren)
   3. Messbias (entsteht, wenn die Genauigkeit der Daten je nach Gruppe variiert. Das kann bei der Arbeit mit Proxy-Variablen passieren)
   4. Aggregationsbias (entsteht, wenn Gruppen unangemessen zusammengefasst werden)
   5. Evaluationsbias (entsteht bei der Bewertung eines Modells, wenn die Benchmark-Daten nicht die Population repräsentieren, der das Modell dienen soll)
   6. Deployment-Bias (entsteht, wenn das Problem, das das Modell lösen soll, sich von der tatsächlichen Nutzung unterscheidet)

KI-Fairness (vier Beispiele):

1. 1. Demografische Parität / statistische Parität (die Zusammensetzung der vom Modell ausgewählten Personen entspricht den Gruppenanteilen der Bewerberinnen und Bewerber)
   2. Chancengleichheit (der Anteil der Personen in jeder Gruppe, die vom Modell ausgewählt werden sollten, wird tatsächlich vom Modell ausgewählt)
   3. Gleiche Genauigkeit (der Prozentsatz korrekter Klassifizierungen sollte für jede Gruppe gleich sein)
   4. Gruppenunabhängig / „Fairness durch Unwissenheit“ (entfernt alle Informationen zur Gruppenzugehörigkeit aus dem Datensatz)

Wir hoffen, dass Ihnen diese Liste ein besseres Verständnis dafür vermittelt, wie Sie diese leistungsstarken KI-Tools mit Blick auf Ethik, Bias und Fairness gestalten können. Wir danken der Hult International School for Business dafür, dass sie unseren COO Marcus Rabe eingeladen hat, eine weitere Ausgabe seines Kurses Computational Analytics with Python im Januar und Februar auf ihrem Campus in Boston zu unterrichten.