Erweiterung des Absatzes um das Problem des Profilings, dass die darauffolgende Problembeschreibung weiter verdeutlicht. Profiling bedeutet, ein Charakterbild eines Menschen auf Grundlage von Daten zu erstellen. Hier kann es zu Verzerrungen durch unvollständige und falsche Daten kommen, von denen besonders Menschen aus marginalisierten Gruppen betroffen sind. Z.B. indem Menschen mit Migrationshintergrund in Polizeidaten überpräsentiert sind, weil sie häufiger aufgrund von Vorurteilen durch die Polizei kontrolliert werden.
Das Wort „Entscheidungen“ sollte durch das Wort „Ergebnisse“ ersetzt werden, weil KI-Systeme grundsätzliche keine Entscheidungen treffen können, sondern nur Ergebnisse produzieren.
Die Ergebnisse einer KI sind deshalb eine Blackbox, weil niemand wissen kann, wie die KI zu ihren Ergebnissen kommt.