Die Antidiskriminierungsbeauftragte des Bundes will den Schutz vor digitaler Diskriminierung ausweiten. Ein Rechtsgutachten schlägt eine Beweislastumkehr vor.
Was schieflaufen kann, wenn man Algorithmen agieren lässt, illustriert das Beispiel einer schwarzen Frau, die mithilfe einer Software ein Bewerbungsfoto erstellen wollte. Obwohl sie kein Dekolleté trug, zauberte der Softwarefilter einen tiefen Ausschnitt in ihr Kleid. Der Algorithmus hatte sich offenbar an Fotos aus dem Internet orientiert, auf denen schwarze Frauen in sexualisierten Kontexten dargestellt werden.
Algorithmen treffen Entscheidungen oder eine Vorauswahl – beispielsweise im Bewerbungsprozess für eine Arbeitsstelle oder eine Wohnung oder bei einem Antrag auf einen Kredit. Dabei können sie im schlechtesten Fall automatisch Vorurteile und Stereotype reproduzieren. Zum einen kann Benachteiligung entstehen, weil ein Programmierer seine eigenen Vorurteile bewusst oder unbewusst in die Software überträgt. Zum anderen filtern selbstlernende Systeme aus der Datenflut heraus, dass Menschen aus bestimmten Gegenden seltener Kredite bekommen, und treffen danach ihre Entscheidungen.Das Allgemeine Gleichbehandlungsgesetz biete bisher keinen Schutz gegen solche „automatische“ Benachteiligung durch Algorithmen und KI, sagte Ataman.
Außerdem sollten Betreiber von KI-Systemen verpflichtet werden können, Einblicke in die genutzten Daten und die Funktionsweise des Systems zu ermöglichen.„Die Gefahren digitaler Diskriminierung dürfen wir auf keinen Fall unterschätzen.“
United States Latest News, United States Headlines
Similar News:You can also read news stories similar to this one that we have collected from other news sources.
Ataman warnt vor Diskriminierung durch Künstliche IntelligenzBerlin - Die Antidiskriminierungsbeauftragte des Bundes, Ferda Ataman, warnt vor einer neuen Form von Diskriminierung, wenn öffentliche und private Stellen zunehmend Entscheidungen durch automatisierte
Read more »
Künstliche Intelligenz: Bundesregierung will gegen Diskriminierung durch Algorithmen vorgehenDie Antidiskriminierungsbeauftragte des Bundes will den Schutz vor digitaler Diskriminierung ausweiten. Ein Rechtsgutachten schlägt eine Beweislastumkehr vor.
Read more »
Künstliche Intelligenz: Bundesregierung will gegen Diskriminierung durch Algorithmen vorgehenDie Antidiskriminierungsbeauftragte des Bundes will den Schutz vor digitaler Diskriminierung ausweiten. Ein Rechtsgutachten schlägt eine Beweislastumkehr vor.
Read more »
KI-Studie: Über 60 Prozent nutzen Künstliche Intelligenz bei der ArbeitEine Umfrage des Prüfungs- und Beratungsunternehmens Deloitte zeigt, dass bereits 61 Prozent aller Befragten, die mit einem Computer arbeiten, Generative KI-Programme in ihrem beruflichen Alltag nutzen.Zürich
Read more »
Künstliche Intelligenz: IBM, Amazon, Alphabet und Nvidia investieren in dieses KI-Startup© Foto: Karl F. Schöfmann - picture alliance / imageBROKER |IBM-CEO Arvind Krishna setzt voll auf KI: Schon bald könnten intelligente Maschinen die Hälfte aller Routinejobs übernehmen, glaubt er. Jetzt
Read more »