Deutschlands Datenstrategie zur Bekämpfung von Diskriminierung und zur Förderung des Wettbewerbs – EURACTIV.com

Die Bundesregierung wird im Rahmen ihrer Datenstrategie, die am Mittwoch, dem 27. Januar, veröffentlicht werden soll, den Einsatz “diskriminierender” Algorithmen in verschiedenen Branchen bekämpfen. EURACTIV Deutschland Berichte.

Der von EURACTIV erhaltene Text der neuen Strategie zielt auch darauf ab, die Datenschutzbestimmungen auf Bundesebene zu harmonisieren, und die Sicherheit von IT-Systemen muss gestärkt werden.

In Bezug auf das Vorgehen gegen voreingenommene Algorithmen im ganzen Land plant die Bundesregierung zu prüfen, “ob und wie der Diskriminierung von Bürgern durch Entscheidungen auf der Grundlage von Algorithmen, beispielsweise in Antragsverfahren, entgegengewirkt werden kann” oder Kredite vergeben werden, heißt es in dem Dokument .

Digitale Diskriminierung wurde im vergangenen Jahr auch in anderen Bereichen Deutschlands diskutiert, beispielsweise in der automatischen Gesichtserkennung. Bundesinnenminister Horst Seehofer (CSU) wollte zu diesem Zweck zusätzliche intelligente Kameras an öffentlichen Orten installieren, doch die Zivilgesellschaft stieß auf heftigen Widerstand (EURACTIV berichtete), einschließlich Bedenken hinsichtlich der Diskriminierung von Frauen und Farbigen.

„Die Diskriminierung von Entscheidungen, die auf Daten beruhen und daher als objektiv angesehen werden, ist real – insbesondere dann, wenn Modelle bestehende diskriminierende Aspekte aufrechterhalten“, schreibt die Bundesregierung an anderer Stelle.

Algorithmen sind nicht neutral

Mit dem Ziel, einen „innovativen und verantwortungsvollen Umgang mit Daten“ zu fördern, plant die Regierung beispielsweise, genauer zu untersuchen, wie Unternehmen ihre Angebote und Preise an ihre Kunden anpassen und welche Ergebnisse sich daraus ergeben.

Wenn zwei Personen dasselbe Produkt zu unterschiedlichen Bedingungen angeboten wird (z. B. Versicherung), können Algorithmen dahinter stehen, die aus allen verfügbaren Daten unterschiedliche Profile erstellen.

Es kann auch bestehende soziale Ungleichheiten verschärfen, beispielsweise wenn Menschen mit bestimmten sozioökonomischen Hintergründen bei der Arbeitssuche benachteiligt sind, weil ein Algorithmus diesen Kontext mit schlechten Beschäftigungsmöglichkeiten in Verbindung bringt – und ihnen somit die Beförderung verweigert.

Über diese Algorithmen ist zu wenig bekannt, sagt die Regierung; und in der Tat sind sie in erster Linie eine Frage des Unternehmensgeheimnisses.

Weitere Forschungen in diesem Bereich sind geplant, einschließlich gesellschaftspolitischer Implikationen. Das Justizministerium wird auch prüfen, ob eine solche Diskriminierung rechtlich bekämpft werden kann, indem beispielsweise strengere Anforderungen an die Trainingsdaten gestellt werden, aus denen diese Algorithmen lernen.

Lob von der Geschäftswelt

Im Bereich Datenschutz möchte die Bundesregierung die föderalen Strukturen enger harmonisieren. Derzeit gibt es in Deutschland 17 Datenschutzbeauftragte, einen für jedes Bundesland sowie den Bundesbeauftragten Ulrich Kelber (SPD).

Sie koordinieren sich, “aber die rechtlichen Auslegungen können unterschiedlich sein”, so die Regierung.

Gleiches gilt auf europäischer Ebene, wo „die unterschiedlichen Ansichten zum Datenschutz der verschiedenen Aufsichtsbehörden innerhalb der EU […] könnte auch Herausforderungen für eine harmonisierte Strafverfolgung und für eine größere europäische Datenhoheit schaffen.

Aus diesem Grund prüfe das Innenministerium derzeit Maßnahmen, um eine solche engere Zusammenarbeit zu ermöglichen.

Im Bereich der Gesundheitsforschung, für die ein effizienter Datenaustausch unerlässlich ist, wurde zu diesem Zweck eine eigene federführende Aufsichtsbehörde eingerichtet.

Es gibt Lob dafür von Öko, der deutsche Verband der Internetbranche.

„Die Harmonisierung des bestehenden föderalen Datenschutz-Patchworks in Deutschland ist ein grundsätzlich willkommenes Ziel der derzeit diskutierten Datenstrategie der Bundesregierung“, sagt ein Sprecher des Verbandes.

„Die einheitlichere und einheitlichere Umsetzung des Datenschutzrechts unter Beibehaltung des bestehenden Datenschutzniveaus wird seit langem als Öko bezeichnet“, fuhr sie fort.

Kampf gegen Datenmonopole

Der Verband kritisiert jedoch die vorgeschlagene Verpflichtung von Unternehmen, nicht personenbezogene Daten weiterzugeben.

Insbesondere befürchtet die Bundesregierung, dass Unternehmen “ein erhebliches wirtschaftliches Interesse daran haben, ausschließlich ihre eigenen Daten zu verwenden”. Dies würde Wettbewerbsvorteile bringen und sogar die Monopolisierung fördern.

Daher wollen sie eine „Kultur des freiwilligen und verantwortungsvollen Datenaustauschs“ fördern und auch den Missbrauch von Marktmacht besser erfassen. Dies ist auch das Ziel der jüngsten Änderung des Gesetzes gegen Wettbewerbsbeschränkungen (GWB) (EURACTIV-Bericht).

Wenn dies zu einer Verpflichtung zum Datenaustausch würde, müsste die Regierung zunächst eingehend prüfen, “inwieweit eine solche Verpflichtung Innovation und Wettbewerb beeinträchtigen würde”, sagte der Sprecher des Öko.

Hrsg. Von Samuel Stolton