Algorithmische Diskriminierung: Regulierung durch Transparenz? (dgwk2022)

Die EU will Künstliche Intelligenz regulieren. Auch der Europarat arbeitet an Spielregeln für algorithmische Systeme. Hierbei zeigt der Stand der Wissenschaft, dass die derzeit im Zusammenhang mit KI-Regulierung geforderte Transparenz algorithmischer Systeme als Gegenmassnahme nicht immer ausreicht. Die Keynote stellt Vorschläge für Prinzipien und Methoden vor, die effektiver sein könnten, um Diskriminierung zu vermeiden oder einzudämmen. Algorithmische Systeme unterscheiden, also «diskriminieren», in vielerei Weise, und solche Unterscheidungen können zu im rechtlichen oder ethischen Sinne unzulässiger Diskriminierung führen. In den vergangenen Jahren ist diese Problematik vor allem in Hinblick auf den Einsatz Künstlicher Intelligenz diskutiert worden. In diesem Vortrag gebe ich einen kurzen Überblick über technische Gründe und auch über das sehr aktive informatische und interdisziplinäre Forschungsfeld, welches Methoden der Entdeckung und Vermeidung solch unerwünschter Unterscheidungen entwickelt. Ich stelle relevante Konzepte vor (algorithmische Diskriminierung, Bias, Fairness, ...) und zeige beispielhaft, wie Diskriminierung aus Daten, Algorithmen und sozio-technischen Systemen resultieren kann. Hierbei zeigt der Stand der Wissenschaft, dass die derzeit im Zusammenhang mit KI-Regulierung geforderte Transparenz algorithmischer Systeme als Gegenmassnahme nicht immer ausreicht. Ich stelle Vorschläge für Prinzipien und Methoden vor, die effektiver sein könnten, um Diskriminierung zu vermeiden oder einzudämmen. about this event: https://cfp.winterkongress.ch/wk22/talk/BXPH7G/