Automated Decision-Making – Der Regulierungsvorschlag der Digitalen Gesellschaft (dgwk2022)

Systeme für automatisierte Entscheidungen (ADM-Systeme) sind im gesellschaftlichen Alltag angekommen. Diese Algorithmen reproduzieren die Normen und Werte jener, die sie einsetzen und programmieren und wirken dadurch als sozio-ökonomischer Spiegel der Gesellschaft. Sie sind also weder neutral noch objektiv. Es entsteht eine Komplexität mit grossem Zukunftspotential aber auch nur schwer abschätzbarem Risiko. Wir illustrieren die Grundproblematiken und diskutieren den Regulierungsvorschlag der Digitalen Gesellschaft, der bei problematischen Fällen ein demokratisches Eingreifen ermöglicht. Systeme für automatisierte Entscheidungen (ADM-Systeme) sind im gesellschaftlichen Alltag angekommen. Individuen werden im Verlauf eines Tages immer wieder mit den Resultaten einer automatisierten Entscheidung konfrontiert – meist ohne dies aktiv zu bemerken. So handelt die Bank Aktien in meinem Portfolio auf Basis von algorithmischen Entscheiden, das Newsportal zeigt mir eine andere Front-Headline als meinem Nachbarn und Spotify schlägt auf meinen Geschmack angepasste Musik vor. All diese Abwägungsentscheide werden nicht länger von Menschen, sondern von Computeralgorithmen getroffen. Viele dieser Algorithmen werden heute als "Blackbox" bezeichnet - da kaum jemand ihre genaue Funktionsweise kennt. Sie reproduzieren die Normen, Werte und Annahmen jener, die sie einsetzen und programmieren und wirken dadurch als sozio-ökonomischer Spiegel der Gesellschaft. Algorithmen sind also weder neutral noch objektiv. Dadurch schaffen ADM-Systeme eine neue opake «Dunkelheit in der hypermodernen Welt». Es entsteht eine Komplexität mit nur schwer abschätzbarem Risiko. Auf der anderen Seite darf das enorme Potenzial von ADM-Systemen für Wirtschaft, Gesellschaft und Verwaltung nicht unterschätzt und unnötig gebremst werden, auch um die Wettbewerbsfähigkeit des Wirtschafts- und Forschungsstandortes Schweiz nicht zu gefährden. In dieser Veranstaltung illustrieren wir die entstehenden Problematiken und diskutieren den Regulierungsvorschlag der Digitalen Gesellschaft, der es bei kritischen Fällen ermöglicht, demokratisch einzugreifen. about this event: https://cfp.winterkongress.ch/wk22/talk/YFVWA7/