Transparenz beim Einsatz von Algorithmen – Aktueller Stand und Herausforderungen aus dem Forschungsbereich Fairness, Accountability und Transparency in Machine Learning

Art der Arbeit:
  • Bachelorarbeit Wirtschaftsinformatik
Status:
Themenangebot
Ansprechpartner:

Kurzfassung

Motivation

Mit der zunehmenden gesellschaftlichen Verbreitung algorithmischer Bewertungsverfahren (bspw. bei Produktvergleichen oder -empfehlungen) werden sowohl in der Wissenschaft als auch in der Öffentlichkeit Forderungen nach mehr Transparenz solcher Verfahren vertreten. Neben einzelnen Absichtserklärungen und Initiativen (u.a. IEEE P7001), hat nun auch die EU-Kommission Leitlinien vorgelegt, welche Online-Plattformen zu mehr Transparenz der Bewertungsverfahren für betroffene Organisationen und Nutzer fordert (Europäische Kommission 2020). Diese Leitlinien stehen zahlreichen Ansätzen gegenüber, die in den vergangenen Jahren durch Forschungsbeiträge entwickelt wurden. Mit dieser Arbeit werden Sie gebeten Anforderungen aus den Leitlinien der EU Kommissionen abzuleiten und einen Bewertungsrahmen zu entwickeln, welcher eine vergleichende Bewertung vorhandener Forschungsansätze vor dem Hintergrund der Leitlinien ermöglicht. Die Anwendbarkeit des Bewertungsrahmens zeigen Sie anhand einiger ausgewählter Beispiele aus Forschungsergebnissen aus dem Bereich Fairness, Accountability und Transparency in Machine Learning, wobei diesem Fokus entsprechend gerade jene Anforderungen aus den EU-Richtlinien zu extrahieren und zu erweitern sind, welche sich mit Besonderheiten des Maschinellen Lernens beschäftigen.

Einstiegsliteratur

Europäische Kommission (2020): Guidelines on ranking transparency pursuant to Regulation (EU) 2019/1150 - Shaping Europe’s digital future - European Commission. Available online at ec.europa.eu/digital-single-market/en/news/guidelines-ranking-transparency-pursuant-regulation-eu-20191150, checked on 12/18/2020.

Goldenfein, J. (2019). Algorithmic Transparency and Decision-Making Accountability: Thoughts for Buying Machine Learning Algorithms. Jake Goldenfein,'Algorithmic Transparency and Decision-Making Accountability: Thoughts for buying machine learning algorithms' in Office of the Victorian Information Commissioner (ed), Closer to the Machine: Technical, Social, and Legal aspects of AI (2019).

Harrington, P. (2012). Machine learning in action. Manning Publications Co..

Seaver, N. (2019). Knowing algorithms. Digital STS, 412-422.

Kolleck, A., & Orwat, C. (2020). Mögliche Diskriminierung durch algorithmische Entscheidungssysteme und maschinelles Lernen–ein Überblick.