Explainable AI zur Förderung von Transparenz algorithmischer Bewertungsverfahren – Entwurf und Anwendung eines Bewertungsrahmens

Art der Arbeit:
  • Bachelorarbeit Wirtschaftsinformatik
Status:
Themenangebot
Ansprechpartner:

Kurzfassung

Motivation

Mit der zunehmenden gesellschaftlichen Verbreitung algorithmischer Bewertungsverfahren (bspw. bei Produktvergleichen oder -empfehlungen) werden sowohl in der Wissenschaft als auch in der Öffentlichkeit Forderungen nach mehr Transparenz solcher Verfahren vertreten. Neben einzelnen Absichtserklärungen und Initiativen (u.a. IEEE P7001), hat nun auch die EU-Kommission Leitlinien vorgelegt, welche Online-Plattformen zu mehr Transparenz der Bewertungsverfahren für betroffene Organisationen und Nutzer fordert (Europäische Kommission 2019 und 2020). Diese Leitlinien stehen zahlreichen Ansätze gegenüber, die in den vergangenen Jahren durch Forschungsbeiträge entwickelt wurden. Mit dieser Arbeit werden Sie gebeten Anforderungen aus den Leitlinien der EU Kommissionen abzuleiten und einen Bewertungsrahmen zu entwickeln, welcher eine vergleichende Bewertung vorhandener Forschungsansätze vor dem Hintergrund der Leitlinien ermöglicht. Die Anwendbarkeit des Bewertungsrahmens zeigen Sie anhand einiger ausgewählter Beispiele aus Forschungsergebnissen aus dem Bereich Explainable AI, wobei diesem Fokus entsprechend gerade jene Anforderungen aus den EU-Richtlinien zu extrahieren sind, welche sich mit der Verständlichkeit und Interpretierbarkeit beschäftigen.

Einstiegsliteratur

Ananny, M., & Crawford, K. (2018). Seeing without knowing: Limitations of the transparency ideal and its application to algorithmic accountability. new media & society, 20(3), 973-989.

Cardon, D. (2017). Den Algorithmus dekonstruieren. Vier Typen digitaler Informationsberechnung.

Europäische Kommission (2019): REGULATION (EU) 2019/1150 OF THE EUROPEAN PARLIAMENT AND OF THE COUNCIL of 20 June 2019 on promoting fairness and transparency for business users of online intermediation services

Europäische Kommission (2020): Guidelines on ranking transparency pursuant to Regulation (EU) 2019/1150 - Shaping Europe’s digital future - European Commission. Available online at ec.europa.eu/digital-single-market/en/news/guidelines-ranking-transparency-pursuant-regulation-eu-20191150, checked on 12/18/2020.

Goldenfein, J. (2019). Algorithmic Transparency and Decision-Making Accountability: Thoughts for Buying Machine Learning Algorithms. Jake Goldenfein,'Algorithmic Transparency and Decision-Making Accountability: Thoughts for buying machine learning algorithms' in Office of the Victorian Information Commissioner (ed), Closer to the Machine: Technical, Social, and Legal aspects of AI (2019).

Guidotti, R., Monreale, A., Ruggieri, S., Turini, F., Giannotti, F., & Pedreschi, D. (2018). A survey of methods for explaining black box models. ACM computing surveys (CSUR), 51(5), 1-42.

Seaver, N. (2019). Knowing algorithms. Digital STS, 412-422.

Kolleck, A., & Orwat, C. (2020). Mögliche Diskriminierung durch algorithmische Entscheidungssysteme und maschinelles Lernen–ein Überblick.

Zerilli, J., Knott, A., Maclaurin, J., & Gavaghan, C. (2019). Transparency in algorithmic and human decision-making: is there a double standard?. Philosophy & Technology, 32(4), 661-683.