Nachdenken über künstliche Intelligenz

forschung leben – das Magazin der Universität Stuttgart (Ausgabe März 2021)

Im neuen Interchange Forum for Reflecting on Intelligent Systems (IRIS) der Universität Stuttgart reflektieren Forschende, wie intelligente Systeme in der Gesellschaft wirken.

Kann ein unbelebtes Objekt rassistisch sein? Das Video eines Seifenspenders, der Menschen mit dunkler Hautfarbe systematisch die Seife verweigerte, ging vor einiger Zeit durch die sozialen Medien. Der Seifenspender reagierte so, weil die Infrarot-Standard-Technologie von Personen mit heller Hautfarbe entwickelt und ausschließlich mit deren Händen getestet wurde. Dies ist kein Einzelfall.

Ein weiteres Beispiel ereignete sich am Berliner Bahnhof Südkreuz: In einem Pilotprojekt aus dem Jahr 2017 sollte dort eine Gesichtserkennungssoftware 300 freiwillige Testpersonen überprüfen. Die Studie ergab, dass das System zu viele Menschen als verdächtig markierte, nach denen es gar nicht gefahndet hatte. Besonders betroffen waren auch hier dunkelhäutige Personen sowie Frauen. Kann Diskriminierung durch Technik auf die Algorithmen geschoben werden? Jun.-Prof. Maria Wirzberger vom Institut für Erziehungswissenschaft und Sprecherin des neuen Forschungsschwerpunkts Interchange Forum for Reflecting on Intelligent Systems (IRIS) sagt dazu: „Die Antwort ist Nein, denn vereinfacht gesagt funktionieren Algorithmen wie Schubladen. Sie beruhen auf Standards, die von Menschen gesetzt werden und darum auch mit deren Stereotypen behaftet sein können. Diese Stereotype sind oft unbewusst und fließen damit unreflektiert in die Technikentwicklung ein.“

Gegen Unfairness

Solche Entwicklungen wollen Wissenschaftlerinnen und Wissenschaftler aller Disziplinen bei IRIS gemeinsam untersuchen. „Wir haben in den letzten Jahren gelernt, wie der naive Einsatz von Künstlicher Intelligenz (KI) für automatisierte Entscheidungen zu unfairer Diskriminierung führen kann. Aus diesem Grund entwickeln wir neue Methoden zur Vermeidung, Erkennung und Erklärung von Unfairness“, sagt Prof. Steffen Staab vom Institut für Parallele und Verteilte Systeme (IPVS) der Universität Stuttgart und Co-Sprecher von IRIS. Mit dem Verbund wollen Forschende gemeinsam die Grundlagen, Mechanismen, Implikationen und Effekte intelligenter Systeme in der Forschung, Lehre und im Hinblick auf die Gesamtgesellschaft kritisch reflektieren. Gefördert wird IRIS durch die Deutsche Forschungsgemeinschaft (DFG) im Rahmen der Exzellenzstrategie des Bundes und der Länder sowie durch den Forschungsfonds der Universität.

„Menschliche Entscheidungen beruhen oft auf unbewussten Vorurteilen.“

Prof. Steffen Staab

Die Aufgaben und Angebote von IRIS beschränken sich nicht nur auf den Bereich der Forschung. IRIS schafft darüber hinaus Austauschmöglichkeiten, um inner- und außerhalb der Universität mit Partnern aus Gesellschaft und Wirtschaft über aktuelle ethische und gesellschaftliche Herausforderungen zu diskutieren. Angefangen bei Datenethik über informationelle Selbstbestimmung bis zu vertrauenswürdiger KI. Und auch die Lehre steht im Fokus: Das Lehrforum „Reflecting on Intelligent Systems in the Next Generation“ (RISING) unter der Leitung von Maria Wirzberger vermittelt Studierenden aller Fächer die kritische Reflexion intelligenter Systeme, beispielsweise durch Angebote zu den Themenfeldern „cultural bias“ oder „open science“. Lehrkräfte können sich in der Anwendung reflektierender Lehrmethoden weiterbilden.

Bewusstsein schaffen

Und wie hilft IRIS nun, etwas gegen Stereotype, zum Beispiel in der Technikentwicklung, zu tun? Wirzberger erklärt: „Der Nutzen ist zum einen, dass Studierende, wenn sie in den Beruf gehen, für dieses Thema sensibilisiert sind. Dann passieren solche Entwicklungen nicht mehr in diesem Ausmaß.“ Auch nicht bei der Sprache. 

Denn: „Auch Sprache ist ein intelligentes System“, sagt Wirzberger. „Wer Sprache nicht sensibel verwendet, schließt vielleicht Personengruppen aus. Solche Themen sollten nachhaltig im Denken und Handeln verankert werden. Wir wollen ein Bewusstsein dafür schaffen, wie bunt und vielfältig unsere Gesellschaft ist.“ Zum anderen soll die internationale Vernetzung der Universität gestärkt werden. Wenn man unterschiedliche Menschen zusammenbringt, habe das den Vorteil, dass gute Ideen entständen und es einen lebhaften Austausch gäbe, meint die Wissenschaftlerin.

Text: Carina Lindig

Jun.-Prof. Dr. Maria Wirzberger, E-Mail, Tel.: +49 711 685 81176

Prof. Dr.  Steffen Staab, E-Mail, Tel.: +49 711 685 88100

Kontakt

 

Hochschulkommunikation

Keplerstraße 7, 70174 Stuttgart

Zum Seitenanfang