Vertrauenswürdige Verwendung von Künstlicher Intelligenz

Informatikerin Prof. Dr. Ute Schmid von der Universit?t Bamberg ist als Expertin für erkl?rbare Künstliche Intelligenz (KI) bei den Verbraucherrechtstagen 2021 am 12. Juli eingeladen. Ausgerichtet wird die Veranstaltung vom Bundesministerium der Justiz und für Verbraucherschutz. Das Thema lautet: Künstliche Intelligenz: Wie gelingt eine vertrauenswürdige Verwendung in Deutschland und Europa?

KI begegnet der Verbraucherin oder dem Verbraucher im eigenen Zuhause, zum Beispiel in Form von Sprachassistenten. KI-Systeme kommen auch in vielen weiteren Lebensbereichen zum Einsatz: bei der Inanspruchnahme von Finanzdienstleistungen, im Versicherungswesen oder auf dem Arbeitsmarkt. Die Technologien sind geeignet, den Alltag erheblich zu erleichtern. Gleichwohl gehen mit KI-Anwendungen auch Risiken einher. Der Blick f?llt dabei zum Beispiel auf den Bereich des Datenschutzes: Da KI h?ufig aus Daten ?lernt“ und die Menge und Qualit?t an verfügbaren Daten oft über die Qualit?t der Anwendung entscheidet, drohen Risiken für die informationelle Selbstbestimmung der oder des Einzelnen. Und aufgrund ihrer Eigenschaft des Selbstlernens, das die Technologie zu einer Black Box machen kann, treten Anforderungen an die Transparenz und Nachvollziehbarkeit des Algorithmus der jeweiligen KI-Anwendung in den Vordergrund.

?ber die Nachvollziehbarkeit von KI-Systemen aus technischer Sicht spricht Ute Schmid in ihrem Vortrag im dritten Teil der Verbraucherrechtstage: Verbraucherschutz durch die Nachvollziehbarkeit und ?berprüfbarkeit von KI-Systemen. Ute Schmid ist Professorin für Angewandte Informatik, insbesondere Kognitive Systeme an der Universit?t Bamberg. Seit mehr als 15 Jahren vertritt sie dort das Gebiet Künstliche Intelligenz in Forschung und Lehre. Forschungsschwerpunkte sind interpretierbares maschinelles Lernen, erkl?rbare KI und Lernen auf relationalen Daten, insbesondere induktive Programmierung. Aktuelle Forschungsthemen sind Generierung multimodaler Erkl?rungen, Intelligente Tutorsysteme sowie interaktives maschinelles Lernen.

Ute Schmid ist Diplom-Informatikerin und Diplom-Psychologin. Sie kombiniert ihre Forschung im Bereich KI mit kognitionspsychologischen Arbeiten zum menschlichen Lernen und zur Wirkung von Erkl?rungen in Mensch-KI-Interaktionen. Für ihr Engagement zur F?rderung von M?dchen und Frauen in der Informatik hat sie 2018 den Minerva Gender Equality Award von Informatics Europe für ihre Universit?t gewonnen. Seit 2005 gibt sie Informatik-Workshops für Kinder und Jugendliche. Für ihr Engagement zur Vermittlung von Grundkonzepten der KI und Informatik für die ?ffentlichkeit wurde sie 2020 mit dem Rainer-Markgraf-Preis geehrt. Ute Schmid ist Sprecherin des AK KI in Schulen des Fachbereichs KI der Gesellschaft für Informatik. Sie ist Mitglied im Bayerischen KI-Rat, Direktorin am Bayerischen Institut für Digitale Trans-formation (bidt) und leitet die Fraunhofer IIS-Forschungsgruppe Comprehensible AI.