CODE ZU BILD

Damit Teams aus Menschen und KI-Agenten funktionieren können, braucht es eine verständliche Kommunikation. Mennatallah El-Assady sorgt dafür, dass sich die beiden Parteien verstehen.

„Wenn das Interview zehn Jahre später stattfinden würde, wären in unserem Zoom-Call noch zwei weitere Teilnehmer dabei, nämlich KIs“, sagt Mennatallah El-Assady. „Die eine würde mich mit Zahlen und Fakten unterstützen und die andere die Redaktion mit Fragen und Fact Checking.“ Arbeitsteams, egal ob in Führungspositionen, der Produktion oder in kreativen Berufen, werden in Zukunft zum Teil aus Menschen und zum Teil aus künstlichen Intelligenzen bestehen, davon ist die Forscherin der ETH Zürich fest überzeugt. Eine Studie des deutschen Bundesministeriums für Wirtschaft und Energie ergab, dass 2019 bereits 5,8 % aller Unternehmen KIs einsetzten, Tendenz steigend; auch das Fraunhofer-­Institut weist darauf hin, dass KI die Effizienz der Wertschöpfung steigert und neue Serviceangebote eröffnet. „Aber das Risiko, dass wir die KI nicht richtig verstehen oder umgekehrt, ist aktuell noch sehr hoch. Deswegen muss diese Kommunikation transparent gemacht werden“, so El-Assady. Um das zu erreichen, entwickelt sie mit ihrem Forschungsteam Visualisierungs­interfaces.

Der Schlüssel zu einer trans­parenten Kommunikation ist die visuelle und verbale Erklärung der KI-Entscheidungsprozesse. El-Assady findet: „Jeder muss in der Lage sein, mit einer KI interagieren zu können, sowohl IT-Experten als auch Menschen, die sich noch nie damit auseinandergesetzt haben.“ Je nach Thematik und Professio­nalisierungsgrad des Menschen gibt es verschiedene Modelle, welche die Arbeitsweise der KI sichtbar machen. Als Beispiel soll eine KI Wörter in Themenkomplexe zusammenfassen: „Im Ergebnis sehen wir, welche Wörter laut KI wo zusammenpassen. Darüber hinaus können wir aber auch erkennen, wie sicher die KI bei dieser Entscheidung war und zwischen welchen Optionen sie sich entschieden hat“, erklärt die Forscherin. Dieser Sicherheitsgrad ist wichtig, denn Mensch und KI halten oft nicht dasselbe Ergebnis für das beste. Um nun das bestmögliche Resultat zu erzielen, gibt es zwei Ansätze: Im ersten spielt die KI ab einer gewissen Unsicherheitsschwelle verschiedene Situationen durch und der Mensch vergleicht die Ergebnisse am Ende; daraufhin entscheidet der Mensch sich dann für das Resultat, das ihm am besten gefällt. „Oder wir bringen die menschliche Intuition an genau der Stelle ein, an der die KI unsicher ist“, so El-Assady „Damit können wir uns viel Zeit und Interaktion sparen.“ Dem Menschen werden dabei die beiden Optionen offen­gelegt und er klickt in einem Interface an, was er besser findet. „Diese Art der vergleichenden Entscheidungen fällt uns Menschen nämlich am leichtesten“, sagt El-Assady.

El-Assady wuchs in der ägyptischen Millionenstadt Alexandria auf, wo sie die deutsche Schule besuchte. Mit 18 Jahren kam sie zum Studieren an die Universität von Konstanz. Nach ihrem Doktortitel wechselte sie an das AI Center der ETH Zürich, wo die 31-Jährige interdisziplinäre Forschung betreibt und unterrichtet. Ihr Interesse für die Vereinfachung von Kommunikationsprozessen durch Visualisierung kommt nicht von irgendwoher: „Als Kind habe ich ein Musikinstrument gelernt, aber es fiel mir sehr schwer, die Noten zu lesen“, erzählt sie. „Dann habe ich jede Note bunt angemalt und damit hat es viel besser geklappt.“ El-Assady ist von einer leichten Form der Legasthenie, also der Lese-Rechtschreib-Schwäche, betroffen, das wusste sie damals noch nicht. „Viel später habe ich gelernt, dass es sich um verschiedene Kommunikationskanäle im Gehirn handelt“, so die Forscherin. „Ärzte und Psychologen, die sich mit Legasthenie auseinandersetzen, wenden bei Kindern ähn­liche Techniken an.“

Die KI hat aus den Dokumenten ganz rechts Wörter verwendet und diese im Kreis nach Sinnkomplexen sortiert.

Ihren kleinen Trick von damals hat El-Assady gemeinsam mit drei Kollegen in eine App verwandelt: Visual Musicology. „Wir versuchen, die Art, wie wir Musik lesen, zu verbessern, indem wir Partituren mit kleinen Symbolen oder Farben kennzeichnen.“ Auf den Endnutzer ist die App noch nicht ausgelegt – „derzeit muss man schon noch wissen, wo man klicken soll“. Aber El-Assady kann sich gut vorstellen, in die Phase einer anwendungsfreundlicheren App zu gehen. „Darüber sprechen wir immer wieder, denn das Anwendungs­potenzial ist sehr groß.“

In einem anderen Projekt hat sie gemeinsam mit einem Team aus Informatikern und Linguisten das Lingvisio-Framework entwickelt. Die KI-basierte Plattform kann Texttranskripte, zum Beispiel von politischen Debatten, etwa aus dem US-Präsidentschaftswahlkampf, analysieren. Das Ergebnis zeigt grafisch, wann z. B. Donald Trump und Hillary Clinton wie intensiv über welches Thema diskutiert haben, und erlaubt Nutzern eine interaktive Exploration der Themen und Argumentationsstrukturen. „Insbesondere die Lingvisio-Plattform hat großes Potenzial zur Weiterentwicklung“, so El-Assady. Sie könnte in verschiedenen Anwendungsbereichen Textdaten interaktiv analysieren. KI-Agenten könnten einen Analysten bei der Erfassung, Strukturierung, Zusammenfassung und anderen Analyseaufgaben unterstützen. Diesen Business Case will die Forscherin in naher Zukunft mit einem Team angehen.

Diese beiden Nebenprojekte sind nur kleine Beispiele dafür, wie groß das Potenzial von gelungener KI-Mensch-Kollaboration ist. El-Assady weiß: „KI’s werden in Zukunft einmal viel wichtigere Entscheidungen treffen als Texte oder Musikstücke zu analysieren.“ Entscheidungen über Menschenleben, zum Beispiel während Operationen, dürfen nicht leichtfertig getroffen werden, die KI muss zu 100 % verlässlich den Gedanken von Menschen folgen. Damit das fehlerfrei passiert, will El-Assady weiter an der Visualisierung des Kommunikationsflows arbeiten. Sie glaubt: „Wir können sehr komplexe Probleme, etwa den Klimawandel, nur in Teams aus Menschen und KIs lösen.“ Allerdings steht die inter­disziplinäre Kommunikation noch mit einer kleinen Kerze in einem großen, dunklen Raum. „Hoffentlich kann ich in den nächsten Jahren etwas mehr Licht ins Dunkel bringen“, wünscht sich El-Assady.

Mennatallah El-Assady
...arbeitet an der Schnittstelle von Datenanalyse, Visualisierung, Computerlinguistik und erklärbarer künstlicher Intelligenz. Sie unterrichtet und forscht an der ETH Zürich.

Text: Juli Sixel
Fotos: Nicola Pitaro

Dieser Artikel erschien in unserer Ausgabe 3–22 zum Thema „KI“.

,
Redakteurin

Up to Date

Mit dem FORBES-NEWSLETTER bekommen sie regelmässig die spannendsten Artikel sowie Eventankündigungen direkt in Ihr E-mail-Postfach geliefert.