Renata Jungo Brüngger sitzt in ihrem Büro in Stuttgart und träumt von den Alpen. Sie erzählt vom Safiental, wo sie ein Haus besitzt und an freien Tagen die Ruhe von Graubünden und nachts den klaren Sternenhimmel genießt. „Für mich ist das der schönste Luxus“, sagt die Rechtsvorständin der Mercedes-Benz Group AG. Doch dafür ist in diesen Tagen kaum Zeit.

Denn die 60-Jährige aus dem Kanton Freiburg gilt als die „mächtigste Schweizerin der Weltwirtschaft“ – so bezeichnet sie das Boulevardblatt Blick. Und derzeit erlebt die globale Ökonomie gewaltige Krisen: Ukraine-Krieg, Rohstoff- und Energieknappheit, der Abschwung in der Weltkonjunktur, ein mögliches schnelles Ende von Energieimporten aus Russland (wovon Mercedes übrigens abrät) – all das macht Jungo Brünggers Arbeitgeber wie auch der gesamten deutschen Automobilbranche schwer zu schaffen.

Ihre Aufgaben könnten noch entscheidend für die Zukunft des schwäbischen Autobauers sein. Die Vorständin muss nämlich sicherstellen, dass der Konzern Fortschritt mit Verantwortung in Einklang bringt. Wie viel Zukunft ist erlaubt – etwa wenn es um die Anwendung von Technologien wie künstlicher Intelligenz geht?

„Mit dem Einsatz von KI und dem autonomen Fahren sind viele ethische Fragen verbunden“, sagt Jungo Brüngger, die für das Interview per Zoom einen grauen Blazer und ein bunt gemustertes Seidentuch trägt. Nach dem Small Talk über die Reize ihrer Heimat kommen wir gleich auf die Herausforderungen der Zukunft zu sprechen: Wie die Konkurrenz versteht sich Mercedes-Benz als Innovator und will viel mehr leisten, als nur Fahrzeuge zu bauen und zu verkaufen. Man will die Mobilität der Zukunft prägen, etwa durch die Elektrifizierung der gesamten Flotte (die schon bis 2030 erfolgen soll). Rund 60 Mrd. € wird der Konzern in den kommenden vier Jahren in Forschung und Entwicklung investieren – und neue intelligente Systeme entwickeln, die den Menschen hinter dem Steuer vielleicht bald zur Gänze ersetzen werden. Jungo Brüngger hat die ethische Debatte um künstliche Intelligenz in der Mobilität früh zu ihrem Thema gemacht. Schon 2016 diskutierte sie in Ethikkommissionen über das klassische Szenario: Ein autonom fahrendes Auto kann nicht ausweichen und muss entscheiden: Riskiert es einen tödlichen Unfall mit einer alten oder eher einer jungen Person?

„Das lässt sich nicht nur an einer Situation festmachen, das ist viel komplexer“, sagt Jungo Brüngger. Höchstwahrscheinlich werde es diese Situation in der Praxis nie geben. „Unsere Systeme entscheiden sich nicht für oder gegen einen Menschen, sondern fokussieren auf das rechtzeitige Abbremsen“, sagt die Juristin. Doch sie gibt auch zu: „Viele dieser ethischen Fragen sind bis heute noch nicht abschließend gelöst.“

Denn die Frage verweist auf den Knackpunkt von KI: Sobald intelligente Maschinen den Menschen als Objekt behandeln, wird es kompliziert. Datenschützer fordern daher: Algorithmen, die für Menschen entscheiden, dürfen niemals Grund- und Freiheitsrechte missachten. Das klingt einleuchtend, ist aber in der Praxis nicht einfach umsetzbar, etwa wenn Chatbots die Kreditwürdigkeit beurteilen oder entscheiden, ob sich eine Person durch ihr Verhalten, etwa durch Beleidigungen, strafbar macht.

Kontrolliertes Lernen ist bei Mercedes-Benz daher das oberste Prinzip. „Wenn wir ein intelligentes System anwenden, müssen wir uns fragen: Wann soll es lernen – und wann nicht?“, sagt Jungo Brüngger. Konkret heißt das: Solange das Auto rollt, ist der selbstlernende Algorithmus abgeschaltet. Anders ausgedrückt: Die KI im Auto wird an die Kette genommen und darf nicht tun, was sie vielleicht schon leisten könnte. Aber warum? „Wir verzichten bei sicherheitsrelevanten Funktionen wie Bremsmanövern aus rechtlichen und ethischen Gründen auf Algorithmen, die beim Betrieb des Fahrzeugs durch Lernen das Fahrzeugverhalten verändern“, antwortet die Managerin. „Wenn wir verschieden intelligente Autos haben, könnte das ein Problem für die Sicherheit werden.“ Je nachdem, wie gefahren wird, eignet sich das System unterschiedliche Gewohnheiten an – ein Bleifuß könnte die KI seines Autos auf Rücksichtslosigkeit trainieren, ein unsicherer Fahrer hingegen erzieht die Maschine zu zögerlichen Manövern. Die KI soll dem Menschen also keine Verantwortung abnehmen – zumindest noch nicht. „Unser Ansatz ist, dass der Mensch Taktgeber des technischen Fortschritts bleibt“, sagt Jungo Brüngger.

Deutschland ist eines der wenigen Länder, die KI-Anwendungen vor allem beim Datenschutz gesetzlich eingeschränkt haben. Die EU-Kommission will nachziehen und eine verbindliche Regulierung schaffen. Doch auch in Brüssel muss man, wie in Stuttgart, abwägen: Wie eng zieht man die Grenzen? Wann würgt man Innovation ab oder sorgt dafür, dass sie abwandert?

„Ein Problem ist, dass es international keine einheitlichen rechtlichen Leitplanken gibt“, sagt Jungo Brüngger, „es passiert hier zu wenig“. Daher verpflichten sich die Unternehmen selbst. „Wir wollen innovativ sein und gleichzeitig Technologien rechtssicher und mit hoher Akzeptanz auf die Straße bringen. Damit das funktioniert, müssen Ingenieure, Juristen, Ethiker oder auch Zukunftsforscher von Anfang an eng zusammenarbeiten“, so Jungo Brüngger. Langsam, aber sicher – das deutsche Mantra gilt auch hier. Mercedes hat sich vor drei Jahren unter der Aufsicht der Schweizerin sogar ein Regelwerk zu KI verpasst.

Gerade in der Mobilität wird KI oft dämonisiert. Andererseits: Die für das autonome Fahren erforderliche Technologie ist bislang hinter den Erwartungen zurückgeblieben. Im vergangenen Dezember wurde der intelligente Autopilot von Mercedes zwar als erster in Deutschland genehmigt (seitdem  ist autonomes Fahren auf Level 3 möglich, dabei können sich Fahrende unter bestimmten Bedingungen vom Verkehrsgeschehen abwenden; in diesem Jahr soll es die Freigabe für das System auch von den US-Behörden geben) – doch im Alltag klingt das meist nach Science-Fiction. Im Frühjahr verdonnerte ein deutsches Gericht den US-Hersteller Tesla dazu, einem Kunden den Kaufpreis für ein Model 3 zurückzuerstatten. Das automatisierte Fahren funktionierte nicht optimal, es gleiche einem „betrunkenen Fahranfänger“, etwa weil Ampeln und Stoppschilder nicht erkannt wurden. Der Fall sorgte für Spott, doch den Glauben an die Technik wird das wohl nicht erschüttern. Der Ex-VW-Digital-Chef Johann Jungwirth glaubt, dass es schon in 20 Jahren seltsam erscheinen werde, dass Menschen jemals selbst gefahren sind.

Doch derzeit konsolidiert sich der Markt. Die Entwicklung ist enorm teuer, weil autonomes Fahren die komplexeste Art von KI erfordert. Technologieriesen wie Amazon, Apple oder Microsoft investieren in autonome Mobilität, aber auch die traditionellen Autoschmieden sind längst als Big Player aktiv. Experten warnen: Nur wer einen langen Atem beweist und Ressourcen hat, bleibt im Geschäft.

Wann sind also selbstfahrende Trucks, Taxis oder Autos Alltag? Jungo Brüngger ist bei Prognosen vorsichtig: Dass alle und zu jeder Zeit vollständig autonom fahren, sei „technisch enorm kompliziert umsetzbar“, sagt die Schweizerin. Noch ist KI, zumindest am Steuer, nicht intelligenter als der Mensch. „Menschen machen beim Fahren sehr viel intuitiv – wir hören und sehen und reagieren dann entsprechend. Das lässt sich mit Sensoren und KI weiterhin nur sehr schwer nachbilden“, sagt Jungo Brüngger. Wenn etwa das Martinshorn auf der Autobahn dröhnt, weiß der Mensch, was zu tun ist – die Maschine ist (noch) überfordert.

Jungo Brüngger kam 2016 in den Mercedes-Vorstand. Als die bislang anstrengendsten Wochen im Job beschreibt sie den August 2020: Damals einigte sich das Unternehmen im Abgasskandal nach langen Verhandlungen mit den US-Behörden. Mehr als 1,5 Mrd. US-$ zahlte der Autobauer in dem Vergleich und kam vergleichsweise glimpflich davon – Volkswagen musste das Vierfache bezahlen.

„Geradlinigkeit, Respekt und Empathie“: Das sei ihr moralischer Kompass, sagt die Juristin. Was sie anpackt, macht sie zu 100 %. Als Jugendliche spielte sie Beethoven-Sonaten nahezu perfekt, doch heute rührt sie die Tasten nur noch selten an. „Es fehlt die Zeit fürs Üben und ich mag kein Geklimper, vor allem nicht, wenn es von mir kommt“, sagt Jungo Brüngger. So hoch sind also ihre Ansprüche an sich selbst – wohl nicht nur in der Musik.

Neben Ausflügen nach Graubünden wagt Jungo Brüngger auch gerne Bergsteiger-Expeditionen – doch dafür ist momentan keine Zeit. 2015 eroberte sie mit ihrem Mann den Cerro Toco, einen 5.604 Meter hohen inaktiven Vulkan in Chile. Damals war sie noch Leiterin der Rechtsabteilung und telefonierte auch in der Atacamawüste einmal am Tag mit dem Team. Doch auch in ihrer Wahlheimat Stuttgart kann sie abschalten; statt in die Sterne zu schauen, entspannt sie hier am Abend mit Netflix. Ihre Lieblingsserie ist das eher seichte Historiendrama „Bridgerton“ – es muss ja nicht immer um die schweren Fragen der Zukunft gehen.

Renata Jungo Brüngger
...studierte Rechtswissenschaften an der Universität Fribourg. Sie kam 2011 zur damaligen Daimler AG – heute ist sie Vorstandsmitglied für Integrität und Recht bei der Mercedes-Benz Group AG.

Text: Reinhard Keck
Fotos: Annette Cardinale für Mercedes-Benz AG

Dieser Artikel erschien in unserer Ausgabe 3–22 zum Thema „KI“.