Was der Code verrät

Die Historikerin Marie Hicks fand heraus, dass bereits in den 1960er-Jahren über Algorithmen bestimmte gesellschaftliche Gruppen eingebunden und andere ausgeschlossen worden sind.

Bevor Marie Hicks ihre akademische Laufbahn eingeschlagen hat, war sie als Systemadministratorin – in der IT – tätig. Ihre Mutter war schon Programmiererin, die meisten ihrer damaligen Vorgesetzten waren Frauen. Irgendwann wurden sie weniger – die Frage nach ihrem Verbleib brachte Hicks zu ihrem heutigen Forschungsgebiet. 2017 publizierte die Technik-Historikerin das viel beachtete Buch „Programmed Inequality. How Britain Discarded Women Technologists and Lost Its Edge in Computing“ und schuf damit historische Fakten, die Fragen für die Gegenwart und Zukunft aufwerfen.

Woran arbeiten Sie zurzeit?
Aktuell forsche ich an einem neuen Buch zur Vorgeschichte des algorithmischen „Bias“. Aufbauend auf meinem ersten Buch sehe ich mir an, wie Anfang der 1960er-­Jahre transphobische Elemente in Großbritanniens Algorithmen eingeflossen sind. Damals haben Transgender versucht, ihre Identi­­tät auf ihren Versicherungskarten zu ändern. Die britische Regierung verwendete ein neues System, um diesen Menschen ihre wenigen, hart erkämpften Rechte wieder wegzunehmen. Es ist nachweisbar, dass die Regierung die Programmierung der Computer dafür nutzte, um es diesen Menschen unmöglich zu machen, ihre Identität auf diesen Dokumenten passend zu verändern.

Das wurde bewusst so gesteuert?
Ja. So wurden Transgender aus sozialen Systemen ausgeschlossen. Das ist ein sehr frühes, simples Beispiel für einen algorithmischen Bias. Er ist weniger komplex als jene Dinge, die heute so vor sich gehen, aber das Beispiel zeigt, wie lange es so eine Form der Diskriminierung schon gibt, und auch, wie Information organisiert wird – nämlich top-down, wo sie dem bestehenden Machtgefüge dient, und nicht immer bottom-up, was dem Nutzer dienen würde.

In Ihrem ersten Buch behandel­ten Sie das Thema, wie Frauen in Großbritannien sukzessive aus technologischen Jobs gedrängt wurden. Laut Statistiken gab es früher mehr Frauen in der Technik als heute. Woran liegt das?
Sie kamen der Macht zu nahe. Es ging nicht um die technischen Fähigkeiten, die waren vorhanden. Es ging vielmehr darum, dass diese Frauen durch ihre Positionen an Einfluss, Status und Macht gewonnen haben. Sie haben sich organisiert, bessere Arbeitsbedingungen und mehr Geld gefordert. In meinem Buch ist nachzulesen, dass diese Frauen ihre männlichen Nachfolger in den 1960er-Jahren eingeschult haben. Diese brachten zusätzliche Managementaufgaben in den Bereich und erhielten somit höhere Positionen und Löhne als die Frauen, hatten aber weniger Technik-Skills. Es ging also nie um fachliche Kompetenzen, sondern immer um Macht.

Heute ist die Nachfrage nach IT-Experten, Programmierern – Männern wie Frauen – hoch. Besonders Frauen wollen aber nicht in dem Bereich arbeiten. Dazu gibt es viele Meinungen. Was ist Ihre?
Ich selbst unterrichte an einer Technischen Universität, die junge Leute ausbildet, um im Feld des Ingenieurwesens, der Computerwissenschaften et cetera erfolgreich tätig zu sein. Ich habe viele weibliche Studierende, die sicher genügend technische Fähigkeiten haben. Was ich zu meinem Bedauern aber sehr wohl beobachte, ist, dass diese jungen Frauen sehr genau wissen, dass sie in technischen Berufen eine Außenseiterposition innehaben werden. Nicht zuletzt wird ihnen permanent unter die Nase gerieben, dass sie es in technischen Jobs nicht einfach haben werden. Ich selbst habe ja auch einmal als Systemadmi­nistratorin gearbeitet und war als Frau nicht in der Mehrzahl. Damals hat mich das nicht gestört. Aus heutiger Sicht ist es für mich vorstellbar, dass sich das, wenn ich geblieben wäre, zu einem Problem entwickelt hätte, weil es mich heute sehr wohl stört, in der Minderheit zu sein.

Marie Hicks
…ist zurzeit Associate Professor am Illinois Institute of Technology. Im kommenden Jahr wird sie als Fellow ans National Humanity Center gehen und an ihrem zweiten Buch zum Thema „Pre-History of Algorithmic Bias“ arbeiten. Ihr erstes Buch „Programmed Inequality“ sorgte international für Aufsehen.
 

Viele Unternehmen erhoffen sich durch eine Erhöhung ihrer Diversität – im Sinne einer besseren Durchmischung bei Geschlecht, Hautfarbe oder Kultur – zum Beispiel eine Verbesserung ihrer Produkte und Dienstleistungen. Wie sehen Sie solche Vorstöße?
Dazu möchte ich zwei Sachen anmerken; beide Punkte treffen beim Thema der Macht wieder zusammen: Ich denke, dass viele Unternehmen einerseits tatsächlich mehr Frauen, mehr Menschen mit multikulturellem Hintergrund oder unterschiedlichen Hautfarben in ihren Unternehmen haben wollen, um mit „diverseren“ Arbeitskräften bessere Produkte herzustellen. Auf der anderen Seite denke ich, dass ab dem Moment, wo diese vielfältigen Arbeitskräfte in das Ingenieursfeld kommen, nicht wirklich auf sie gehört wird; nicht zuletzt auch aufgrund der historisch gewachsenen und gelernten Macht­ungleichheit. Das ist ein Paradoxon. Der zweite Punkt ist: Es gibt in den USA, in der Techbranche, nur ganz wenige Unternehmen – etwa Google –, die stark monopolistische Tendenzen zeigen und keine hohe Diversität in den Teams aufweisen. Sie spielen eine überproportional große Rolle und haben dadurch auch überproportional viel Macht. Sicher gibt es Unternehmen neben diesen Riesen, etwa die von Adrian Jacks kreierte Alternative zu Twitter und Instagram. Das Grundproblem ist aber, dass diese Unternehmen – so großartig sie auch sind – immer nur außen vor sein können, also zu wenig Einfluss haben – eben auch in Sachen Durchmischung. Das ist ein strukturelles Problem.

Wo sehen Sie eine Lösung?
Für mich liegt die Lösung vieler dieser strukturellen Probleme einfach in mehr Regulierung. Ein anderes wichtiges Thema ist auch die Aufklärung, die Arbeit von Journalisten, die Dinge an die Oberfläche tragen und erklären, was da überhaupt passiert. Für eine ganz lange Zeit war es nur eine sehr kleine, Tech-affine Untergruppe der Gesellschaft, die verstanden hat, dass diese Themen aufkommen werden. Jetzt sind wir an einem Punkt angelangt, wo niemand mehr diese Strukturen, dieses Machtgefüge ignorieren kann.

Es wird schwierig sein, ­Menschen ihre Gewohnheiten, etwa eine Buchbestellung bei Amazon oder das „Googeln“, wieder abzugewöhnen …
Stimmt. Es wird auch nichts ändern, wenn man Menschen darum bittet, aus Facebook auszusteigen. Es ist ein wenig wie zu Beginn des 20. Jahrhunderts, als große Automobilkonzerne wie Ford oder GM gezwungen wurden, sicherere Autos zu bauen. Ich sehe den Bereich Big Tech heute ähnlich. Über Regulierung wird es – zumindest in den USA – nicht möglich sein, Dinge langfristig zu verändern, sehr wohl aber über die Organisation von Arbeitern. Etwa so, wie es Tech-Arbeiter im Silicon Valley verstanden haben, sich als Gruppe zu organisieren, um Projekte wie zum Beispiel Google Maven (KI-Drohnen in Kooperation mit dem Pentagon; Anm.), die gelinde gesagt viel Unheil angerichtet hätten, zu verhindern. Immer mehr Menschen verstehen, dass diese Technologien Werkzeuge der Macht sind, die von oben nach unten funktionieren. Auch auf diese Weise können wir uns unsere demokratischen Rechte zurückerobern.

Kommen wir zu Führungsfrauen in der Technik – Ginni Rometty oder Marissa Mayer. Sie haben es trotz der von Ihnen genannten strukturellen Probleme bis an die Spitze ihrer Unternehmen geschafft …
Das stimmt. Diese Frauen drücken aber explizit aus, dass sie mit der Struktur mitgehen und so Karriere machen. Sie kritisieren diese Strukturen nicht, sie ändern daran auch nichts, sondern tun ihr Bestes, um sich innerhalb dieser Strukturen ihren Weg hinaufzuarbeiten. Das ist verständlich, ändert aber nichts an der Situation. Deshalb will ich Ihnen als Beispiel für echte Strukturveränderung jenes von Stephanie Shirley (US-Unternehmerin, Philanthropin) nennen. Sie hat aus lauter freiberuflichen Programmiererinnen ein Unternehmen geformt – und tat das als explizit feministisches Projekt. Heute würde man es Software-Start-up nennen. Shirley ist an der „gläsernen Decke“ gescheitert und hat deshalb beschlossen, mit ihrem Unternehmen andere Frauen anzusprechen, denen es genauso ergangen war: Frauen, die flexiblere Arbeitszeiten wollten; die Kinder und andere Betreuungspflichten hatten. Sie schlug daraus Vorteile – und besaß zum Schluss ein Multimillionen-Dollar-Unternehmen. Sie hat explizit auf die Struktur geachtet und es dann bewusst anders gemacht. Anderen Frauen in ihren Karrieren in Unternehmen zu helfen, setzt voraus, dass man erkannt hat, dass diese Strukturen in vielen Fällen hinderlich – im schlimmsten Fall gar sexistisch und rassistisch – sind, und dass man Lösungen für dieses tief liegende Problem suchen und anbieten soll.

Stephanie Shirley wurde dafür bestraft, zu wenige Männer in ihrem Unternehmen beschäftigt zu haben …
Ja, auf der Grundlage des in den 1970er-Jahren verabschiedeten Sex Discrimination Acts wurde Shirley vorgeworfen, Frauen zu bevorzugen. Ironischerweise sollte dieses Gesetz ja eigentlich dazu dienen, den Frauenanteil in der Arbeitswelt generell anzuheben.

Letzte Frage: Wann wird Ihr nächstes Buch erscheinen?
Leider nicht ganz so schnell. Ich habe mir vorgenommen, im nächsten Jahr intensiv daran zu arbeiten – mal sehen, wie schnell die Arbeit vorangeht. Und wenn es erscheint, hoffe ich, dass die Inhalte dann schon nicht mehr relevant sein werden – sondern im besten Sinne Geschichte sind.

Dieser Artikel ist in unserer September-Ausgabe 2018 „Women“ erschienen.

,
Chief Editorial Team

Up to Date

Mit dem FORBES-Newsletter bekommen Sie regelmäßig die spannendsten Artikel sowie Eventankündigungen direkt in Ihr E-Mail-Postfach geliefert.