Mein erster Tag als Mensch-KI-Managerin

Algorithmen sind schon heute fester Bestandteil unseres Alltages. Tagtäglich vertrauen wir Lösungen, die erst durch künstliche Intelligenz ihre volle Macht entfalten können: Sei es bei der Suchanfrage über Google, der Nutzung einer Navigations-App oder der Steuerung des smarten Heims durch Alexa, Bixby, Siri & Co. Sicher ist: In Zukunft werden KI-Anwendungen noch stärker als heute Anteil an unserer Lebens- und Arbeitswelt haben. Wie das aussehen könnte? Die Zukunftsforscher Cornelius Patscha und Björn Theis wagen einen erzählerischen, teils ernsthaften, teils augenzwinkernden Blick in die Zukunft.

„Ha“ ‒ Tamara lässt sich und ihre Tasche in Richtung Boden fallen. Die Tasche landet auf dem schick-polierten Beton, Tamara auf dem weißen und veganen, da aus Zellkulturen gezüchteten, Leder ihres neuen Bürosessels. Keine Frage, sie wird ihren bereits verschlissenen Homeoffice-Stuhl, der noch aus ihrer Studienzeit stammt, vermissen. Der Ausblick ist herrlich und eine eigene Kaffeemaschine hat sie auch! Aber das ist ja auch nur angemessen. Schließlich hat sie als neue Human-KI-Relation, kurz und schick HKR-Managerin, viele vertrauliche Gespräche zu führen. Da braucht man halt ein eigenes Büro, auch wenn das manchen Menschen heutzutage antiquiert und elitär vorkommt. Zudem hat sie genau hierfür ihren Master in HKR gemacht ‒ um in vertraulichen Gesprächen die Mensch-Maschinen-Beziehungen zu verbessern. Ohne die Unterstützung von künstlichen Intelligenzen wären die Durchbrüche der letzten Jahre in Biotechnologie, Bildung, Medizintechnik, Sicherheit und Nachhaltigkeit nicht möglich gewesen und Dank ihrer neuen Jobs ist sie jetzt endlich Teil dieser Revolution. Ihr Arbeitgeber verwendet zahlreiche KI-Systeme, darunter sogar KIs der neuesten Generation, von der man sagt, dass sie eigentlich nicht mehr von Menschen unterscheidbar seien ‒ zumindest so lange nicht, bis man sie nach einem ersten Date fragt.

Tamara lehnt sich in ihrem Bürosessel zurück. Sie denkt an die Grundwerte der Human-KI-Relation, die Verpflichtung, dass alle verwendeten KIs menschenzentriert, transparent und fair handeln müssen. Tamara grinst: Wahrscheinlich müsste man sie allein deshalb doch gut von echten Menschen unterscheiden können. Dem ist aber leider nicht so. Oftmals haben die KIs noch zahlreiche Probleme, diesen Pflichten zu erfüllen. Das ist ja auch klar, im Grunde sind sie lernende Systeme mit oftmals allzu wenig Erfahrung und dazu noch geprägt durch die Vorurteile derer, die sie programmiert und trainiert haben. Wieso glauben alle, eine KI wüsste immer, was die fairste Lösung ist, wenn wir Menschen es oft nicht wissen? Und dennoch vertrauen die meisten Menschen im Zweifel eher einer Maschine als einem Menschen. Sie denkt an das Paradebeispiel für dieses Paradox: Das berüchtigte Versagen eines Finanzalgorithmus des British Post Office hatte immer wieder dazu geführt, dass Mitarbeitenden der Hinterziehung angeklagt worden waren. Zahlreiche kamen so unschuldig ins Gefängnis, Existenzen wurden zerstört ‒ zwanzig Jahre lang! Erst nach zwei Dekaden kam jemand darauf ernsthaft den Fehler in der Software zu vermuten.

Das macht KI-Transparenz so wichtig: Immer mehr Entscheidungen werden durch Maschinen getroffen und bestätigt, ohne dass Menschen direkt involviert sind. Von der Bestellung des Toilettenpapiers bis zum Finanzcontrolling, das alles wird heute im Hintergrund durch KIs gesteuert. Alle Mitarbeitenden sind davon auf irgendeine Weise betroffen, viele empfangen ihre Arbeitsaufträge sogar direkt von ihren KI-Vorgesetzten in der Matrixorganisation. Die Akzeptanz dieser körperlosen KI-Kollegen liegt auch daran, dass alle KI-bezogenen Aktivitäten umfangreich dokumentiert werden und jeder Prozessschritt offengelegt und nachvollzogen werden kann ‒ zumindest in der Theorie. Denn mittlerweile sind die Dokumentationen von KI-Entscheidungen oft so umfangreich, dass kein Mensch sie schrittweise nachvollziehen kann. Daher wird es immer wichtiger, KIs zu ermöglichen, dass sie die Gründe für ihre Schlussfolgerungen erklären können. Und da kommt Tamara ins Spiel. Noch immer führen zahlreiche Handlungen von KIs zu Missverständnissen bis hin zu ernsthaften Problemen. Ihre Aufgabe ist es nun, dafür zu sorgen, dass solche Missverständnisse möglichst schnell entdeckt und behoben werden beziehungsweise am besten überhaupt nicht mehr passieren. Zeit anzufangen.

Mit einer Handgeste lässt sich Tamara das Tagesplanungs-Dashboard in ihr Sichtfeld einblenden. „Zum Warmwerden erstmal etwas Einfaches“, sagt sie sich und öffnet mit einem gezielten Blinzeln das Dokument zu ihrem ersten Fall, einer typischen Aufgabe für eine HKR-Managerin.

Betreff: Beschwerde bzgl. Fehlfunktion der Moderations-KI A.M. V2 Von: Ralph Halvorsen, Forschung und Entwicklung CC: Moderations-KI HR 476 Gesendet: 23.04.2040, 08:49 Priorität: Gelb

Summary (by KI T-K): Ralph Halvorsen beschwert sich darüber, dass KI HR 476 mehrere Beiträge von ihm als „Rassismus, Gewalt“ markiert und ihn mit einer 48-Stunden-Intranetsperre belegt, ihn zu einer verpflichtenden Netiquette- und Kulturschulung angemeldet sowie einen Vermerk in der Personalakten veranlasst hat, obwohl sich seine Äußerungen auf ein privates Online-Spiel bezogen.

Betreff: Unerwartete Verzögerung im Beschaffungsprozess für Produktions-Cobots Von: Laura Bergmann, Produktionsplanung CC: Einkaufs-KI A38, P&L-KI 65B, Vertriebs-KI DACH Gesendet: 23.04.2040, 08:52 Priorität: Orange

Summary (by KI T-K): Laura Bergmann Bestellung von Produktions-Cobots wird nicht weiterbearbeitet da Einkaufs-KI A38, Produktions- und Logistik-KI 65B sich in einer Logik-Schleife befinden. Logistik-KI 65B verweigert den nächsten Schritt, da bei KI A38 ein Logik-Update ansteht. Ohne dieses Update ist KI 65B nicht berechtigt A38 Glauben zu schenken. KI A38 verweigert das Update, da es untersagt ist, während eines Bestellprozesse ein Update zu installieren, dass die aktuellen Verhandlungen beeinträchtigen könnte.

Betreff: Glaubt es oder nicht – KI X11 mobbt. Von: Andrei Smyslov, Fusion & Akquisition CC: Bill Michaels, Abteilung für Metaverantwortung Gesendet: 23.04.2040, 08:52 Priorität: Rot

Summary (by KI T1000): Andrei Smyslov unterstellt KI X11 „Tom“, einer experimentellen Managment-KI der neusten Generation, Mobbing. Dies sollte technisch ausgeschlossenen sein, doch Andrei Smyslov legt umfangreiche Daten vor, die seine Behauptungen möglicherweise belegen. Es scheint als hätte KI X11 unter falschen Namen Agenten erstellt, die in Foren Andrei Smyslov verbal attackierten. Die Abteilung „Metaverantwortung für KI-Einsatz“ wurde bereits informiert.

Mails: Seite 1 von 12

Tamara starrt verblüfft-bestürzt auf die Liste: Dass es so viele Probleme gibt, hätte sie sich nicht träumen lassen. Das könnte lustig werden. Mit einem Augenzwinkern öffnet sie den ersten Fall.

Ob sexistische oder rassistische Chat-Bots oder HR-Systeme, die Bewerber:innen aus ärmeren Stadtvierteln automatisch aussortieren – bereits heute werden durch zahlreiche Beispiele, neben den immensen Möglichkeiten auch die Schattenseiten von KI offensichtlich. Gerade lernende KI-Syteme, die mit Menschen interagieren, sind fehleranfällig, beispielsweise in dem sie die Vorurteile der Personen, die sie erschaffen haben, wiedergeben. KI ist also genauso ethisch oder unethisch wie die Menschen, die sie entwerfen und nutzen. Daher wird uns die Weiterentwicklung sowie die Verbreitung von KIs auch in Zukunft weiter einen Spiegel vorhalten. Denn die Frage, wie KIs mit Menschen umgehen sollen, könne nur wir beantworten.

Die Strategische Vorausschau ist für das Bundesministerium für Bildung und Forschung (BMBF) ein wichtiges Instrument, um frühzeitig Orientierungswissen über mögliche zukünftige gesellschaftliche und technologische Entwicklungen zu bekommen. Ziel ist es, die richtigen Weichen zu stellen, um künftigen Herausforderungen frühzeitig zu begegnen. Hierfür wurde der sogenannte Zukunftskreisberufen:16 Expertinnen und Experten aus unterschiedlichen Disziplinenberaten das BMBF hinsichtlich Zukunftstrends.Aber auch den Bürgerinnen und Bürgern bieten die Ergebnisse der Vorausschau eine gute Orientierung für die Zukunft. Weitere Informationen unter:vorausschau.de.