Rezension: Helga Nowotny: „Die KI sei mit euch“

In ihrem Buch „Die KI sei mit euch“ thematisiert die Autorin Helga Nowotny die Macht und Illusion über die Kontrolle algorithmischer Vorhersagen. Menschen wollten schon immer in die Zukunft blicken: In früheren Zeiten lasen sie dafür im Vogelflug oder weideten Tiere aus, um nicht das Klischee von der „Kaffeesatzleserei“ zu bemühen. Immer ging es darum, Ängste vor der Zukunft zu nehmen und Hoffnungen zu projizieren. Heute erlauben uns Algorithmen der Künstlichen Intelligenz einen, wie es scheint, beinahe unfehlbaren Blick auf künftige Ereignisse. Darauf vertraut gegenwärtig die Gesellschaft, doch welche Risiken birgt dieses Vertrauen? Immerhin entsteht dabei der fatalistisches Eindruck, dass die technologische Kontrolle über unsere Zukunft unsere Gestaltungsfähigkeit einschränkt und uns damit auch die Kontrolle nimmt. Denn Vorhersagen werden damit zu Bestimmungen, die Self-Fulfilling Prophecy lässt grüßen. Frühere Wahlmöglichkeiten sind nur noch Richtwerte, wir Mensch nehmen die klägliche Rolle von bloßen Erfüllungsgehilfen unseres vermeintlich unabwendbaren Schicksals ein. Dabei haben doch Menschen die digitalen Technologien selbst geschaffen. Wenn wir ihnen eine derartige Wirkmacht zuschreiben, sollten wir uns wieder auf unsere eigene Wirkmacht besinnen. Dass dies gelingen kann, führt die Autorin mit bestechendem Optimismus aus. Unsere Zukunft sollte wenigstens zu gleichen Teilen vom menschlichem Geist und von technischen Helfern bestimmt werden.

Helga Nowotny: „Die KI sei mit euch“

• Verlag: 1. Edition von‎ Matthes & Seitz, Berlin (Herausgeber)
• Erscheinungsdatum: 3. August 2023
• Umfang: Taschenbuch, 287 Seiten, 20,5 x 12,1 x 2,5 cm
• ISBN-13: ‎978-3751803960
• ISBN-10: ‎3751803963
• Originaltitel:‎ „In Al we trust“
• Sprache: Deutsch
• Übersetzung: Sabine Wolf

Über Helga Nowotny

Die Autorin wurde 1937 in Wien geboren, lehrte an der ETH Zürich und ist heute emeritierte Professorin. Sie forscht interdisziplinär über verschiedene Wissenschaftsentwicklungen. Im Jahr 2018 erhielt sie von der Berlin-Brandenburgischen Akademie der Wissenschaften die Leibniz-Medaille.

Über Sabine Wolf

Die Übersetzerin wurde 1982 in Wien geboren und studierte Friedensstudien und Internationale Beziehungen in London, Brighton, Barcelona und Guadalajara (Mexiko). Heute lebt sie in Berlin.

„Die KI sei mit euch“ von Helga Nowotny: Kapitel und Inhalt

Die Kapitel befassen sich mit ChatGTP-4 und der verwunschenen Welt des KI-ChatBots, mit der eigenen Reise der Autorin ins digitale Land, dem Leben in einer digitalen Zeitmaschine und in einer Spiegelwelt, mit dem Fortschrittsnarrativ, der öffentlichen Suche nach Glück, der Bedeutung von Weisheit für unsere Zukunft und mit Disruption. Hierbei geht es Helga Nowotny um die Selbstdomestizierung der Gesellschaft, die wohl während der Corona-Pandemie einen unseligen Gipfel erreicht hat.

ChatGPT

ChatGPT hat es der Autorin angetan. Immerhin ist diese Anwendung hinsichtlich der Nutzerzahlen die erfolgreichste seit der Entwicklung des Internets für die breite Öffentlichkeit. Doch was leisten generative KI-Systeme eigentlich? Sie sollen die menschliche Kommunikation simulieren. Dabei erweisen sie sich in bestimmten Anwendungsszenarien als erstaunlich effizient, was ihnen unbestreitbar das Potenzial als „General Purpose Technology“ verschafft. So nennt der Innovationsjargon Technologien, die für viele Bereiche geeignet sind. Von Wirtschaftshistorikern kommen schon entsprechende Vergleiche mit der Elektrizierung in den 1880er bis 1910er Jahren. Auch die Entwicklungen des Telefons, des Automobils und des Internets gehören in diese Kategorie. Es sind technologische Disruptionen, die gigantische Umwälzungen nicht nur in der Wirtschaft, sondern auch in der Gesellschaft und der Kultur auslösen. Einen wichtigen Unterschied gibt es aber bei der Künstlichen Intelligenz: Sie entwickelt sich so rasend schnell, dass die Gesellschaft wohl nicht viel Zeit haben wird, um sich mit den Folgen hinreichend auseinanderzusetzen. Das findet die Autorin bedenklich, denn immerhin verstehen wir noch nicht einmal richtig, wie generative KI überhaupt funktioniert. Es ist diejenige Form der Künstlichen Intelligenz, die selbstständig agiert und nicht nur auf die Erfüllung ganz bestimmter Aufgaben (Sprachassistent, selbstlenkendes Auto etc.) programmiert wurde.

philosophischer Sicht

Damit könnte sie aus philosophischer Sicht zum digitalen Ebenbild des menschlichen Geistes werden und diesen allein durch ihre Rechen-, sprich „Denk“-Geschwindigkeit alsbald überflügeln. Das halten sogar die Schöpfer der KI wie Sam Altman & Co. für so bedenklich, dass sie schon 2023 ein Manifest verfassten, in welchem sie die Regierungen der Welt zu erhöhter Kontrolle der KI aufforderten. Wie das technisch im Detail funktioniert, hat Helga Nowotny ebenfalls untersucht. Die sogenannten LLMs (Large Language Models) basieren auf der innovativen Kombination von unsupervised training (unbeaufsichtigtem Training) und reinforcement learning (bestärkendem Lernen) aus enormen Datenmengen. Diese stammen aus dem Internet. Mit Texten jeglicher Art lernt die KI, wie unsere Sprache funktioniert. Sie lernt quasi selbst sprechen. Eine wahre Denkfähigkeit spricht ihr Helga Nowotny jedoch ab, womit sie eine gegenwärtig unter Geisteswissenschaftlern intensiv geführte Diskussion aufgreift. Kann generative KI schon selbstständig Schlüsse ziehen, Vergleiche herstellen, kreativ neue Ideen hervorbringen? Nein, meint die Autorin. Im Gegenteil: Bekanntlich können die semantisch und syntaktisch plausiblen Sätze von ChatGPT sogar vollkommen falsche Aussagen im Brustton der Überzeugung fabulieren, die der ChatBot schlicht erfunden hat. In der Technologieszene wird dies gegenwärtig mit Halluzinationen verglichen. Doch die KI entwickelt sich weiter. Im März 2023 veröffentlichte OpenAI die Version GPT-4, der inzwischen auch Bilder generiert, Mathematik auf dem Niveau guter Fachleute beherrscht, mit Leichtigkeit Aufnahmeprüfungen an Hochschulen besteht und sogar politisch gefärbte Politikerreden verfasst. Das soll belegen, dass in der jüngsten Version des ChatBots schon jene Generative KI steckt, die wir gemeinhin mit echter Intelligenz gleichsetzen.

Fazit

Wo führt diese bislang fast unkontrollierte Entwicklung hin? Die Autorin beklagt mangelnde Transparenz und den ungebremsten sowie unkritischen Techno-Enthusiasmus, dem auf der anderen Seite apokalyptische Spekulationen gegenüberstehen. Doch irgendwie ist das auch normal, denn neue Technologien eröffnen grundsätzlich Projektionsräume für kollektive Imaginationen. Es gilt, sich sachlich mit Euphorie, Vorbehalten und Ängsten auseinanderzusetzen. Dann gilt es, die KI unter Kontrolle zu bringen. Dass die Menschheit dies schaffen wird, glaubt Helga Nowotny felsenfest.