Wie der Fehler den Menschen zum Menschen macht - FALTER.maily #1053

Am 28. Februar 2023 veröffentlichte das britische Verteidigungsministerium ein bemerkenswertes Dokument. Es soll als Grundlage zukünftiger Entscheidungen dienen, es soll den hochrangigen Militärs Richtschnur sein. Es soll die britische Armee fit machen für die Zukunft.

An diesem Tag veröffentlichte das britische Verteidigungsministerium acht Kurzgeschichten. "Diese Texte sind Fiktion", schreiben die Verantwortlichen als Disclaimer dazu. 

Prosa statt Plänen in der ehrwürdigen White Hall-Straße im Londoner Regierungsviertel. Und das alles ist durchaus ernst gemeint.

Der technologische Fortschritt beschleunigt sich rasant. Höhere Rechenleistungen und verschränkte, die Synapsen des menschlichen Gehirns imitierende, künstliche neuronale Netzwerke ermöglichen seit 2018 eine neue Generation an Systemen der Künstlichen Intelligenz. Waren vorherige Systeme auf einer Wenn-Dann-Struktur aufgebaut, können diese Systeme sich selbst anlernen und aus sich heraus Inhalte erzeugen. Ihre Leistungen beginnen, die kognitive Fähigkeit des Menschen zu übersteigen.

Chatbots wie ChatGPT haben Künstliche Intelligenz zu einem Massenprodukt gemacht (und die notwendige Aufmerksamkeit endlich auf diese Innovationen gelenkt). Jeder kann sich einloggen und die KI mit Fragen löchern oder mit Aufträgen eindecken. Eingesetzt wird die neue Generation der Künstlichen Intelligenz aber auch in der Medizin, in der Landwirtschaft, in Logistikprozessen und, ja, eben auch in der Kriegsführung.

Die Folgen auf die Gesellschaften im Einzelnen und den Menschen im Allgemeinen sind nicht absehbar. So mächtig aber könnten die Systeme werden, dass führende KI-Forscher, Unternehmer und Softwareexperten jetzt ein sechsmonatiges Forschungsembargo verlangen.

"Leistungsfähige KI-Systeme sollten nur dann entwickelt werden, wenn wir uns sicher sein können, dass sie Positives beitragen und die Risiken überschaubar bleiben", heißt es in dem offenen Brief. Unter anderem Tesla-Gründer Elon Musk hat unterschrieben. Oder der amerikanische Informatiker Grady Booch. Oder Tristan Harris, einst bei Google für Ethik zuständig.

Die künstliche Intelligenz sei die einflussreichste und am wenigsten verstandene gegenwärtige Technologie, sagte Peter W. Singer schon 2021. Singer ist einer der beiden vom britischen Verteidigungsministerium beauftragten Autoren. Die Idee hinter der Zusammenarbeit: Der Schriftsteller (der Mann ist auch Militärhistoriker an der Arizona State University) möge mit seinem imaginierten Denkraum die tatsächlich möglichen Folgen von Künstlicher Intelligenz durchdeklinieren. Und die Militärs könnten daraus konkrete Handlungen ableiten.

Fiktion, die den Fortschritt beschreibt, das ist die Umkehrung der früheren Formel, wonach Fiktion den Fortschritt dachte.

Es war seit jeher Science-Fiction gewesen, die die Ambitionen von Softwareingenieuren und Computerspezialisten geschürt hatte. Junge Männer (und Frauen) wollten die Welten der Science-Fiction nachbauen. Der Informatiker Sepp Hochreiter etwa, der mit seinen Erfindungen die Vorgängermodelle von ChatGPT überhaupt erst ermöglichte und seit vielen Jahren an der Johannes-Kepler-Universität in Linz lehrt, sagt das so: "Wir haben uns am Institut gegenseitig die Science-Fiction Bücher ausgeliehen." Ihn hätten besonders die Kurzgeschichten des russisch-amerikanischen Biochemikers Isaac Asimov und jene des polnischen Autors Stanisław Lem (Solaris) fasziniert. Hochreiters Lieblingstext? Die Kurzgeschichtensammlung über den Piloten Pirx von Lem, einen mittelmäßig begabten Astronauten, ein klassischer Antiheld.

Und doch fällt einem zum Piloten Pirx diese eine fundamentale Geschichte ein. In "The Inquest" soll Pirx in einer Raumfahrtmannschaft die perfekten Androiden enttarnen und Rückschlüsse geben, inwiefern sie als Astronauten besser geeignet sind als Menschen. Die Geschichte beantwortet ganz nebenbei eine sich gerade jetzt angesichts des rasanten Fortschritts stellende große Menschheitsfrage: Was macht den Menschen eigentlich aus?

Pilot Pirx hat darauf eine überraschende Auskunft. So liege Homo Sapiens’ Vorteil ausgerechnet in der ihm eigenen Unvollkommenheit. In "The Inquest" zögert einer der menschlichen Astronauten bei einer wichtigen Entscheidung. Er rettet damit Crew und Raumschiff vor dem Untergang. Der Fehler sei die "bessere Wahl als die inhumane Strenge und Exzellenz" der Computer, schreibt Lem.

Der unzulängliche Mensch als Rettung ex post. Willkommen im 21. Jahrhundert.

Ihre Eva Maria Konzett

Wenig Vorstellungsvermögen für die Zukunft zeigen Regierungsverantwortliche aus Deutschland und Österreich dieser Tage in Brüssel. Dort sollte das Aus für Verbrenner beschlossen werden. Deutschland riss ein Schlupfloch für sogenannte "E-Fuels" auf, Österreich hüpfte mit hindurch. Was der Haken an der "Technologieneutralität" ist und warum nicht mal mehr die Autoindustrie auf Verbrennungsmotoren setzt, erklärt Ihnen Katharina Kropshofer hier.

Einigermaßen genervt vom Nehammer'schen Schlenkerer zeigte sich Umweltministerin Leonore Gewessler bei ihrem Doorstep-Interview für den ORF vor dem EU-Minister:innenrat in der belgischen Hauptstadt gestern. Wie sehen die Grünen Ihre Zusammenarbeit mit der ÖVP nach drei Jahren Koalition? Und was haben sie bis zur nächsten Wahl noch vor? Vizekanzler Werner Kogler liefert in diesem Interview Antworten.

Seit Jahresbeginn führt der 26-jährige Barish Okcu im vierten Bezirk den Conceptstore "Sumpf", eine Mischung aus Boutique und Galerie. Neben Kunstwerken von Peter Kogler kann man hier Crocks aus Leder oder Netz-Shirts bewundern, wie sie Beyoncé oder Dua Lipa tragen. Um die Teile zu kaufen, müsste man zwar tief in die Tasche greifen. Dafür verspricht "Sumpf" der Stadt den Flair einer echten Weltmetropole zu verleihen. Natalie Großschädel hat sich den Laden aus der Nähe angesehen.