Wir sind alle programmiert – Annalee Newitz im Interview

© Jonathan Wilkins

INTERVIEW

Wir sind alle programmiert – Annalee Newitz im Interview


In ihrem Debütroman „Autonom“ benennt Wissenschaftsjournalistin Annalee Newitz  viele unbequeme Wahrheiten. Erfahre mehr über ihren Roman in unserem großen Interview.

TOR ONLINE: Autonom folgt dem Cyberpunk-Katz-und-Maus-Spiel zwischen der Piratin Judith „Jack“ Chen, die Medikamente für den Schwarzmarkt raubkopiert, und dem Militäragenten Eliasz, der Jagd auf sie macht. Sowohl Jack als auch Eliasz entwickeln während der Verfolgungsjagd komplizierte Beziehungen zu ihren Gefährten – Jack zu dem Kontraktarbeiter Dreinull, Eliasz zu dem Militärroboter Paladin. Erzähl uns doch mal, wie du auf diese Geschichte gekommen bist.

Annalee Newitz: Die Geschichte begann für mich mit Paladin. Ich wollte darüber schreiben, was passieren würde, wenn wir das tun, was Elon Musk und seine Freunde in ihrem offenen Brief über Künstliche Intelligenz vorgeschlagen haben, nämlich eine KI zu konstruieren, bei der wir jede Bewegung und jeden Gedanken kontrollieren. Die Geschichte ist mir eingefallen, als ich mir vorgestellt habe, wie Paladin darum kämpft, zu verstehen, wer er ist, wie er in dem Sumpf aus Anweisungen und Kommandos nach der eigenen Identität sucht, auf der sich sein Bewusstsein gründet. Schließlich habe ich um ihn herum eine Welt aufgebaut. Jack ist auf jeden Fall genauso wichtig wie Paladin, aber sie ist mir erst später eingefallen.

Am Anfang deines Romans steht der Songtext von „The Last Saskatchewan Pirate von der kanadischen Gruppe The Arrogant Worms. Das ist wie eine Ouvertüre der ganzen Geschichte, und du nennst das Trio sogar als eine deiner musikalischen Inspirationen in den Danksagungen. Was an diesem Song hat deine Fantasie für das Buch angeregt?

Ich liebe den Humor der Prärie, der in diesem Song mitschwingt: Nach dem Zusammenbruch der Wirtschaft klaut der Pirat „Tractor Jack“ Heu und Dünger. Meine Figur Jack macht etwas Ähnliches, sie klaut die molekularen Blaupausen für Medikamente. Unter moderner Piraterie und Raubkopierern stellen wir uns für gewöhnlich etwas anderes vor, aber solches Draufgängertum ist typisch für die Menschen, die in der Prärie aufwachsen.

Der Titel des Romans deutet an, dass es darin um persönliche Freiheit und Sklaverei geht. Was war zuerst da? Die Figuren, die Welt oder das Thema?

Ganz klar die Figuren, allerdings gehört es zum Kern ihres Wesens, dass sie in einer Welt leben, in der Leute unter Kontrakt stehen können und damit in eine Art Sklaverei leben. Das ist entscheidend für die Identität, die Figuren lassen sich also kaum von ihrer Umgebung trennen.

Wieso hast du entschieden, die Geschichte in erster Linie aus der Perspektive von Jack und Paladin zu erzählen?

Ich liebe ambivalente Geschichten, also wollte ich, dass Paladin Jagd auf einen Menschen macht, der im Großen und Ganzen zu den Guten gehört. Ich hoffe, dass die Leser sich am Ende mit allen Figuren des Romans identifizieren können und begreifen, dass sie es alle wert sind, geliebt zu werden, auch wenn sie manchmal ganz schönen Mist bauen.

Es ist gibt keinen eindeutigen Kampf zwischen Gut und Böse. Jack ist für Eliasz zwar eine Anti-Patent-Terroristin, doch im Verlauf des Romans lernen wir sie beide als nuancierte Persönlichkeiten kennen.

Ich wollte, dass sich die Leute in dem Buch so realistisch wie möglich anfühlen, und zu diesem Realismus gehört meiner Meinung nach die Erkenntnis, dass man selten jemanden trifft, der hundert Prozent gut oder böse ist. Eines der großen Themen des Romans ist, wie wir alle, buchstäblich oder im übertragenen Sinne, programmiert werden. Menschen wachsen in Familien und Kulturen auf, wo sie lernen, die Welt und andere Menschen auf eine bestimmte Weise zu sehen. Jacks Erfahrungen haben sie gelehrt, dass die Patentgesetzgebung Menschen schadet, sie sogar tötet, aber sie hat kaum eine Ahnung davon, dass die Kontraktarbeit Menschen und Robotern das Gleiche antut. Genauso hat Eliasz erlebt, dass die Kontraktgesetze Leben zerstören, aber er versteht nicht, dass die Gesetze zum Schutz von geistigem Eigentum das Gleiche anrichten können. Jack und Eliasz haben vieles gemeinsam, auch wenn ihnen das nie klar wird.

Viele Schriftsteller erzählen von Romanen, die sie vor ihrem Debüt geschrieben, für die sie aber nie einen Verlag gefunden haben. Gab es bei dir auch solche Romane, bevor Tor Autonom gekauft hat?

Autonom ist der erste Roman, den ich je beendet habe, aber ich habe noch ein paar halbfertige Monstrositäten auf verstaubten Festplatten. Lange Zeit spielte ich mit dem Gedanken, eine alternative Geschichte der 80er zu schreiben, die an dem elenden Ort spielen sollte, an dem ich aufgewachsen bin. Kleine Teile dieses Konzepts werden es in meinen nächsten Roman schaffen, allerdings in ganz anderer Form.

Du hast zuvor mehrere Sachbücher verfasst, darunter Scatter, Adapt and Remember und Pretend We’re Dead. Wie ist es dir gegangen, als du nun deinen ersten Roman geschrieben und veröffentlicht hast?

Das war wie eine Befreiung. Sachbücher werden immer meine erste Liebe bleiben, es gibt aber Wahrheiten, die man nur literarisch ausdrücken kann. Außerdem muss ich mir keine Sorgen machen, dass diese Geschichte echten Menschen oder Firmen schaden wird. Ich kann so viele böse und provozierende Dinge sagen, wie ich will! Ich muss keinen Pressekodex beachten. Das macht Spaß!

In einem Vortrag zu deinem Buch Scatter, Adapt and Remember hast du das Konzept einer Langsamen Zukunft im Gegensatz zur Schnellen Zukunft entwickelt. Wegen des rasanten technologischen Fortschritts prognostizieren Zukunftsforscher immer schnellere Zyklen der Veränderung. Du dagegen hast über eine Langsame Zukunft als Korrektiv für diese Vorstellung gesprochen, da im echten Leben die Veränderungen doch länger brauchen als in Büchern, Serien oder Filmen. Spielt dein Roman deshalb nicht in der nahen Zukunft, sondern im 22. Jahrhundert?

Ganz genau. Und trotzdem habe ich noch heftig geschummelt, denn ich glaube nicht, dass wir in hundert Jahren eine dem Menschen ebenbürtige KI erschaffen können. Ich schließe es nicht aus, aber ich glaube, es könnte viel länger dauern als gedacht, einfach aus dem Grund, weil wir unsere eigenen Gehirne kaum verstehen.

In der Welt des 22. Jahrhunderts in Autonom leben die Menschen mit ganz unterschiedlichen Robotern zusammen. Kann es für Bots wie Paladin, der speziell für die Kontraktarbeit programmiert wurde, eine echte Autonomie geben? Kann Paladin seine Programmierung durchbrechen und seine eigenen Gedanken entwickeln, oder bleibt nicht für ihn durch seine Programmierung nicht alles gleich, wenn er die Autonomie erlangt?

Wie mehrere Roboter in dem Roman betonen, ist Autonomie kein Programm, sondern eher etwas wie ein Passwort oder Schlüssel. Der verschafft einem Roboter Zugang zum eigenen Bewusstsein, er kann also seine eigenen Programme verändern oder neue herunterladen. Ich würde das damit vergleichen, dass Menschen heranwachsen und irgendwann nicht länger Kinder sind, die ja im Grunde alles glauben, was ihnen ihre Eltern erzählen, sondern junge Erwachsene, die nach neuen Informationsquellen suchen und in Frage stellen, was man ihnen erzählt hat. Sobald ein Roboter autonom ist, kann er sich die eigene Programmierung kritisch ansehen und sein eigenes Denken verändern.

Im Verlauf des Romans lernen wir einen medizinischen Forschungsbot namens Med kennen, die autonom „geboren“ wurde und, anders als andere Bots, Eltern hat. Sie steht nicht wie Paladin unter Kontrakt und hat daher den Eindruck, einen entscheidenden Teil des Bot-Lebensgefühls verpasst zu haben. Zählt ihre Autonomie denn überhaupt, wo sie doch programmiert ist?

Durch Meds Geschichte wollte ich unter anderem darstellen, wie Menschen auf autonome Roboter mit Mikroaggressionen reagieren. Eine typische solche Mikroaggression ist es beispielsweise, wenn ein Mensch einen Roboter fragt, ob ihm eine bestimmte Überzeugung nicht einfach einprogrammiert wurde oder ob er insgeheim von einem Menschen gesteuert wird. Med, deren Kollegen überwiegend Menschen sind, wird im Labor ständig mit so etwas konfrontiert. Ich könnte mir vorstellen, dass sie immer wieder gefragt wird, ob sie „wirklich“ autonom ist oder ob ihre Meinungen überhaupt „zählen“, weil sie doch auf Programmen beruhen. Wahrscheinlich hat sie jede Menge Strategien entwickelt, um mit solchen subtilen Versuchen, ihr Selbstvertrauen zu untergraben, fertigzuwerden und sich durchzusetzen.

Du schilderst, dass auch Menschen sich als Kontraktarbeiter verkaufen können – nicht nur durch entsprechende Gesetze, sondern auch durch verrückte leistungssteigernde Drogen, die süchtig nach Arbeit machen und unter denen die Menschen bis zum Wahnsinn oder Tod monotone Tätigkeiten ausführen. Das ist eine faszinierende Gegenüberstellung zu den Bots, die Autonomie anstreben. Kannst du dazu etwas sagen?

Eines der Themen in dem Buch ist, dass Menschen genauso leicht wie Roboter programmiert werden können, sei es durch kulturelle Prägung, Drogen oder anerzogenes Denken in Stereotypen. Und für Menschen ist es viel, viel schwer als für Bots, aus ihrer Programmierung auszubrechen. Ein autonomer Bot kann die eigenen Programme umschreiben, ein autonomer Mensch kann sich nicht so leicht von den Traumata oder anderen Erfahrungen frei machen, auf denen seine Überzeugungen beruhen.

In seinem Essay „Consciousness in Human-Level AI“ aus dem Buch What to Think About Machines That Think argumentiert Murry Shananhan, Professor für Cognitive Robotics, dass ein dem Menschen ebenbürtiges Bewusstsein zwei Eigenschaften aufweisen müsse: eine bewusste Wahrnehmung der Welt und die Fähigkeit zu leiden. Erst wenn eine KI diese beiden Eigenschaften aufweise, können man sie als empfindungsfähig bezeichnen. Hast du an diese beiden Merkmale gedacht, als du dir deine Bots ausgedacht hast, oder hattest du andere im Sinn?

Ich wurde stark von KI-Forschern wie Joanna Bryson beeinflusst, die sich damit beschäftigt hat, wie selbstlernende Algorithmen die verzerrte Wahrnehmung und die vorgefassten Meinungen der Menschen, die sie verfassen, widerspiegeln. Ein Algorithmus ist nur so gut wie sein Datensatz, und wenn dieser Datensatz von Menschen erstellt wurde, dann steckt er voller Vorurteile. Aus dem Grund sind meine Bots genauso verwirrt und neurotisch wie Menschen. Ich will damit wohl ausdrücken, dass ich einen Roboter als den Menschen ebenbürtig ansehe, wenn er genau wie Menschen in Gefühlsdingen und ethischen Entscheidungen Fehler begehen kann.

Für viele Futuristen und Roboterexperten steht AI für artificial intelligence, für künstliche Intelligenz. Andere meinen, dass wir uns eine AI als eine „augmentierte Intelligenz“, also eine künstlich gesteigerte menschliche Intelligenz vorstellen sollten. Was bedeutet AI für dich?

Auf jeden Fall beides. Rodney Brooks, der frühere Leiter der Abteilung für Künstliche Intelligenz am MIT, hat immer gesagt, dass künstliche Intelligenz durch einer Verschmelzung von Mensch und Maschine entstehen wird. Damit können Menschen gemeint sein, die mit Dinge wie Exoskeletten ausgestattet wurden, oder mit Hirnimplantaten, um die Wahrnehmung zu optimieren. Oder es könnte sich um Maschinen handeln, die basierend auf riesigen menschlichen Datensätzen einen menschenähnlichen Geist besitzen. Ich könnte mir vorstellen, dass die Zukunft eine gewaltige Vielfalt an Lebensformen und Intelligenzen für uns bereithält, die Mischformen aus biologischem Leben und Maschinen sein werden.

Du hast dir für deine Bots ganz unterschiedliche Designs ausgedacht. Paladin zum Beispiel ist extrem gut mit Schilden und Waffensystemen ausgestattet. Ein Bot namens Fang sieht aus wie eine Gottesanbeterin. Ein anderer ist einem Moskito nachempfunden, wieder andere sind humanoid. Welches davon ist dein Lieblingsmodell?

Ich liebe sie alle, aber natürlich ist keiner so sexy wie Paladin!

Du hast den Blog io9 gegründet und warst dort von 2008 bis 2015 Chefredakteurin. Du warst außerdem Chefredakteurin von Gizmodo, und derzeit schreibst du als Redakteurin bei Ars Technica über Technik und Kultur. Hat dir deine Erfahrung als Journalistin und Redakteurin dabei geholfen, das Buch zu entwickeln? Ist etwas davon in die Recherche zu dem Buch eingeflossen?

Oh ja, ich habe für den Roman wahnsinnig viel recherchiert und versucht, die Wissenschaft und Gesellschaft darin so plausibel wie möglich zu gestalten. Manchmal habe ich das Schreiben unterbrochen und wissenschaftliche Fachmagazine und Artikel gelesen, um sicherzugehen, dass ich auf der richtigen Spur bin, besonders auf dem Gebiet der Neurowissenschaften. Es gibt auch viele Anspielungen auf Computer-Sicherheitstechnologien, die manche Leser sehr amüsieren dürften. Wenn Paladin sich mit anderen Robotern unterhält, dann benutzt er eine zukünftige Version von SSL. Und die Botadmins haben einen fürchterlichen Sinn für Humor, wenn sie den Programmen, die im Verstand der Roboter laufen, Namen geben.

Der Zeitpunkt, zu dem Autonomous in den USA erschienen ist, hätte nicht passender sein können. Die Art, wie du das Problem patentierter Medikamente darstellst, die sich ein großer Teil der Bevölkerung nicht mehr leisten kann, erinnert daran, wie die derzeitige Regierung Obamacare außer Kraft setzen will. Im Buch rekonstruiert Jack Pillen für Menschen, die sonst keinen Zugang dazu hätten. Wann genau hast du angefangen, an dem Manuskript zu arbeiten? Was hat dich auf das Thema der Patentgesetzgebung gebracht?

Mit der Arbeit an dem Roman habe ich 2010 begonnen, eine Menge dieser Gesundheitsthemen sind also aufgekommen, während ich geschrieben habe. Doch mein Zorn wegen des Patentsystems entstand schon 2004, als ich für die Electronic Frontier Foundation gearbeitet habe. Ich habe bei einem Projekt ausgeholfen, das gegen übertrieben breit gefasste Patente vorging, und bei der Recherche erfahren, mit welchen Tricksereien Patente dazu benutzt werden können, um kleinere Unternehmer und Garagen-Tüftler einzuschüchtern. Das Patentwesen in seiner jetzigen Form gefährdet tatsächlich Menschenleben. Finanziell gut aufgestellte Unternehmen können Sekundärpatente anmelden und sich damit die Rechte auf Medikamente sichern, die längst öffentlich zugänglich sein und zu Generika werden sollten. Es ist ein hässliches, kaputtes System.

Wird es noch mehr Abenteuer über Jack und ihren Kreuzzug gegen Pharmakonzerne und Patente geben?

Ich habe ein paar Kurzgeschichten geschrieben, die in dieser Welt spielen – „Drones Don’t Kill People“ handelt zum Beispiel von der Entstehung der Bewegung für Roboterrechte. Eine Story ist kürzlich in der Anthologie Robots vs. Fairies von Saga Press erschienen, darin geht es um einen Roboterrevolutionär, der andere Roboter für seine Sache gewinnen will. In beiden Geschichten geht es darum, wie Roboter autonom werden und auf sehr unterschiedliche Weise ein politisches Bewusstsein entwickeln. Nachdem Autonom erschienen ist, werde ich wahrscheinlich noch eine Geschichte schreiben, die in diesem Universum spielt, möglicherweise wird sie davon handeln, wie es einigen Figuren des Romans nach dessen Ereignissen ergeht.

An welchen Buchprojekten arbeitest du zurzeit?

Ich schreibe einen weiteren Roman für Tor Books, in dem es um Zeitreisen geht. Ich bin mächtig aufgeregt deswegen, denn er wird von einem seltsamen Aspekt des Zeitreisens handeln, der allgegenwärtig ist, über den aber so gut wie niemand schreibt. Du wirst noch etwa zwei Jahre warten müssten, um zu erfahren, was das ist! Mein anderes Buchprojekt ist ein Sachbuch über Archäologie, das von den untergegangenen Städten früherer Epoche handelt. Ich beschreibe darin, warum sich Menschen entschieden haben, ihre Städte aufzugeben, und was wir von früheren Generationen über den urbanen Kollaps lernen können. Mit beiden Büchern reise ich also durch die Zeit – was ich für mein Leben gern tue.

 

Deutsch von Birgit Herden

Dieses Interview erschien zuerst im © Lightspeed Magazine (August 2017).

Alle Rechte vorbehalten.

Share:   Facebook