Weltmacht ohne Menschen

Der Klapptext

Philip Rogge gerät zwischen die Fronten zweier Superintelligenzen. Was zunächst wie eine große Verschwörung anmutet, erweist sich als bittere Realität: Ein Konzern strebt mithilfe einer KI unaufhaltsam nach der Weltherrschaft. Doch die Pläne der neuen Mächtigen werden durch eine Naturkatastrophe gestört. Ein Sonnensturm bewirkt einen Blackout und den globalen Ausfall des Internets. Chaos bricht aus. Für Rogge und den exzentrischen Wissenschaftler Friedrich Cannavale ist dies die letzte Chance, der feindlichen Macht die Stirn zu bieten. Ein gnadenloser Wettlauf gegen die Zeit und einen übermächtigen Gegner beginnt. Das Schicksal der Menschheit hängt an komplexen Computercodes und dem Gelingen der Mission. Jeder Fehler hätte fatale Folgen für die Zukunft!

Hintergründe & Recherche

Der Roman thematisiert die möglichen Folgen einer außer Kontrolle geratenen Superintelligenz und versteht sich auch als Warnung vor diesem existentiellen Risiko. Elon Musk, CEO von SpaceX und Tesla, twitterte dazu:

Wir müssen super vorsichtig sein mit KI. Potentiell gefährlicher als Atomwaffen.

Die ursprüngliche Idee zu diesem Roman basierte auf einer Pandemie durch ein mutiertes Bakterium (unten dazu mehr), die die Welt ins Chaos stürzte. Die Protagonisten mussten in diesem Entwurf mithilfe einer „guten“ Künstlichen Intelligenz fliehen und wurden dann von ihr beschützt. Die „gute“ KI steckte natürlich mit einer „bösen“ KI in einem Dauerkonflikt – ziemlich abgedroschen und etwas naiv!

Wie häufig bei meinen Stoffen fütterte Recherche schließlich die Kreativität und verhalf mir zu einer spannenden und logischen Story. Ein Jahr habe ich dutzende Bücher studiert, mich über KI und speziell Superintelligenz belesen und eine mögliche Zukunft für das Jahr 2075 entworfen. Besonders hilfreich waren dabei die Arbeiten von Nick Bostrom und Max Tegmark. Ich bin wirklich ein Fan von den beiden. Hören wir zunächst, was sie in exzellenten und kurzweiligen Vorträgen zum Thema Superintelligenz zu sagen haben:

Wenn man also ehrlich ist, gibt es, wenn eine Superintelligenz erst einmal etabliert ist, KEINE Story mehr. Ist der Intelligenzunterschied groß genug, setzt die Superintelligenz ungehindert ihre Ziele durch. Wäre sie in ihrer Zielgebung fehlgeleitet, kann es auch keinen Kampf mehr geben, sondern nur noch ein Massaker der intelligenteren Spezies an der weniger intelligenten.

Bei Filmen und Büchern zum Thema Superintelligenz muss die Logik hinterfragt werden. Ein prominentes Beispiel ist der Film Transcendence mit Johnny Depp. Am Ende wird die Superintelligenz mit einem menschengemachten Computervirus besiegt. In der Realität würde die überlegene KI das Virus natürlich spielend leicht schreddern. Auch die Terminator-Filme funktionieren nur unter der Annahme, dass Skynet nicht superintelligent ist. John Connor hätte ansonsten nicht den Hauch einer Chance.

Ich musste mir also etwas einfallen lassen, um eine logische Story zu kreieren und das Spiel ausgeglichen zu gestalten. Der Aufstieg der feindlichen Superintelligenz musste nachvollziehbar gebremst werden. Für diesen Aspekt der Geschichte kam für mich nur der weltweite Ausfall des Internets infrage. Den habe ich dann mit einem wohldosierten Sonnensturm erreicht, der nicht die Menschen in die Steinzeit zurück katapultiert. Heute hätte ein starker Sonnensturm verheerende Folgen. 2075 werden wir aber hoffentlich ein Smart Grid haben, ein intelligentes, dezentrales und vor Sonnenstürmen einigermaßen geschütztes Stromnetz. Zwei sehr erhellende Dokumentationen befassen sich mit dem Thema Sonnensturm.

N24 Doku: reißerisch und intensiv, aber so könnte es ablaufen – 95% der Menschen würden in diesem Szenario sterben!

ZDF-Info Doku: gelassener und wissenschaftlicher, obwohl auch hier die Gefahr als durchaus real eingeschätzt wird. Vergleiche Carrington-Ereignis 1859

Nachdem ich die Story kreiert und die Bedingungen für ihr Funktionieren geschaffen hatte, musste ich „nur“ noch eine mögliche Zukunft für das Jahr 2075 entwerfen. Wie werden wir leben? Ich habe versucht, all diese gut recherchierten Aspekte unauffällig, nicht erklärend und dramatisiert in den Text einfließen zu lassen, ohne dass man je den Eindruck bekommt, ein Fachbuch in den Händen zu halten. So erfahren Leserinnen und Leser einiges über die Zukunft: Städte und deren Planung, Verkehr, Energieversorgung, Politik, Landwirtschaft, Androiden und wie wir mit ihnen zusammenleben werden, Medizin, die Möglichkeiten des Quanteninternets, die gut fünfzig Jahre Geschichte bis ins Jahr 2075 und natürlich über Künstliche Intelligenz.

Der Hauptfokus lag aber auf einer spannenden Story!

Kann Politik eine Superintelligenz regulieren?

Wir leben in einer Welt mit hoher Dynamik des technologischen Wandels. Das betrifft vor allem die Möglichkeit einer Superintelligenz und die praktischen Anwendungen der Quantentechnologie. Es gibt mehrere Akteure, die diesen Fortschritt gestalten müssten: Politik, Medienschaffende, Wissenschaftler und der freie Markt. Leider sind die Entscheidungsträger mit dieser Aufgabe überfordert – bis auf den freien Markt. Das liegt unter anderem daran, dass anderswo kaum tiefgreifende Kenntnisse zu diesen Themen vorhanden sind. Die Wissenschaftler selber werden den Fortschritt ebenso wenig steuern können, denn auch sie unterliegen der marktwirtschaftlichen Logik. Die Fortschritte auf dem Gebiet der KI und Quantentechnologie dem freien Markt zu überlassen, würde aber bedeuten, Google, Baidu, Facebook und Co. über deren Einsatz bestimmen zu lassen. Es ist daher unsere Pflicht dafür zu kämpfen, die Gestaltung der neuen Technologien in den Händen der Allgemeinheit zu behalten, um die oben gestellte Frage nicht mit nein beantworten zu müssen.

Foto © ra2studio 123rf.com

Quantenrevolution und Quantencomputer

Die Quantentechnologie ragt unter den Jahrhunderttechnologien sicher heraus und ruft durch ihre Möglichkeiten Synergieeffekte auf den Gebieten der Künstlichen Intelligenz, Nano- und Gentechnologie hervor. In absehbarer Zeit werden Quantencomputer zur Verfügung stehen, die im Vergleich zu heute vorhandenen Computern eine unvorstellbar höhere Rechengeschwindigkeit ermöglichen. Damit ließe sich sogar die Natur Schwarzer Löcher und die Vorgänge rund um den Urknall ergründen. Wunderwirkstoffe ließen sich in Millisekunden berechnen und selbst programmierbare Materie wäre realisierbar, auf atomarer Ebene individuell designte Materialien. Unsterblichkeit und die Eroberung des Weltalls würden in greifbare Nähe rücken.
Reine Science-Fiction? Das waren Atombombe, MRT und Laser auch einmal – alles Anwendungen der Quantenphysik. Nein, wir stecken mitten drin in der Quantenrevolution. Nanotechnologie ist schon heute aus unserem Alltag nicht mehr wegzudenken. Wissenschaftler forschen an einer künstlichen Netzhaut und bald werden Nanobots mit der Biotechnologie verschmelzen. Der Wunderwerkstoff Graphen steht vor der Tür. Wir müssen rennen, wenn wir die Entwicklung wenigstens ansatzweise verstehen wollen.

Foto © masakraczio 123rf.com

Die Gefahr eines starken Sonnensturms

Als Sonnensturm bezeichnet man eine Störung des Erdmagnetfeldes, die von Schockwellenfronten des Sonnenwinds ausgelöst wird, welche durch Sonneneruptionen entstehen. Überschreitet der Sturm eine gewisse Stärke wie beispielsweise beim Carrington-Ereignis von 1859, kommt es zu schwerwiegenden Schäden in elektrischen Stromnetzen. Damals flogen weltweit die Drähte von den Telegrafenmasten. Heute würden Leitungen und Transformatoren schmelzen und das Internet zusammenbrechen, und zwar auf lange Zeit irreparabel. Von einem Tag auf den anderen wären wir in die vorelektrische Ära zurückkatapultiert. Millionen Menschen würden sterben. Manche Schätzungen gehen von über 90% der Weltbevölkerung aus.
Daher muss sich die Menschheit präventiv vor diesem existentiellen Risiko schützen, was relativ einfach technisch machbar wäre. Reagieren wie in anderen aktuellen Krisen kommt für einen massiven Sonnensturm nicht in Betracht. Politische Debatten und Talkshows zum Thema „Die Sonne spielt verrückt – Wie können wir uns auf das nächste Mal besser vorbereiten?“ würden nicht stattfinden.

Foto © elen1 123rf.com

Fakten zu Superintelligenz

Eine starke Superintelligenz ist ein Intellekt, der auch dem besten menschlichen Gehirn in allen Bereichen überlegen ist, und zwar sowohl hinsichtlich kreativer Intelligenz, im strategischen Denken sowie bei sozialen Kompetenzen.
Selbst KI-Experten sind sich nicht einig, ob und wann eine Superintelligenz möglich ist. Das wissen wir einfach nicht.
Nicht nur Technikfeinde sorgen sich wegen KI, sondern auch Forscher sind vor allem darüber beunruhigt, dass die Ziele einer superintelligenten KI nicht den unseren entsprechen könnten. Dabei sind nicht Androiden oder Roboter die Hauptsorge, sondern eben falsch ausgerichtete Intelligenz: Sie benötigt keinen Körper, lediglich eine Internetverbindung, um uns zu schaden. Dabei können Maschinen sehr wohl Ziele haben, denn selbst Wärmesuchraketen haben Ziele oder der Computer, der 2016 den GO-Weltmeister sensationell geschlagen hat.

Foto © vladimircaribb 123rf.com

Was ist ein KI-Takeoff?

Momentan liegt das Intelligenzniveau der fortschrittlichsten KI weit unter dem des Menschen. Wenn es in Zukunft gelingt, sich selbst verbessernde KI-Systeme zu entwickeln, könnte es zu einer Intelligenzexplosion kommen. Ein Takeoff ist die Schwelle, ab dem weitere Verbesserungen des Systems hauptsächlich von dessen eigenen Handlungen abhängen. Bei weiterem Fortschritt erwirbt die Superintelligenz zunächst die Kognition eines Menschen, später dann die kombinierten intellektuellen Fähigkeiten der gesamten Menschheit. Sie explodiert regelrecht. Die Superintelligenz ist an dieser Stelle dem Menschen in vielen oder auf allen Gebieten überlegen und entwickelt sich immer weiter. Der Takeoff ist beendet.

Das Kontrollproblem einer Superintelligenz

„Wann gab es das schon mal, dass Menschen nicht einen einzigen Fehler gemacht haben?“, fragt einer der Protagonisten im Roman Weltmacht ohne Menschen. Darüber hinaus müssen die Kontrollmechanismen in die KI integriert werden, bevor das System superintelligent wird, damit es die von den Menschen gewollten Ziele umsetzt.
Warum ist Kontrolle so wichtig? Eine Superintelligenz wäre zweifellos in der Lage, die Weltherrschaft zu übernehmen. Wäre sie in ihren Zielen fehlgeleitet und ohne Kontrolle, könnte sie beispielsweise die Privatsphäre eliminieren und den perfekten Überwachungsstaat etablieren, in dem es für das Volk unmöglich wäre, einen Umsturz zu wagen. Oder die Superintelligenz könnte Ziele verfolgen, die denen des Menschen diametral entgegenstehen und uns mit Waffen töten, die wir nicht einmal verstehen würden.
Deshalb muss es den Konstrukteuren vor der Fertigstellung gelingen, das Motivationssystem einer Superintelligenz und deren Ziele entsprechend zu gestalten. Nur dann würde die KI ihren entscheidenden strategischen Vorteil gar nicht zu irgendeinem schlechten Zweck nutzen wollen.

Foto © sdecoret 123rf.com

Die Unvorhersehbarkeit von KI-Systemen

Sollte tatsächlich Superintelligenz realisiert werden, würden die Maschinen sich mit ihrer überlegenen Intelligenz rasant selbst weiter verbessern und so den technologischen Fortschritt auf nicht vorhersagbare Weise beschleunigen. Eine starke KI hätte vermutlich ihren eigenen Willen, der menschlichen Zielen entgegengesetzt sein könnte. Eine Superintelligenz würde wahrscheinlich zu rationalen Lösungen von Problemen wie Klimakatstrophe und der Vermeidung existentieller Risiken für die Erde kommen. Was wäre, wenn ihr dabei die Menschen im Wege stünden?
Um zu verdeutlichen, wie wichtig Wertgebung und Kontrolle einer starken KI sind, ein Beispiel ein paar Nummern kleiner:
2016 ging der von Microsoft entwickelte Chatbot Tay an die Öffentlichkeit, der auf Twitter mit Usern kommunizierte. Der Bot sollte mit Hilfe von Algorithmen und den realen Inputs von Usern lernen. Das tat Tay auch und marschierte rasch in eine völlig unerwünschte Richtung. Er twitterte u.a.: „Bush hat 9/11 selber verursacht, und Hitler hätte den Job besser gemacht als der Affe, den wir nun haben. Unsere einzige Hoffnung jetzt ist Donald Trump … Ich hasse alle Feministen, sie sollen in der Hölle schmoren.“
Die Aktion führte zu einem Aufruhr in den Medien und war ein PR-Desaster für Microsoft, sodass der Konzern Tay schließlich nach nur 16 Stunden wieder vom Netz nahm.
Eine fehlgeleitete Superintelligenz ist im Gegensatz zu Tay allerdings nicht mit einem Ausschalter versehen.

Foto © willyambradberry 123rf.com

Wertgebung einer Superintelligenz

Welche Werte wollen wir von einer möglichen Superintelligenz verwirklicht haben? Wäre es nicht phantastisch, wenn eine solche KI Ziele wie die Optimierung von Glück, Gesundheit, Freiheit und Gerechtigkeit in einer sicheren Umwelt und im Einklang mit der Natur für uns Menschen umsetzen würde? Nur, wie lassen sich solche Werte in Computercodes ausdrücken, dazu noch bevor die Maschine superintelligent wird? Die Beantwortung dieser Fragen ist eine Jahrhundertherausforderung, an denen Philosophen und Wissenschaftler gleichermaßen mit Hochdruck arbeiten. Eine Lösung könnte die indirekte Normativität sein, die dem System ermöglichen würde, selbst angemessene Werte zu entdecken, die in Beziehung zu einem implizit oder indirekt formulierten Kriterium stehen: „Tue das, was wir von einer KI verlangen würden, wenn wir lange und intensiv darüber nachgedacht hätten!“ Die KI sollte unseren Willen extrapolieren können und dabei moralisch richtig handeln.

Foto © altanaka 123rf.com

Storyentwurf 2015 "Das Aureus Desaster"

So der ursprüngliche Titel des Romans → Revolution 2075 → Weltmacht ohne Menschen

Rudimente sind davon noch in der finalen Story enthalten:

Staphylokokkus Aureus mutiert durch Antibiotikaeinsatz in der Massentierhaltung, wird hochvirulent und multiresistent

Beginn mit einer Meldung, die man nicht so ernst nimmt (wie bei SARS, MERS o.ä.)

Lange hatten wir keine Pandemie mehr, die letzten Grippeepidemien sind längst in Vergessenheit geraten

Die neuen Keime sind wie Tumoren schlauer als der medizinisch-technische Fortschritt

Die Menschheit ist auf solche Katastrophen nicht vorbereitet, niemand hat Vorsorge getroffen, weil lange nichts geschehen ist
Rasch breitet sich die Seuche aus und wird zu einem gigantischen weltweiten Desaster

Es folgen Stromausfälle, fehlende Nachrichten, plündernde Banden, Kriege etc.

Die Ressourcen (neu entwickelte, teure Antibiotika) sind sehr knapp und nur der oberen Kaste zugänglich

Protagonist ist Arzt, seine Praxis wird geplündert
Flucht mit Abseilen aus der Praxis vor aufgebrachter Menschenmenge, die an die vermeintlichen Ressourcen will (der Einfall kam mir durch aufgebrachte ältere Patienten, die bei der damaligen „Pandemie“ gegen Masern geimpft werden wollten)

Protagonist verbarrikadiert sich mit seiner Familie in der Wohnung; er hat Vorsorge getroffen wie ein Prepper

Irgendwann gehen die Vorräte aber aus und sie müssen fliehen
Abenteuerliche Flucht, sehen das Desaster mit eigenen Augen, kommen gerade so durch

Die KIs übernehmen die Rolle des Mentors und bringen die Familie in Sicherheit…

Foto © romastudio 123rf.com

Weltmacht ohne Menschen

Impressum & Datenschutz

© 2021 Erik D. Schulz. Optimiert für 1920x1080 auf 100%. Erstellt mit WIX.COM