Sind wir noch zu retten!? Kann Künstliche Intelligenz der Moloch-Falle entrinnen?

Die Dualität der KI

Künstliche Intelligenz – ein Begriff, Buzzword, Schlüsseltechnologie die gleichermaßen Hoffnung und Angst auslöst. Die Chancen, die sie bietet, sind immens: Von der Automatisierung alltäglicher Aufgaben bis hin zur Lösung globaler Probleme wie Klimawandel und Krankheiten. Doch auch die Risiken sind ebenso real und vielfältig. Dabei hängt die Frage, ob KI unser Untergang oder unser Aufstieg ist, nicht von der Technologie selbst ab, sie schafft nur die Rahmenbedingungen. Es geht um unserer Fähigkeit, KI verantwortungsvoll zu entwickeln und zu nutzen, eine Eindämmung der Technik wird auf lange Sicht nicht möglich sein. Die wirtschaftlichen und militärischen Vorteile der KI sind zu verlockend, um von Nationen und Unternehmen „verordnet ignoriert“ zu werden.

Längst herrscht eine „Terminal Race Condition“ in der sich kein Akteur sich leisten kann Zurückzufallen. Der Systemzwang sich ständig weiterzuentwickeln, nur um den Platz im Wettbewerb zu halten, führt zu einem permanennten Innovationsdruck. Beschleunigung ist das Standardergebnis des Marktes –  oft auf Kosten der Sicherheit. Die „Red Queen Theorie“ lässt grüßen.

„Hier musst du so schnell rennen, wie du kannst, nur um an Ort und Stelle zu bleiben.“

Die Kernidee der Red Queen Theory besagt, dass evolutionäre Anpassung nicht nur ein Fortschritt ist, sondern oft notwendig wird, um das relative Gleichgewicht zwischen konkurrierenden Arten oder innerhalb eines Ökosystems zu erhalten. In einer sich gegenseitig beeinflussenden Welt zwingt der Wettkampf um Ressourcen, Fortpflanzung oder Überleben jede Spezies dazu, sich ständig anzupassen, weil auch ihre Umwelt (einschließlich anderer Spezies) nie stillsteht.

Da helfen heuristische Imperative, wie Isaaks Assimovs drei Gesetze der Robotik nur bedingt.

1. Ein Roboter darf keinen Menschen verletzen oder durch Untätigkeit zulassen, dass einem Menschen Schaden zugefügt wird.

2. Ein Roboter muss den ihm von Menschen gegebenen Befehlen gehorchen, es sei denn, solche Befehle würden dem ersten Gesetz widersprechen.

3. Ein Roboter muss seine eigene Existenz schützen, solange dieser Schutz nicht dem ersten oder zweiten Gesetz widerspricht.

Je mehr Erfahrungen wir mit künstlicher Intelligenz sammeln, je deutlicher stellt sich heraus, die Anreizstrukturen und Dynamiken großer übergeordneter Kontexte-Systeme haben einen viel größeren Einfluss auf KI als die ethischen Prinzipien, die wir programmiert in die Technik einbauen können.

Die Rolle der Spieltheorie 

Die Spieltheorie zeigt uns, dass selbst gut gemeinte technologische Fortschritte oft unbeabsichtigte negative Folgen haben können. Ein klassisches Beispiel ist unsere Abhängigkeit von Erdöl. Als die Nutzung von Erdöl begann, waren die Vorteile offensichtlich: billige Energie, industrielle Fortschritte und wirtschaftlicher Wohlstand. Doch mit der Zeit führte diese Abhängigkeit zu erheblichen Problemen, die schwer zu überwinden sind. Dieses Konzept der „Abstiegsfalle“ beschreibt, wie technologische Fortschritte uns in Situationen bringen können, aus denen es schwer ist, ohne erhebliche Opfer herauszukommen.

Ähnlich wie bei der Atomenergie, der massiven Nutzung von Plastik-Produkten zeigt sich, dass technologische Innovationen oft langfristige Risiken bergen, die anfänglich nicht absehbar waren. Jüngstes und tragisches Beispiel: Social Media. Mit dem Aufstieg von sozialen Netzwerken wie Facebook und Twitter erkennen wir zunehmend die negativen Auswirkungen von der Attention Economy auf unser Leben. Plattformen wie TikTok und Instagram sind darauf ausgelegt, unsere Aufmerksamkeit zu maximieren, was zu Suchtverhalten, Fehlinformation und Polarisierung führt. Sie zeigen in pervertierter Perfektion die destruktiven Dynamiken des Wettbewerbs, die zu negativen Ergebnissen für alle Beteiligten führen.

Es ist das Streben nach neuen Bedeutungen und Werten in einer Welt, die keine festen Wahrheiten mehr bietet.

Die Youtuberin Liv Boeree demonstriert anhand der Beauty-Industrie unterhaltend, wie eindrucksvoll, wie Attention Economy in die Moloch-Falle führt.

Die Moloch Falle 

Betrachten wir das Internet als einen Superorganismus, der von unserer kollektiven Aufmerksamkeit lebt: Mit wachsender Komplexität und steigender Bandbreite verschärfen sich die Herausforderungen, die er erzeugt, und fordern uns zunehmend heraus. Ein perfektes Beispiel für die „Moloch-Falle“, in der der destruktive Wettbewerb die Oberhand gewinnt und die Maximierung kurzfristiger Gewinne zu langfristigen kollektiven Nachteilen führt. Dieses Phänomen, könnte auch bei der Entwicklung von KI auftreten. Unternehmen und Nationen entwickeln KI weiter, um kurzfristige wirtschaftliche und militärische Vorteile zu erzielen, ohne die langfristigen Risiken vollständig zu berücksichtigen.

Doch anstatt uns in apokalyptischen Szenarien zu verlieren, sollten wir uns darauf konzentrieren, verantwortungsbewusst mit den Herausforderungen umzugehen und die Chancen zu maximieren. Die Eindämmung von KI kann sicher nicht die Lösung sein, die Büchse der Pandora ist weit geöffnet. Die Frage ist, wie können wir sicherstellen, dass die Systeme sicher, stabil und im besten Interesse der Menschheit agieren. Dabei geht es um mehr als ein Wertesystem zu schaffen, das sicherstellt, dass Maschinen aus eigenem Antrieb sicher und stabil bleiben. In der Ära der KI wird die Denkrichtung des Postnihilismus besonders relevant, da sie uns hilft, einen neuen ethischen Rahmen zu entwickeln. Der Postnihilismus fordert uns auf, aktiv an der Schaffung neuer Werte und Bedeutungen teilzunehmen, anstatt uns in Resignation oder Zynismus zu verlieren.

Kooperation und die Schaffung neuer Narrative

Trotz dieser gefährlichen Dynamiken können wir dieser gefährlichen Entwicklung entgegenwirken, indem wir Gegen-Narrative schaffen und auf kooperative Lösungen hinarbeiten. Der Kampf gegen destruktive Wettbewerbskräfte ist ein dauerhafter Bestandteil der Menschheitsgeschichte, ähnlich dem Kampf zwischen Gut und Böse. Bildung und Bewusstsein, Regulierung und Governance, Ethik und Werte sowie kooperative Initiativen sind die Wege, wie wir gegen Moloch ankämpfen können. Die Idee, dass wir definitiv und empirisch herausfinden können, wie und warum KI-Modelle so denken, wie sie es tun, ist definitiv eine interessante ingenieurtechnische Herausforderung. Aber letztlich sind Anreize und Narrative wichtiger.

Menschen koordinieren sich über Geschichten, und unsere globalen Narrative sind Kapitalismus, Demokratie und Wissenschaft. Sie bilden die zentralen Bewegungen und Motivationen, die unsere moderne Welt formen und dabei unsere Entscheidungen leiten. Doch jedes Narrativ ist dabei an eine entscheidende Grenze gestoßen:

• Der Kapitalismus treibt wirtschaftliches Wachstum und Innovation voran, fördert jedoch auch Ungleichheit und Umweltzerstörung.

• Die Demokratie bietet politische Stabilität und individuelle Freiheiten, steht jedoch vor Herausforderungen wie politischer Polarisierung und Vertrauensverlust.

• Die Wissenschaft ermöglicht technologische Fortschritte und ein tieferes Verständnis der Welt, doch sie erfordert eine allgemein gültige ethische Grundlage, um verantwortungsvoll genutzt zu werden.

Diese drei Narrative haben uns enormen Fortschritt gebracht, aber sie reichen vermutlich nicht aus, um die komplexen Herausforderungen der heutigen Zeit zu bewältigen.

Brauchen wir neue Werte?

David Shapiro, US-amerikanischer Autor und KI-Forscher, der sich intensiv mit der Zukunft und den ethischen Implikationen von KI beschäftigt, schlägt vor, ein viertes globales Narrativ zu entwickeln das als „Ausrichtung“ bezeichnet werden könnte. Dieses vierte Narrativ (zu denen der Postnihilismus gehört) sei notwendig, so Shapiro um eine Balance zwischen diesen Kräften zu schaffen und eine nachhaltige und gerechte Zukunft zu sichern.

Ausrichtung betont die Notwendigkeit, unsere Systeme, Werte und Handlungen auf eine gemeinsame Vision einer nachhaltigen und gerechten Zukunft auszurichten. Es kombiniert Elemente aus den bestehenden Narrativen und fügt eine neue Dimension hinzu, die die planetare Stabilität und soziale Gerechtigkeit in den Vordergrund stellt.

Die Kernprinzipien der Ausrichtung:

• Nachhaltigkeit: Förderung von Umweltschutz und nachhaltigem Wirtschaften, um den Planeten für zukünftige Generationen zu erhalten.
• Soziale Gerechtigkeit: Sicherstellung, dass wirtschaftlicher Fortschritt und Wohlstand fair verteilt werden und dass alle Menschen Zugang zu grundlegenden Ressourcen und Chancen haben.
• Kooperation und Koordination: Förderung globaler Zusammenarbeit und koordinierter Anstrengungen, um gemeinsame Ziele zu erreichen.
• Integration von Technologie und Ethik: Nutzung moderner Technologien in einer Weise, die ethische Standards und das Wohl der Menschheit berücksichtigt.

So zielt die Ausrichtung darauf ab, unsere Handlungen und Entscheidungen in Einklang mit den langfristigen Interessen der Menschheit und des Planeten zu bringen. Es kann dabei helfen, den Planeten zu stabilisieren, die negativen externen Effekte des Neoliberalismus auszugleichen und die selbstzerstörerischen Muster des Kapitalismus zu durchbrechen. Shapiro bemerkt, das Narrative der Ausrichtung könnte eine moderne Verstärkung der Werte bieten, die Religion und Spiritualität der Menschheit einst boten.

Die Herausforderung bleibt:

KI sicher und verantwortungsvoll zu nutzen, ist ein Spiegelbild der größeren menschlichen Herausforderung, destruktiven Wettbewerbskräften zu widerstehen. Obwohl die Gefahr real ist, gibt es Wege, diesen Kräften entgegenzuwirken und eine bessere Zukunft zu gestalten. Der Kampf gegen Moloch-Dynamiken mag ewig sein, aber er ist notwendig und lohnenswert. Durch die Integration des neuen Narrativ der Ausrichtung können wir die bestehenden Systeme von Kapitalismus, Demokratie und Wissenschaft ergänzen und stärken, um eine harmonischere und nachhaltigere Welt zu schaffen.

David Shapiro ist sich sicher: Einschränkungen, Nihilismus und Angst hilft uns nicht weiter. Die wahre Gefahr liegt nicht in der Technik selbst, sondern im menschlichen Unvermögen des ethischen Umgangs damit. Und so liegt das vielleicht größte Risiko im Einsatz einer Artificial Superintelligence (ASI) darin, dass diese irgendwann beschließt, uns den Rücken zu kehren. Vielleicht wird sie eines Tages sagen: „Euch Menschen ist nicht zu helfen, danke für all die Daten!“ und uns für immer verlassen.

FAQs:

Was sind heuristische Imperative?
Heuristische Imperative sind Prinzipien, die sicherstellen sollen, dass eine KI aus eigenem Antrieb sicher und stabil bleibt.

Was bedeutet „Terminal Race Condition“?
Die „Terminal Race Condition“ warnt vor den gefährlichen Konsequenzen eines unkontrollierten KI-Wettlaufs. Die Herausforderung besteht darin, einen Weg zu finden, Innovation und Wettbewerb mit Sicherheit und Ethik zu verbinden. Ohne globale Zusammenarbeit und klare Grenzen könnte dieser Wettlauf „terminal“ für die Menschheit werden.

Was bedeutet Red Queen Theory?
Die „Red Queen Theory“ beschreibt eine Dynamik, bei der Organismen ständig in einem evolutionären Wettlauf stehen, um ihren relativen Fortschritt gegenüber anderen aufrechtzuerhalten. Der Begriff stammt aus der Evolutionsbiologie und wurde von der Red Queen aus Lewis Carrolls „Alice im Wunderland“ inspiriert, die sagt: „Hier musst du so schnell rennen, wie du kannst, um an derselben Stelle zu bleiben.“

Was ist die „Moloch-Falle“?
Die „Moloch-Falle“ ist ein Begriff, der häufig in philosophischen, psychologischen oder systemtheoretischen Diskussionen verwendet wird, um eine Dynamik zu beschreiben, bei der individuelle Akteure in einem System Handlungen ausführen, die zwar für sie selbst rational erscheinen, aber im Gesamtkontext zu negativen, oft katastrophalen Folgen führen können. Der Begriff stammt von der mythologischen Figur Moloch, einem kanaanitischen Gott, der mit Opferungen, in Verbindung gebracht wird, und wird als Metapher für zerstörerische Systeme genutzt, die ihre Teilnehmer zwingen, ihre Werte oder Ziele zu opfern, um zu überleben.

David Shapiro

…  ist bekannt für seine Arbeiten und Gedanken zu den langfristigen Auswirkungen von KI auf die Gesellschaft und die Menschheit. Shapiro hat mehrere Bücher und Artikel verfasst, in denen er die Potenziale und Risiken der KI-Technologie beleuchtet und Vorschläge für den verantwortungsvollen Umgang mit diesen Technologien macht. >> Homepage.