• Über uns
  • Freund*innenkreis
  • Verein
  • Autor*innen
  • Impressum
  • Datenschutz
  • Archiviert
  • Contra AfD
Samstag, Juni 21, 2025
Blog der Republik
Advertising
  • Alle Beiträge
  • Politik
  • Wirtschaft
  • Gesellschaft & Medien
  • Kultur
  • Contra AfD – Für Demokratie. Jetzt!
Kein Ergebnis
Alle Ergebnisse anzeigen
  • Alle Beiträge
  • Politik
  • Wirtschaft
  • Gesellschaft & Medien
  • Kultur
  • Contra AfD – Für Demokratie. Jetzt!
Kein Ergebnis
Alle Ergebnisse anzeigen
Blog der Republik
Kein Ergebnis
Alle Ergebnisse anzeigen
Home Politik

Die KI und der Oppenheimer-Moment

Gunther Hartwig Von Gunther Hartwig
21. Oktober 2023
Supercomputer MareNostrum 4

Einer der leistungsfähigsten Rechner der Welt, der europäische Super-Computer „MareNostrum“, steht an einem für Maschinen ungewöhnlichen Ort, der ehemaligen Kapelle Torre Girona in Barcelona. Künstliche Intelligenz in einer früheren Kirche – das hat eine gleichsam sakrale Symbolkraft. Tatsächlich gilt die schon heute beherrschende Technologie neuronaler Vernetzung vielen als neue Gottheit, anbetungswürdig, geheimnisvoll, allmächtig. Von Menschen erschaffen und geeignet, nicht nur Gutes zu bewirken, sondern am Ende bis zum Jahr 2100 sogar die Erdbevölkerung auszulöschen, wie im Juli 200 Experten in einer Studie des amerikanischen Forecasting Research Institutes warnten?

Dabei erscheinen die Segnungen der KI doch äußerst verheißungsvoll. Seit Jahrzehnten machen Anwendungen der Informatik revolutionäre Fortschritte auf vielen Feldern der Wissenschaft möglich, nicht zuletzt in der medizinischen Diagnostik, bei der computergestützten Bilderkennung von Krebs, Diabetes, Arterienverkalkung. Materialwissenschaften, Astrophysik, Photovoltaik, Batteriespeicherung, Mobilität – überall profitiert die Forschung von digitalen Assistenzsystemen. Und wie nützlich erst können hilfsbereite Roboter beim Einsatz in Krankenhäusern oder Pflegeheimen werden, wer mag da noch von einer Verdrängung menschlicher Arbeitskräfte durch Androide sprechen? KI nimmt uns Arbeit ab, wie schön. Oder nehmen Apparate uns die Arbeit weg und übernehmen das Kommando?

Jedenfalls hat der weltweite Wettbewerb um Produktivität und Profit durch lernfähige Mikrochips, Maschinen und Chatbots längst begonnen. Ob die Superhirne den Menschen dabei überholen, ausschalten oder gar vernichten, ist einstweilen unentschieden. Der israelische Historiker und Zukunftsforscher Yuval Noah Harari sieht durch die KI das „Ende der Menschheitsgeschichte“ heraufziehen, eine apokalyptische Prognose. Soweit waren wir aber schon oft – bei der Erfindung der Eisenbahn ebenso wie bei Einführung der Elektrizität. Disruptive Innovationen begleiten die Wissenschaft von Beginn an, drei bedeutende Dramatiker des 20. Jahrhunderts haben diesen Urkonflikt auf die Theaterbühne gebracht. Zuerst Bertolt Brecht („Leben des Galilei“), dann Friedrich Dürrenmatt („Die Physiker“), schließlich Heinar Kipphardt („In der Sache J. Robert Oppenheimer“). Verhandelt wurde über die Gewissensnöte von Forschern, die bis dahin Unerhörtes herausgefunden oder entwickelt hatten, über Verantwortung und Loyalität, über Moral und Macht.

In allen drei Stücken ist der Geist aus der Flasche, in Dürrenmatts Worten:“Was einmal gedacht wurde, kann nicht mehr zurückgenommen werden.“ So scheitert auch Galileis Versuch, seine Entdeckung über den Kosmos zu widerrufen, um im Geheimen weiter arbeiten zu können. Und bei Oppenheimer, dem Erfinder der Atombombe, steht die bittere Erkenntnis, dass es keinen ethischen Totalitätsanspruch der Humanität gibt. Das unentrinnbare Dilemma, in dem der US-Physiker und Kopf des „Manhattan-Projekts“ zur Entwicklung der nuklearen Massenvernichtungswaffe einst steckte, wird weithin als „Oppenheimer-Moment“ beschrieben. Es ist der Augenblick einer Entscheidung, die der einzelne Wissenschaftler womöglich in dem Bewusstsein fällt, dass davon  die ganze Menschheit betroffen ist.

Was als zunächst ergebnisoffene, vermeintlich wertfreie Forschung beginnt, mündet in einen Prozess, der die Büchse der Pandora öffnet und den betroffenen Gelehrten mit der Frage konfrontiert, welche Verantwortung er persönlich für die Anwendung seiner Idee übernehmen muss, welche Schuld er für die praktischen Folgen einer theoretischen Konstruktion trägt. Oppenheimer stürzte nach dem Abwurf der Bomben auf Hiroshima und Nagasaki in tiefe Verzweiflung, das Ausmaß der Zerstörung löste bei dem geistigen Vater von „Little Boy“ und „Fat Man“ schwerwiegende psychische Probleme aus. Er war Verursacher eines „Kipppunktes“ der Menschheitsgeschichte, wie wir im Rückblick sagen müssen.

Dabei hält die gerade mit dem renommierten Körber-Preis ausgezeichnete Roboter-Forscherin Cordelia Schmid den Vergleich der KI mit der Atombombe für unzulässig. „Die Bombe hat ausschließlich negative Auswirkungen“, sagt die Informatikerin,“KI auch viele positive.“ Das ist wahr, aber wenn man die möglichen Konsequenzen von Computerprogrammen mit jenen der Kernspaltung (also auch der zivilen Nutzung in Kraftwerken) vergleicht, ist der Unterschied schon weniger eindeutig. Welches Potenzial hat Künstliche Intelligenz denn tatsächlich? Julian Nida-Rümelin, Philosoph und Buchautor („Die Realität des Risikos“), hält an seiner Auffassung fest, dass „menschliches Abwägen nicht durch Algorithmen ersetzt werden kann“. Der Mensch sei eben „keine Maschine und umgekehrt“. KI habe – anders als Individuen – „keine Absichten“, sie gebe „nur den Anschein von Intentionen“, habe sie aber nicht wirklich. Immerhin räumt der Münchner Professor ein, dass Automaten den Menschen als Autoren seines eigenen Lebens sowohl stärken wie schwächen können.

Diese Ambivalenz umschreibt Jürgen Schmidhuber, der seit 1985 auf dem Feld angewandter Informatik forscht und als einer der „Väter der modernen KI“ gilt, mit dem „Omega-Punkt“. Das ist jener Moment, in dem sich lernfähige Automaten so rasch selbst verbessern, dass Menschen die Entwicklung nicht mehr nachvollziehen können. Schmidhuber glaubt jedoch, dass sich diese Überlegenheit des maschinell erzeugten Denkens  nicht zwingend zum Nachteil der Zivilisation auswirken muss: „Auch eine superkluge KI wird daran interessiert sein, unsere schöne Biosphäre zu erhalten.“ Interessant, so Schmidhuber, werde es, sobald lernfähige Roboter durch Interaktionen „sich physikalisch selbst replizieren können“. Dann habe man „zum ersten Mal eine neue Sorte von Leben, die nichts mit Biologie zu tun hat und sich trotzdem vervielfältigen kann“.

Das sehen die beiden Wirtschaftswissenschaftler Daron Acemoglu und Simon Johnson vom Bostoner MIT kritischer. In ihrem aktuellen Buch „Macht und Fortschritt“ (Campus Verlag) beschäftigen sie sich intensiv mit der „Maschinennützlichkeit“ über verschiedene Epochen der 1000-jährigen Technikgeschichte hinweg und bezeichnen KI in diesem Zusammenhang als „Mutter aller ungeeigneten Technologien“ – die „Tech-Community“ erliege dem „Zauber der Maschinenintelligenz“. Digitale Technologien, Robotik und andere Automatisierung, so die US-Professoren, trügen schon jetzt zu einem Prozess der Deindustrialisierung in vielen Entwicklungsländern und zu wachsender globaler Ungleichheit bei, zur „Wiedergeburt der Zweiklassengesellschaft“ und zur Zerstörung der Demokratie.

Derart dystopische Zuschreibungen teilen jene 350 Fachleute und Führungskräfte aus Forschung und Unternehmen, die sich im Mai 2023 mit einem Appell an die amerikanische Öffentlichkeit gewandt haben, nicht unbedingt. Aber ihre Warnungen vor einem „Risiko des Aussterbens durch KI“ ähnlich wie durch Pandemien oder die Atombombe klangen dramatisch genug, schließlich waren die Unterzeichner an der Entwicklung dieser Technologie selbst maßgeblich beteiligt. Die Forderung an den Staat, künstliche neuronale Netze stärker zu reglementieren, womöglich sogar ein Forschungsmoratorium zu verhängen, um der Entwicklung nicht hoffnungslos hinterherzulaufen, war an Eindringlichkeit kaum zu überbieten. Oder braucht es – wie bei der Nutzung der Kernenergie – erst einen Super-GAU wie in Tschernobyl und Fukushima, damit sich die Nationen an einen Tisch setzen und darüber befinden, wie die Risiken der KI einzudämmen sind?

Die Europäische Union rühmt sich, mit ihrem im Juni verabschiedeten KI-Gesetz weltweit die erste umfassende Richtlinie für den Einsatz dieser Technologie geschaffen zu haben. Auch der Deutsche Ethikrat war nicht untätig und legte schon im März eine mehrere Hundert Seiten umfassende Stellungnahme unter dem Titel „Mensch und Maschine – Herausforderungen durch Künstliche Intelligenz“ vor. Die Vorsitzende des Kollegiums, Professorin Alena Buyx, erläuterte die „ethische Faustregel“, die bei der Debatte um „Vernunft und Verantwortung der KI“ als Maßstab galt:“Anwendungen, die mit Künstlicher Intelligenz funktionieren, müssen die Handlungs- und Entfaltungsmöglichkeiten von Menschen erweitern, nicht verringern. KI darf Menschen nicht ersetzen.“ Das klinge zunächst einmal „einfach, aber der Teufel steckt im Detail“. Es müsse künftig „jede Anwendung gesondert betrachtet werden“.

Dazu hat der Deutsche Bundestag schon vor über drei Jahrzehnten einen eigenen Fachausschuss sowie ein ständiges „Büro zur Technikfolgen-Abschätzung“ eingerichtet. Doch ob diese politischen Instrumente dazu taugen, Missbrauch und Machtphantasien gerade im Umgang mit KI rechtzeitig zu erkennen und zu verhindern, dass ein „Point of no Return“ überschritten wird, darf angesichts der bisherigen Praxis bezweifelt werden. Vielleicht gelingt es in Einzelfällen und beschränkt auf den Geltungsbereich bundesdeutscher Gesetze, schädliche Entwicklungen zu stoppen, aber jüngste Beispiele aus der Gentechnologie haben gezeigt, dass ethische Grenzen etwa für den Eingriff in die menschliche Keimbahn in anderen Staaten eben nicht beachtet werden – was nützen sie also nur hierzulande?

Die Verständigung darüber, was KI darf und was nicht, muss in einem möglichst globalen Rahmen herbeigeführt werden. Für eine solche internationale Übereinkunft, etwa den von der UN bis 2024 angekündigten „Global Digital Act“, ist es noch nicht zu spät, aber höchste Zeit. Es geht – wieder einmal – darum, Grundlagenwissenschaft zu ermöglichen, aber ihre technologische Anwendung Regeln zu unterwerfen. Forschung zielt darauf, den menschlichen Erkenntnisraum zu erweitern, erst wenn ihre Ergebnisse technologisch dienstbar gemacht werden, entstehen Risiken und Nebenwirkungen. Der Mensch, die Gesellschaft, wir alle tragen die moralische Verantwortung für unser Handeln und Unterlassen. Insofern haften wir gemeinsam für mögliche Fehlentscheidungen und Gefahren. Die Verpflichtung, Technologien auf ihre Folgen zu überprüfen und unbeherrschbare Risiken mit geeigneten Instrumente zu minimieren, wenn nicht gar auszuschließen, kann weder an Forscher und Ingenieure noch an Unternehmer oder Politiker delegiert werden.

*

Unser Autor Gunther Hartwig (72), langjähriger Korrespondent der SÜDWEST PRESSE in Bonn und Berlin, begleitet die Debatte über Technikfolgen-Abschätzung im Bundestag seit deren Beginn vor über 40 Jahren.

Bildquelle: Gemmaribasmaspoch, CC BY-SA 4.0 https://creativecommons.org/licenses/by-sa/4.0, via Wikimedia Commons

Dieser Beitrag wurde erstveröffentlicht auf swp.de am 20.10.2023

Print Friendly, PDF & EmailAusdrucken/PDF erstellen:
Teilen Sie diesen Artikel:
Instagram
Vorherigen Post

Hass und Rache in Nahost – Keine Lösung- nirgendwo

Nächster Beitrag

Bonner OB Katja Dörner: Gemeinsam unseren Rechtsstaat verteidigen und Rassismus nicht tolerieren – Grünen Politikerin stützt Aufruf des Blog-der-Republik

Nächster Beitrag
Bonner Rathaus

Bonner OB Katja Dörner: Gemeinsam unseren Rechtsstaat verteidigen und Rassismus nicht tolerieren - Grünen Politikerin stützt Aufruf des Blog-der-Republik

Schreibe einen Kommentar Antworten abbrechen

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert

Schaut mal hier

  • Geschichtsrevisionismus: Basteln an der „zweiten Geburt“ 15.4.2025
  • Leak zu Zwei-Klassen-Struktur beim BSW - Sahras Knechte 22.2.2025
  • Sätze aus dem Wahlprogramm der AfD - und was sie bedeuten 18.2.2025
  • Kulturbegriff der AfD : Aufgeladen mit völkischer Ideologie 5.2.2025
  • Das Spiel der Lobbyisten und Politiker: Erik Ahrens – Ein tiefer Fall innerhalb der rechtsextremen Netzwerke 23.1.2025
  • Petition: Finger weg von unserer Demokratie, Herr Musk 3.1.2025
  • AfD-Frau fordert DNA-Tests – und Ausbürgerung politischer Gegner 27.12.2024
  • Das Zentrum für politische Schönheit ist der Gegener der AfD mit den ausgefallenen Ideen. jetzt, zum Wahlkampf präsentieren die Aktivisten den Adenauer, einen ehemaliges Justizmobil und will damit so manche Veranstaltung besuchen. Der ganze Plan in diesem Video 13.12.2024
  • Mission Silberlocke: So Wollen Gregor Gysi, Bodo Ramelow Und Dietmar Bartsch die Politik aufmischen! Dämmert’s jetzt? Eine Rekonstruktion der konstituierenden Sitzung des Thüringer Landtags 24.11.2024
  • Dämmert’s jetzt? Eine Rekonstruktion der konstituierenden Sitzung des Thüringer Landtags 28.09.2024
  • Rechtsextremist Höcke und seine AfD: Durchgedrehte Elefanten im Porzellanladen der Demokratie. 27.09.2024
  • AfD macht ihre Wähler unglücklich 18.09.2024
  • Beeindruckende Doku über die Lage in Ostdeutschland nach den Landtagswahlen in Thüringen und Sachsen. Die Brandenburger sollten sich ansehen, welche Probleme auf ein Land zukommen, wenn die AfD 1/3 der Zustimmung bekommt. 12.09.2024
  • AfD bekommt „Medienbonus“ bei ARD und ZDF 10.09.2024
  • Mediales Versagen. Die öffentlich-rechtlichen Medien betreiben das Geschäft der Sahra Wagenknecht 09.09.2024
  • AfD & Höcke stoppen! An alle demokratischen Parteien: "Nie wieder ist jetzt". 03.09.2024
  • Mit Rechtsextremismus spielt man nicht, aber das "Adé AfD Spiel" ist absolut empfehlenswert! 29.8.2024
  • Höcke hetzt gegen deutsche Unternehmen, die sich für Demokratie und Vielfalt engagieren, und wünscht denen "schwere, schwere Zeiten". Siehe die u.s. Aussage des Direktors des Instituts der deutschen Wirtschaft, Prof. Dr. Michael Hüther: „Die AfD ist Gift für unsere Wirtschaft“ 28.8.2024
  • Direktor des Instituts der deutschen Wirtschaft, Prof. Dr. Michael Hüther: „Die AfD ist Gift für unsere Wirtschaft“ 27.8.2024
  • NZZ: Zu Besuch bei Björn Höcke: «Der ‹Kampf gegen rechts› schadet uns nicht», sagt er 22.8.2024
  • "NachDenkSeiten": Wagenknechts Schreibbrigade 12.8.2024
  • Wie die Freien Sachsen Politik mit Terror verändern wollen 2.8.2024
  • Höcke droht bei Wahlkampfveranstaltung der Polizei und kündigt "Besuch" der Polizeistation mit 1.000 vermutlich gewaltbereiten Rechtsextremisten an 29.07.2024

UNSER NEWSLETTER

Abonnieren Sie unseren Newsletter und werden Sie einer unserer 2.684 Abonnenten.

Prüfen Sie Ihren Posteingang und den Spamordner, um Ihr Abonnement zu bestätigen.

Werbung

[the_ad id="27291"]

Letzte Kommentare

  • Thomas Stritter bei Ich habe unterschrieben!
  • Volker von Wysocki bei Wenn Gerichtsentscheidungen nicht in den politischen Kram passen
  • Lutz P. Michel bei Ich habe unterschrieben!
  • Anke Brunn bei Ich habe unterschrieben!

UNSER NEWSLETTER

Abonnieren Sie unseren Newsletter und werden Sie einer unserer 2.684 Abonnenten.

Prüfen Sie Ihren Posteingang und den Spamordner, um Ihr Abonnement zu bestätigen.

  • Trending
  • Comments
  • Neueste
Friedensdemo Bonn, Oktober 1981

Grüne und Krieg — Partei-Austritt des Gründungsmitglieds Ulfried Geuter

18. März 2024
Alice Weidel, Elon Musk und Esel, Screenshot Tik Tok

ARD-Wahlarena – Weidels Lügen sind Methode

18. Februar 2025
Screenshots von TikTok_Accounts aufgestachelter Bauern oder AfDlern oder anderen "Empörern"

Aufruf zur Bauerndemo in Berlin, AfD-Anhänger und andere Rechtsextreme mobilisieren.

24. Oktober 2024
Feigenblatt

Alice Weidel: Das lesbische Feigenblatt und das Familienbild der AfD

1. Januar 2025
Friedensdemo Bonn, Oktober 1981

Grüne und Krieg — Partei-Austritt des Gründungsmitglieds Ulfried Geuter

Screenshot ARD-Mediathek zur Sendung von Caren Miosga

Talk bei Miosga: Die Entlarvung der Sahra Wagenknecht

Kriegszerstörungen in der Ukraine

Ukraine: Verantwortungsbewusstes Handeln statt gefährlicher moralischer Überheblichkeit

Mauer in der NS-Ordensburg Vogelsang mit NS-Adler im Mauerwerk

Lasst Höcke regieren!

Zwei Sporen vor braunem Hintergrund

Das Recht des Stärkeren? Wer sich das Recht nimmt

20. Juni 2025
Justitia

Alle strafmündig, oder was?

20. Juni 2025
Vermummter Aufständischer wirft Blumenstrauss. Benksy-Graffiti in Bethlehem

Nachdenken über Krieg und Kriegsfähigkeit

18. Juni 2025
Trump-Perücke über Twitter-Vogel und Krawatte mit "stars and stripes"

Trump regiert nach Plan? Doch – der Masterplan erklärt den Irrsinn

17. Juni 2025

BLOG DER REPUBLIK

Blog der Republik

Kategorien

  • Allgemein
  • Buchbesprechungen
  • Contra AfD – Für Demokratie. Jetzt!
  • Gesellschaft & Medien
  • Kultur
  • Politik
  • Wirtschaft

Kategorien

  • Alle Beiträge
  • Politik
  • Wirtschaft
  • Gesellschaft & Medien
  • Kultur
  • Standpunkte

Schlagwörter

AfD CDU Demokratie EU Frieden NoAfD Rechtsextremismus Ukraine USA wehrhafte Demokratie

© 2025 Blog der Republik.

Kein Ergebnis
Alle Ergebnisse anzeigen
  • Alle Beiträge
  • Politik
  • Wirtschaft
  • Gesellschaft & Medien
  • Kultur
  • Contra AfD – Für Demokratie. Jetzt!

© 2025 Blog der Republik

❤️ Unser Blog lebt durch Sie! ❤️

Das Erstarken der Rechtsextremen und Rechtspopulisten in ganz Europa in den letzten Jahren und gerade jetzt bei der Wahl zum Deutschen Bundestag besorgt uns alle zutiefst. Denn diese Kräfte wollen die zentralen Werte unserer Gesellschaft in Frage stellen und Demokratie als Lebens- und Regierungsform zerstören. Dagegen treten wir aktiv ein und engagieren uns für eine freiheitliche, soziale und gerechte Demokratie.

Dazu brauchen wir die Unterstützung unserer Leser*innen. Möchten Sie dazu beitragen, dass der Blog der Republik weiterhin informativ bleibt und sich weiterentwickeln kann?

Bereits mit 5 Euro helfen Sie uns, hochwertigen Journalismus zu sichern und neue Inhalte für Sie bereitzustellen.
Ihre Unterstützung macht den Unterschied!

Jeder Beitrag zählt – sind Sie dabei?

Ja, ich möchte den Blog der Republik unterstützen.