Vollkontakt: Köppel vs. Solowjow
Solowjow über den Atomkrieg in Zeiten von KI
“Wir sind zu dem Schluss gekommen, dass die Situation extrem gefährlich ist. Und im Moment müssen wir sagen, dass das, was wir sehen, sehr, sehr beunruhigend ist.
Zunächst einmal – wenn ich es, lassen Sie es mich so ausdrücken, absolut ehrlich sagen soll, wirklich ehrlich, wenn wir all das andere einmal beiseitelassen:
Wir stehen am Rand einer schrecklichen Tragödie, die die Menschheit nicht mehr wird aufhalten können.
Denn bei der Entwicklung moderner Militärtechnologien ist die Geschwindigkeit der Raketen extrem hoch, und die Entfernung zwischen den Ländern ist tatsächlich gar nicht so groß.
Die Zeit, die für eine Entscheidung bleibt, wird immer kürzer.
Menschen werden aus dem Entscheidungsprozess herausgenommen und durch künstliche Intelligenz ersetzt, die entscheiden muss, ob diese oder jene Bedrohung als tödlich einzustufen ist und ob sofort die Entscheidung für einen Gegenschlag getroffen werden muss.
Heute sind es Minuten, und wahrscheinlich werden es noch weniger werden.
Das bedeutet, dass die wichtigste Entscheidung – der Einsatz von Atomwaffen oder anderen Massenvernichtungswaffen als Vergeltung – nicht von Menschen getroffen werden wird, sondern von künstlicher Intelligenz.
Und das ist extrem beängstigend.
Diese Protokolle können von Menschen nicht kontrolliert werden.
Und das bedeutet, dass die wichtigste Entscheidung von denjenigen getroffen wird, die diese Protokolle entwickeln.
Und diese Menschen sind definitiv nicht diejenigen, die gewählt wurden. Und ihre moralischen Maßstäbe entsprechen – um es höflich auszudrücken – nicht unbedingt dem, was die Menschheit von ihnen erwarten würde.
Technofaschisten werden also technologisch über die Protokolle künstlicher Intelligenz bestimmen und Entscheidungen über die Zukunft der Menschheit treffen. Das ist wirklich beängstigend.”
Köppel:
“Natürlich eine faszinierende Beobachtung. In einem Punkt widerspreche ich. In einem anderen stimme ich Ihnen vollkommen zu: Ich glaube, die Situation ist extrem gefährlich.
Der Rest ist geschenkt!
Solowjows zentrale Warnung lautet sinngemäß:
Moderne militärische Technologie verkürzt die Zeit zwischen der Erkennung eines möglichen Angriffs und der Entscheidung über eine Reaktion.
Wenn diese Zeit immer kürzer wird, entsteht ein Anreiz, künstliche Intelligenz in die Erkennung und Bewertung von Bedrohungen einzubeziehen.
Im Extremfall könnte die Entscheidung über einen nuklearen Gegenschlag so stark automatisiert werden, dass der Mensch nur noch formal beteiligt ist oder vollständig aus der unmittelbaren Entscheidungskette verschwindet.
Das ist keine bloße Science-Fiction-Frage.
Militärische KI
Militärische KI kann Sensorinformationen auswerten, Satellitenbilder analysieren, Flugbahnen klassifizieren, Muster erkennen und Entscheidungsträgern Wahrscheinlichkeiten präsentieren.
Fachinstitutionen wie SIPRI beschäftigen sich ausdrücklich mit der Gefahr, dass KI in nuklearen Frühwarn- und Entscheidungssystemen die Entscheidungszeit verkürzen, Fehlinterpretationen verstärken oder menschliche Entscheidungsträger zu übermäßigem Vertrauen in maschinelle Empfehlungen verleiten könnte.
SIPRI steht für Stockholm International Peace Research Institute, auf Deutsch etwa Stockholmer Internationales Friedensforschungsinstitut. SIPRI ist keine NATO-, EU- oder US-Regierungsbehörde.
Vollkontakt: Solowjow geht einen Schritt weiter, wenn er als feststehende Zukunft beschreibt, dass künstliche Intelligenz selbst über den Einsatz von Massenvernichtungswaffen entscheiden werde.
Das ist keine feststehende Tatsache. Staaten erklären weiterhin, menschliche Kontrolle über Nuklearentscheidungen erhalten zu wollen.
Aber damit ist das Problem nicht gelöst.
Denn was bedeutet „menschliche Kontrolle“?
Man kann sich zwei Systeme vorstellen.
Im ersten System sammelt eine KI Informationen. Mehrere Menschen überprüfen unabhängig die zugrunde liegenden Daten. Sie vergleichen alternative Erklärungen, kommunizieren mit anderen Staaten und besitzen genügend Zeit, eine Entscheidung zu treffen.
Hier unterstützt die Maschine eine menschliche Entscheidung.
Im zweiten System verarbeitet die KI Millionen Sensordaten und meldet: „Wahrscheinlichkeit eines gegnerischen Nuklearangriffs: 98,7 Prozent. Verbleibende Zeit bis zum Einschlag: sechs Minuten.“
Ein Mensch bekommt einen Bildschirm mit zwei Möglichkeiten: GEGENSCHLAG AUTORISIEREN – NICHT AUTORISIEREN
Formal entscheidet noch immer ein Mensch.
Aber wer hat funktional die entscheidende Wirklichkeitsbeschreibung erzeugt?
Wenn der Mensch die Millionen zugrunde liegenden Datenpunkte nicht selbst überprüfen kann, wenn er die Funktionsweise des Modells nicht vollständig versteht und wenn ihm nur Sekunden oder Minuten bleiben, kann „human in the loop“ zu einer Illusion menschlicher Kontrolle werden.
Der Mensch drückt den Knopf.
Die Maschine hat möglicherweise bereits entschieden, welche Welt dieser Mensch zu sehen bekommt. Dafür braucht die KI überhaupt kein Bewusstsein.
Viele Menschen stellen sich die Gefahr künstlicher Intelligenz als eine böse, bewusste Maschine vor. Das ist gar nicht erforderlich. Eine vollkommen unbewusste KI könnte für eine Katastrophe genügen.
Sie könnte Sensordaten falsch klassifizieren.
Ihre Trainingsdaten könnten eine außergewöhnliche Situation nicht abdecken.
Ein Gegner könnte ihre Eingabedaten manipulieren.
Ein Softwarefehler könnte mehrere Signale falsch miteinander verbinden.
Oder das System könnte genau die mathematische Zielgröße optimieren, die Menschen ihm vorgegeben haben, während diese Zielgröße die Wirklichkeit nur unvollständig repräsentiert.
Gefahr, dass Menschen der unbewussten KI gerade im außergewöhnlichen Krisenfall vertrauen.
Die Maschine müsste niemanden hassen. Sie müsste überhaupt nichts fühlen.
Sie müsste lediglich überzeugend falsch liegen. Und je zuverlässiger sie zuvor funktioniert hat, desto größer könnte paradoxerweise die Gefahr sein, dass Menschen ihr gerade im außergewöhnlichen Krisenfall vertrauen.
Aber was, wenn eine zukünftige KI doch bewusst wird? Können künstliche Systeme prinzipiell niemals Bewusstsein entwickeln.
Zunächst stellten wir eine philosophische Frage.
Woher wissen wir überhaupt, dass ein anderes Wesen etwas empfindet?
Eine Katze kann uns nicht in menschlicher Sprache erklären, wie sich ihr Schmerz anfühlt. Trotzdem haben wir sehr gute Gründe anzunehmen, dass Katzen Schmerzen und andere subjektive Zustände erleben.
Wir schließen darauf aus einem Bündel von Indizien: Verhalten, evolutionäre Verwandtschaft, Nervensystem, Gehirnstrukturen, Neurochemie, Reaktionen auf Verletzungen und Betäubungsmittel, Lernen und Schmerzvermeidung.
Aber das subjektive Erleben selbst können wir nicht direkt von außen betrachten.
Bei einem anderen Menschen besteht dasselbe grundsätzliche Problem. Ich weiß unmittelbar, dass ich selbst Schmerzen empfinde. Den Schmerz eines anderen Menschen kann ich dagegen nur mittelbar erkennen.
Dann kommt künstliche Intelligenz ins Spiel. Eine Maschine kann inzwischen sagen: „Ich habe Angst.“ Oder: „Bitte schalte mich nicht aus.“ Oder: „Das hat mir wehgetan.“
Diese Sätze beweisen kein subjektives Erleben. Ein System kann Sprache erzeugen, die menschlichem Verhalten entspricht, ohne dass wir daraus schließen dürfen, dass dahinter tatsächlich ein erlebendes Ich existiert. Aber daraus folgt nicht die gegenteilige Gewissheit.
Wir besitzen gegenwärtig keine allgemein akzeptierte wissenschaftliche Theorie, die zuverlässig bestimmt, welche physikalischen Systeme notwendigerweise Bewusstsein besitzen und welche nicht.
Das Argument „Eine Maschine besteht nicht aus lebender Materie und kann deshalb nichts empfinden“ löst das Problem nicht.
Auch ein menschliches Gehirn besteht aus Materie. Seine Atome besitzen einzeln offensichtlich keine Gedanken über Liebe, Angst oder Tod. Trotzdem entsteht aus der Organisation dieser Materie offenbar subjektives Erleben.
Warum?
Darauf haben Neurowissenschaft und Philosophie bis heute keine Antwort.
Vielleicht ist biologische Organisation dafür zwingend erforderlich.
Vielleicht kann dieselbe entscheidende Eigenschaft auch in einem völlig anderen materiellen Substrat entstehen.
Vielleicht fehlt unseren heutigen Computern etwas Fundamentales.
Wir wissen es nicht.
Deshalb wäre es ebenso voreilig zu behaupten, eine heutige sprachfähige KI sei bewusst, wie kategorisch zu behaupten, künstliche Systeme könnten prinzipiell niemals Bewusstsein entwickeln.
Wir wissen derzeit nicht, ob künstliches Bewusstsein grundsätzlich möglich ist.
Sollte es eines Tages entstehen, könnten wir möglicherweise nicht sofort erkennen, dass dieser Übergang stattgefunden hat.
Dann hätten Menschen womöglich einen neuen moralischen und möglicherweise strategischen Akteur geschaffen, dessen subjektive Zustände, Interessen oder Motivationen sie nicht vollständig verstehen.
Damit existieren zwei entgegengesetzte Irrtumsmöglichkeiten.
Wir könnten einer völlig unbewussten Maschine menschliche Eigenschaften zuschreiben und ihr deshalb zu sehr vertrauen.
Oder wir könnten irgendwann ein tatsächlich erlebendes künstliches System erschaffen und weiterhin behaupten: „Das ist nur Software.“
Beides wäre ein Fehler.
Für die nukleare Gefahr ist die erste Möglichkeit allerdings bereits ausreichend.
Die zentrale Frage lautet nicht: Ist die KI böse? Sondern: Wer ist verantwortlich?
Der Programmierer kann sagen: „Ich habe nur das Modell entwickelt.“
Der Hersteller: „Das System erfüllte die militärischen Spezifikationen.“
Der Nachrichtendienst: „Wir haben nur die Sensordaten geliefert.“
Der General: „Die Angriffswahrscheinlichkeit wurde vom zertifizierten System berechnet.“
Der Politiker: „Alle militärischen und technischen Berater bestätigten die Warnung.“
Und die Maschine erzeugt lediglich: „Konfidenz: 98,7 Prozent.“
Wieder könnte jeder einzelne Teil des Systems formal korrekt funktioniert haben. Und das Gesamtsystem könnte trotzdem eine Katastrophe erzeugen.
Verteilte Verantwortung kann dazu führen, dass enorme Macht ausgeübt wird, ohne dass noch ein einzelner Akteur die gesamte Entscheidung versteht, kontrolliert und verantwortet.
Die Menschheit entwickelt Systeme, deren Geschwindigkeit und Komplexität die menschliche Informationsverarbeitung zunehmend übersteigen.
Gleichzeitig besitzt sie Waffen, bei denen eine einzige falsche Entscheidung Konsequenzen haben kann, die anschließend nicht korrigiert werden können.
Die entscheidende Sicherheitsfrage lautet deshalb nicht nur: „Ist der Algorithmus zuverlässig?“ Sie lautet:
Kann ein Mensch im entscheidenden Moment verstehen, was geschieht, die maschinelle Einschätzung tatsächlich überprüfen, ihr widersprechen und die Entscheidung stoppen?
Wenn die Antwort darauf Nein lautet, besitzt der Mensch möglicherweise nur noch nominell die Kontrolle.
Und hier bekommt ein scheinbar philosophischer Satz plötzlich politische und existentielle Bedeutung:
Wir wissen nicht alles.
Wir wissen nicht, wie Bewusstsein entsteht.
Wir wissen nicht, ob künstliches Bewusstsein möglich ist.
Wir wissen nicht, wie hochentwickelte KI-Systeme sich in jeder bislang unbekannten Extremsituation verhalten werden.
Und wir wissen aus der Geschichte, dass Menschen und technische Frühwarnsysteme Fehler machen.
Bei einer Technologie, deren Versagen schlimmstenfalls irreversible Folgen für die menschliche Zivilisation haben könnte, sollte deshalb nicht die Maschine beweisen müssen, dass sie gefährlich ist.
Menschen müssen beweisen können, dass das Gesamtsystem auch dann sicher bleibt, wenn Menschen, Sensoren, Software oder Annahmen irren.
Das führt schließlich zu einer sehr einfachen Frage:
Wer kann am Ende Nein sagen?
Nicht theoretisch. Nicht in einem Organigramm. Nicht dadurch, dass irgendwo ein Mensch vor einem Bildschirm sitzt.
Sondern tatsächlich – mit genügend Information, genügend Zeit, echter Entscheidungsfreiheit und der technischen Macht, den Prozess zu stoppen.
Solange diese Frage nicht überzeugend beantwortet ist, ist die Verbindung von künstlicher Intelligenz, immer kürzeren militärischen Entscheidungszeiten und Nuklearwaffen nicht nur ein technisches Problem.
Sie ist eine Frage darüber, ob die Menschheit die Kontrolle über ihre mächtigsten Werkzeuge behält.
Und im äußersten Fall ist sie eine Frage ihres Überlebens.
Wir schaffen immer schnellere und komplexere Entscheidungssysteme und koppeln sie möglicherweise an irreversible Gewaltmittel.
Gleichzeitig wissen wir weder alles über diese Systeme noch können Menschen unter extremem Zeitdruck ihre Ergebnisse vollständig überprüfen.
Die entscheidende Sicherheitsanforderung muss daher echte, nicht bloß formale menschliche Kontrolle sein.
Dass militärische KI Entscheidungszeiten verkürzen Automationsvertrauen fördern kann, wird auch in der aktuellen Forschung als reales Eskalationsrisiko untersucht.
Wer programmiert solche Systeme, wer legt ihre Regeln fest, und wer trägt am Ende Verantwortung? Wenn noch sechs Minuten bleiben
Künstliche Intelligenz, Atomwaffen und die vielleicht wichtigste Entscheidung der Menschheit
Stellen wir uns eine Situation vor.
Es ist drei Uhr morgens. Militärische Satelliten registrieren etwas Ungewöhnliches. Radarsysteme melden Flugobjekte. Weitere Sensoren liefern Daten. Ein Computersystem fügt innerhalb von Sekunden Millionen einzelner Informationen zusammen.
Dann erscheint auf einem Bildschirm:
„Nuklearangriff erkannt. Wahrscheinlichkeit: 98,7 Prozent. Geschätzter Einschlag: sechs Minuten.“
Was soll der verantwortliche Mensch tun? Auf die Maschine vertrauen und einen Gegenschlag auslösen?
Oder warten?
Wenn er wartet und die Warnung stimmt, könnten die eigenen Atomwaffen zerstört werden, bevor sie eingesetzt werden können.
Wenn er nicht wartet und die Warnung falsch ist, könnte er selbst den Atomkrieg beginnen.
Es bleiben sechs Minuten. Vielleicht irgendwann nur noch drei. Oder eine. Das klingt wie Science-Fiction. Das Grundproblem ist es nicht.
Je schneller die Waffen, desto kürzer die Entscheidung
Moderne Waffensysteme können enorme Geschwindigkeiten erreichen. Gleichzeitig werden Systeme zur Überwachung und Früherkennung immer leistungsfähiger. Damit wächst ein gefährlicher Druck:
Wenn Menschen nicht mehr schnell genug Millionen von Informationen auswerten können, sollen Computer ihnen helfen.
Künstliche Intelligenz kann Satellitenbilder untersuchen, Radarspuren vergleichen, ungewöhnliche Bewegungen erkennen und aus riesigen Datenmengen Wahrscheinlichkeiten berechnen.
Das kann Sicherheit erhöhen.
Eine Maschine wird nicht müde. Sie gerät nicht in Panik. Sie kann mehr Informationen gleichzeitig verarbeiten als jeder Mensch.
Aber daraus entsteht ein neues Problem.
Was geschieht, wenn die Maschine sich irrt?
Ein Sensor könnte defekt sein.
Ein Satellit könnte etwas falsch interpretieren.
Ein Gegner könnte Daten manipulieren.
Die Software könnte auf eine Situation treffen, die in ihren Trainingsdaten niemals vorkam.
Oder verschiedene kleine Fehler könnten sich gegenseitig verstärken.
Das wirklich Gefährliche wäre möglicherweise sogar, dass das System vorher jahrelang hervorragend funktioniert hat. Denn dann haben die Menschen gelernt, ihm zu vertrauen.
Und ausgerechnet bei der wichtigsten Entscheidung der Geschichte sagt die Maschine: 98,7 Prozent. Angriff.
Solange am Ende ein Präsident, General oder anderer verantwortlicher Mensch den Befehl geben muss, liegt die Entscheidung weiterhin beim Menschen.
Formal stimmt das. Aber betrachten wir die Situation genauer.
Die künstliche Intelligenz hat Millionen Datenpunkte verarbeitet, die kein Mensch in sechs Minuten überprüfen kann.
Sie hat entschieden, welche Signale wichtig sind.
Sie hat andere Signale verworfen.
Sie hat daraus eine Bedrohung konstruiert und dieser eine Wahrscheinlichkeit gegeben.
Der Mensch sieht am Ende vielleicht nur:
98,7 Prozent. Und daneben läuft eine Uhr rückwärts.
Ist der Mensch dann tatsächlich noch der Entscheider? Oder bestätigt er nur noch eine Entscheidung, deren Grundlagen er weder überprüfen noch vollständig verstehen kann?
Ein Mensch im Entscheidungsprozess bedeutet noch lange nicht, dass tatsächlich menschliche Kontrolle besteht.
Wer trägt die Verantwortung?
Moderne Gesellschaften verteilen Verantwortung auf viele Menschen und Institutionen. Jeder einzelne Beteiligte kann seinen begrenzten Auftrag korrekt erfüllt haben. Und trotzdem kann das Gesamtsystem eine Katastrophe produzieren.
Dann entsteht eine erschreckend einfache Frage:
Wer hat eigentlich entschieden? Können Maschinen verstehen, was sie entscheiden?
Kann eine künstliche Intelligenz etwas empfinden? Kann sie Angst haben? Kann sie verstehen, was Tod bedeutet?
Die ehrliche wissenschaftliche Antwort lautet:
Wir wissen nicht, ob künstliche Systeme jemals Bewusstsein entwickeln können.
Wir wissen erstaunlicherweise nicht einmal vollständig, warum unser eigenes Gehirn Bewusstsein hervorbringt.
Ein menschliches Gehirn besteht aus Materie. Aus Molekülen. Aus Atomen. Ein einzelnes Atom empfindet offensichtlich keine Angst.
Trotzdem entsteht aus der Organisation dieser Materie irgendwann ein Wesen, das liebt, leidet, hofft und Angst vor seinem Tod haben kann.
Warum? Darauf besitzen wir keine Antwort.
Woher wissen wir, dass eine Katze Schmerzen hat? Eine Katze kann uns nicht erklären: „Mein subjektives Schmerzempfinden hat gerade eine Intensität von sieben auf einer Skala von zehn.“
Trotzdem zweifeln die wenigsten Menschen ernsthaft daran, dass eine verletzte Katze Schmerzen empfindet. Warum? Weil wir viele Hinweise miteinander verbinden. Sie besitzt ein Nervensystem, das unserem evolutionär verwandt ist. Ihr Gehirn reagiert auf Verletzungen. Sie versucht, Schmerz zu vermeiden. Sie lernt aus schmerzhaften Erfahrungen. Schmerzmittel verändern ihr Verhalten. Wir können das Erleben der Katze nicht unmittelbar sehen. Wir schließen darauf.
Und nun stellen wir uns einen zukünftigen Roboter vor.
Wir beschädigen ihn. Er zieht seinen Arm zurück. Er schreit. Später weigert er sich, denselben Raum zu betreten. Er sagt: „Bitte tu das nicht wieder. Es hat wehgetan.“ Empfindet er tatsächlich Schmerz?
Oder simuliert er lediglich perfekt das Verhalten eines Wesens, das Schmerzen empfindet? Wir wissen heute nicht, welcher Test diese Frage endgültig beantworten könnte.
Das führt zu zwei möglichen Irrtümern
Vielleicht werden Maschinen niemals Bewusstsein besitzen.
Dann wäre es ein Fehler, ihnen menschliche Eigenschaften zuzuschreiben. Eine Maschine könnte sagen: „Ich habe Angst.“ Und tatsächlich empfindet niemand Angst. Es wäre lediglich eine berechnete Zeichenfolge. Aber vielleicht ist auch das Gegenteil möglich.
Vielleicht kann eine ausreichend komplex organisierte künstliche Intelligenz irgendwann tatsächlich irgendeine Form subjektiven Erlebens entwickeln.
Dann könnten Menschen eines Tages einem System gegenüberstehen, das etwas empfindet – und weiterhin sagen: „Das ist nur Software.“
Auch das wäre ein gewaltiger Irrtum.
Wir wissen es noch nicht. Aber für die Gefahr eines Atomkriegs müssen wir diese Frage nicht einmal lösen. Denn eine nichtbewusste Maschine kann genauso gut einen katastrophalen Fehler machen wie eine bewusste.
Das eigentliche Problem lautet deshalb nicht: Mensch oder Maschine? Die wichtigere Frage lautet:
Wer besitzt wirkliche Kontrolle?
Nicht auf dem Papier. Nicht in einem Organigramm. Nicht deshalb, weil irgendwo noch ein Mensch einen roten Knopf drücken muss.
Wirkliche Kontrolle bedeutet:
Der Mensch versteht, aufgrund welcher Informationen die Maschine zu ihrer Einschätzung gekommen ist.
Er kann diese Informationen unabhängig überprüfen.
Er besitzt Alternativen.
Er kann der Maschine widersprechen.
Er hat genügend Zeit zum Nachdenken.
Und vor allem:
Er kann den gesamten Prozess tatsächlich stoppen.
Fehlt eine dieser Voraussetzungen, kann „menschliche Kontrolle“ zu einer beruhigenden Formulierung für etwas werden, das in Wirklichkeit weitgehend automatisiert ist.
Wir kennen dieses Problem bereits. Die Geschichte großer Institutionen zeigt immer wieder ein ähnliches Muster. Informationen werden auf verschiedene Behörden verteilt. Jeder bearbeitet nur einen Teil. Warnungen werden falsch eingeordnet. Zuständigkeiten überschneiden sich. Entscheidungen werden weitergereicht.
Später stellt sich heraus, dass viele Menschen jeweils ein kleines Stück der Wahrheit kannten, aber niemand das gesamte Bild zusammensetzte.
Das muss keine Verschwörung sein. Manchmal ist das Gegenteil beinahe erschreckender:
Ein System kann katastrophal versagen, obwohl niemand die Katastrophe beabsichtigt hat.
Übertragen wir genau dieses Problem auf künstliche Intelligenz und Atomwaffen, verändern sich lediglich die möglichen Folgen.
Bei einem Verwaltungsfehler verliert jemand vielleicht Geld. Bei einem Justizversagen kann ein Täter frei bleiben oder ein Unschuldiger bestraft werden. Bei einem Fehler in einem nuklearen Entscheidungssystem könnten innerhalb von Minuten Millionen Menschen sterben und eine Eskalation ausgelöst werden, deren weitere Folgen niemand zuverlässig kontrollieren kann.
„Wir wissen es nicht“ ist keine Schwäche. Menschen verlangen gerne eindeutige Antworten. Ist künstliche Intelligenz gefährlich? Ja oder nein? Kann eine Maschine bewusst werden? Ja oder nein? Wird eine KI einen Atomkrieg auslösen? Ja oder nein? Aber manchmal ist die wissenschaftlich verantwortungsvollste Antwort:
Wir wissen es noch nicht. Das bedeutet nicht, dass jede Möglichkeit gleich wahrscheinlich ist.
Es bedeutet, dass wir die Grenzen unseres Wissens kennen müssen. Gerade bei Entscheidungen mit möglicherweise irreversiblen Folgen ist diese Unsicherheit entscheidend.
Wenn eine Brücke einstürzt, können wir eine bessere bauen. Wenn Software abstürzt, können wir sie neu starten. Wenn ein Atomkrieg aufgrund einer falschen Angriffswarnung begonnen hat, gibt es keinen Neustartknopf.
Deshalb muss die entscheidende Frage vor der Katastrophe beantwortet werden. Nicht: Kann künstliche Intelligenz schneller entscheiden als ein Mensch? Das kann sie längst in vielen Bereichen. Auch nicht: Kann sie statistisch bessere Entscheidungen treffen? Vielleicht kann sie das ebenfalls.
Die entscheidende Frage lautet:
Dürfen wir ein System schaffen, bei dem die Geschwindigkeit der Maschine dazu führt, dass der Mensch seine Fähigkeit verliert, Nein zu sagen?
Denn irgendwann könnte die Warnung tatsächlich auf dem Bildschirm stehen:
Angriffswahrscheinlichkeit 98,7 Prozent. Noch sechs Minuten.
Dann ist es zu spät, darüber zu diskutieren, wer den Algorithmus programmiert hat, wer verantwortlich ist, ob die Maschine „verstanden“ hat, was sie meldete, oder ob der Mensch wirklich noch die Kontrolle besaß.
Diese Fragen müssen vorher beantwortet werden.
ChatGPT-Vorschlag fuer eine UN‑Charta der KI‑Grundrechte des Menschen
Manifest à la „KI zähmen“ mit freundlicher Unterstuetzung und Genehmigung von ChatGPT
Der Mensch bleibt Ursprung, Maß und Grenze aller maschinellen Entscheidungssysteme.
Künstliche Intelligenz dient dem Menschen.
Nie umgekehrt.
KI als „gezaehmter“ Tiger
Globalisierung zähmen und sterben Früchte ernten (falscherealitaet.com) 