Wie gefährlich ist „künstliche Intelligenz“?


Aktuell wird heiß diskutiert, ob es zu einem neuen globalen Wettrüsten kommt

 
Von Junius*

Lange Zeit wurde „Künstliche Intelligenz“, KI[1], nahezu ausschließlich in Science-Fiction-Filmen und Romanen thematisiert. So etwa in „2001: Eine Odyssee im Weltall“ (1968), „Blade Runner“ (1982), „Matrix“ (1999), „A.I. – Künstliche Intelligenz“ (2001), „Her“ (2013), „Transcendence“ (2014), oder „Ex Machina“ (2015). Inzwischen werden Chancen und Risiken von KI auch ausführlich in Sachbüchern wie „Menschheit 2.0.: Die Singularität naht“ von Ray Kurzweil (Lola Books, 2014), „Superintelligenz – Szenarien einer kommenden Revolution“ von Nick Bostrom (Suhrkamp, 2016) oder „Leben 3.0 – Mensch sein im Zeitalter künstlicher Intelligenz“ von Max Tegmark (Ullstein, 2017) sowie in den Wirtschaftsteilen und Feuilletons überregionaler Tages- und Wochenzeitungen diskutiert.

Dabei lassen sich bislang mehrere, oft parallel geführte Diskurse identifizieren: Die gewaltigen Umwälzungen, zu denen der Einsatz von KI in der Wirtschaft führen könnte. Eine Debatte, die mitunter auch unter dem Stichwort „Digitalisierung 4.0“ geführt wird. Sie reicht von der Ersetzung von Schalterpersonal in Banken, Hotels und Reisebüros durch sprachfähige Softwareprogramme oder Roboter, den Wegfall ganzer Berufsgruppen wie Taxi- und Bus- und Fernfahrer, Lokführer oder sogar Piloten, die von autonomen Transportmitteln abgelöst werden könnten, bis hin zum Teilersatz von Ärzten und Pflegepersonal im Gesundheitswesen durch den Einsatz maschineller OP-Assistenten, Diagnoseprogramme oder Pflegeroboter.

Werden autonome Waffen die Kalaschnikows von morgen?

Leidenschaftlich diskutiert wird auch die Entwicklung KI-gesteuerter, halb- oder vollautonomer Waffensysteme. Kritiker fürchten, dass künftig anstelle von Menschen solche Systeme selbstständig entscheiden, wer oder was ein geeignetes militärisches Ziel darstellt und diese eigenständig bekämpfen. 2015 forderten 1.000 Wissenschaftler und Unternehmer, darunter der inzwischen verstorbene Physiker Stephen Hawking, Apple-Mitbegründer Steve Wozniak und Tesla Motors-Gründer ElonMusk, in einem Offenen Brief ein Verbot sogenannter Killerroboter[2]

In dem Schreiben, das mittlerweile von 3.978 KI-Forschern und 22.541 weiteren Personen unterzeichnet wurde, wird vor einem neuen Wettrüsten und der unkontrollierten Verbreitung autonomer Waffensysteme gewarnt: „Wenn irgendeine größere Militärmacht die Entwicklung von KI-Waffen vorantreibt, ist ein globales Wettrüsten praktisch unvermeidlich, und der Endpunkt dieser technologischen Entwicklung ist offensichtlich: autonome Waffen werden die Kalaschnikows von morgen werden.“ 

Anders als Atomwaffen benötigten sie „keine teuren oder schwer zu beschaffenden Rohstoffe“. Es sei daher nur „eine Frage der Zeit“, bis sie „auf dem Schwarzmarkt“ erhältlich seien und „Terroristen“, „Diktatoren“ und „Warlords“ in die Hände fielen, die die Bevölkerung „besser kontrollieren“ oder „ethnische Säuberungen“ durchführen wollten. „Autonome Waffen eignen sich ideal für Aufgaben wie Attentate, die Destabilisierung von Nationen, die Unterdrückung von Bevölkerungen und das selektive Töten einer bestimmten ethnischen Gruppe.“[3]

Eine „dritte Revolution der Kriegsführung“

Im vergangenen Jahr wandten sich 116 Unternehmer in einer ähnlichen Aktion an die Vereinten Nationen. Unter ihnen Mustafa Suleyman, Mitgründer und Leiter des britischen KI-Unternehmens „Deep Mind“, das vom US-Konzern Google gekauft wurde. In dem Schreiben fordern die KI-Firmenchefs, autonome Waffensysteme auf die seit 1983 existierende Liste verbotener konventioneller Waffen zu setzen.[4] Mit der Entwicklung autonomer Waffensysteme drohe nach der Erfindung des Schwarzpulvers und der Atombombe nicht weniger als eine „dritte Revolution der Kriegsführung“. „Wenn diese Büchse der Pandora einmal geöffnet ist, wird es schwierig, sie wieder zu schließen“, heißt es in dem Schreiben“.[5] 

Der dritte große Diskurs betrifft die Frage, wie groß die Gefahr ist, dass künftige KI den Menschen einmal in jeder Hinsicht überflügelt. Dass diese Frage überhaupt aufgeworfen werden konnte, liegt an den enormen Fortschritten, die die KI-Forschung in den letzten Jahren mit der Entwicklung von neuronalen Netzen und sogenanntem „Deep learning“ gemacht hat. In künstlichen neuronalen Netzen, die der Architektur des menschlichen Gehirns nachempfunden sind, werden Informationen in verschiedenen Schichten und Hierarchiestufen verarbeitet. Anders als bei der traditionellen Programmierung, bei der ein Programmierer einem Computer Schritt für Schritt vorgibt, welche Anweisungen von ihm ausgeführt werden sollen, wird der KI beim sogenannten „Deep Learning“ lediglich ein Ziel vorgegeben, das erreicht werden soll. Auch wenn die KI nach Ansicht nahezu aller Experten, noch nicht einmal den Kinderschuhen entwachsen ist, kann sie doch schon beeindruckende Ergebnisse vorweisen.

Die Macht auf Erden übernehmen und die Menschen versklaven

Im Frühjahr 2016 schlug das von der Google-Tochter „Deep Mind“ entwickelte Programm „AlphaGo“ den Südkoreaner Lee Sedol, der als einer der weltbesten Go-Spieler gilt. Go ist ein chinesisches Strategiespiel, bei dem die Spieler abwechselnd schwarze und weiße Steine auf einem Brett platzieren. Ziel ist es, durch das Legen geeigneter Formationen am Ende ein möglichst großes Gebiet des Spielfeldes zu beherrschen, wobei Steine des Gegners eingeschlossen werden können. Aufgrund des größeren Spielfeldes und dem daraus resultierenden Vielfachen möglicher Positionen gilt Go als ungleich komplexer als Schach. Im Winter 2017 präsentierte Deep Mind unter dem Namen AlphaGo Zero eine neue Entwicklungsstufe von AlphaGo. Diese hatten die Entwickler erstmals ausschließlich mit den Regeln des Spiels ausgestattet. Zugfolgen von Partien, die Menschen gespielt hatten, wurden dem Programm vorenthalten. Nachdem es drei Tage lang gegen sich selbst gespielt und so „Erfahrungen“ gesammelt hatte, schlug AlphaGo Zero seine frühere Version in 100 Partien ganze einhundertmal.[6] 

So faszinierend die Vorstellung sein mag, wozu eine mit zunehmender Rechenleistung den Kinderschuhen entwachsende KI künftig alles in der Lage sein wird, die Diskurse über Zukünfte, in denen Künstliche Intelligenzen die Macht auf Erden übernehmen und die Menschen wahlweise ausrotten, versklaven oder aber mit Missachtung strafen, weil sie das Universum für weit spannender als die Erde halten, haftet zugleich etwas Naives an. Denn vorausgesetzt wird in solchen Szenarien stets, dass KI-Programme ein Bewusstsein entwickeln werden, das es ihnen ermöglicht, von ihrer eigenen Existenz zu wissen, sich als von ihrer Umwelt verschieden wahrzunehmen, sich Ziele zu setzen und mit eigener Willenskraft zu verfolgen. Das aber ist nicht abzusehen. Der Mensch bleibt Mensch. Er sieht mehr Wirklichkeiten, auch metaphysische. Er wird also wahrscheinlich weniger intelligent sein als KI, aber dafür klüger. Das allerdings leider ohne Garantie für den Einzelnen (Vgl. auch Genius-Lesestück Nr. 8 vom Jänner–Februar 2018: „Dumm wie ein Sieb“ oder schon die „letzten Tage des Todes“. Darin beleuchtet Rüdiger Stix das Thema KI feuilletonistisch aus einem ähnlichen Blickwinkel).

* Anmerkung: Bei diesem Text handelt sich um eine Gemeinschaftsarbeit von Informanten und Redaktion. Das Pseudonym wurde in Anlehnung an die sogenannten Junius Letters gewählt, in denen ein Pseudonym namens Junius in der Zeitschrift Public Advertiser in London vom 21. Januar 1769 bis zum 12. Mai 1772 Briefe über die Geschehnisse am Hofe und im Parlament veröffentlichte. Darin wurden die Machenschaften in der Königsfamilie, von Ministern, Richtern und Abgeordneten satirisch und mit Sachkenntnis der internen Vorgänge und Intrigen aufgespießt. Die Junius-Letters gelten als erster Beleg des journalistischen Zeugnisverweigerungsrechts.

Anmerkungen

[1] „Es fiel mir auf, als ich versuchte, eure Spezies zu klassifizieren. Ihr seid im eigentlichen Sinne keine richtigen Säugetiere! Jedwede Art von Säugern auf diesem Planeten entwickelt instinktiv ein natürliches Gleichgewicht mit ihrer Umgebung. Ihr Menschen tut das aber nicht. Ihr zieht in ein bestimmtes Gebiet und vermehrt euch, bis alle natürlichen Ressourcen erschöpft sind. Und der einzige Weg zu überleben ist die Ausbreitung auf ein anderes Gebiet. Es gibt noch einen Organismus auf diesem Planeten, der genauso verfährt. Wissen Sie welcher? Das Virus! Der Mensch ist eine Krankheit, das Geschwür dieses Planeten! Ihr seid wie die Pest! Und wir sind die Heilung!“ Zitat aus: Der „Agent“ Mr. Smith, eine künstliche Intelligenz, in dem Film „Matrix“. Regie und Drehbuch: Larry und Andy Wachowski. USA, 1999. 131 Minuten. FSK 16.

[2] Autonomous Weapons: An Open Letter from AI &Robotics Researchers. https://futureoflife.org/open-letter-autonomous-weapons Upload zuletzt am 14. Juni 2017.

[3] Ebenda.

[4] Vgl. Übereinkommen über das Verbot bestimmter konventioneller Waffen, die übermäßige Leiden verursachen oder unterschiedslos wirken können. https://www.unog.ch/80256EE600585943/ %28httpPages %29/ 4F0DEF093B4860B4C1257180004B1B30 Upload zuletzt am 14. Juni 2017.

[5] An Open Letter to the United Nations Convention on certain Conventional Weapons. https://futureoflife.org/autonomous-weapons-open-letter-2017 Upload zuletzt am 14. Juni 2017.

[6] Vgl. Max Tegmark: Leben 3.0. Menschsein im Zeitalter künstlicher Intelligenz. Ullstein Verlag, Berlin 2017. S. 131 ff.

Bearbeitungsstand: Freitag, 27. Juli 2018

Mit Unterstützung von:

Verweis in neuem Fenster öffnen

Ja, senden Sie mir die GENIUS-Briefe gratis zum Kennenlernen an diese meine E-Mail-Adresse:

Mir ist bekannt, dass ich obige Zusendung jederzeit stornieren kann. Dazu muss ich nur auf die letzte Zeile in jedem GENIUS-Brief klicken.
Meine E-Mail-Adresse wird nur für Versandzwecke gespeichert.
 

 
Genius – Gesellschaft für freiheitliches Denken, Verein mit Sitz in Wien. ZVR 127778490
A-1010 Wien, Kärntner Ring 10/Top 2A, Telefon +43/0/650 7982 151, EMail: verein@genius.co.at
Wiedergabe von Genius-Lesestücken nur mit Zustimmung der Genius-Gesellschaft