„Dumm wie ein Sieb“ oder schon die „Die letzten Tage des Todes“?


Rück- und vorausblickende Überlegungen zur Künstlichen Intelligenz

 

Von Rüdiger Stix

Künstliche Intelligenzen kennt jeder, zumindest in den dramatischen Bildern zahlloser Romane und der Science-Fiction-Filme. Sie haben unsere Vorstellungen geprägt – von der „Space Odyssey“ über das „Sky Net“ im „Terminator“ bis zu Internetwelten der „Matrix“. Auch Mensch/Maschine-Schnittstellen, einschließlich der BCI/Brain Computer Interfaces finden wir zwischen Cyborgs, „Iron Man“ und „Avengers“ oder „Avatar“

Die gesellschaftlichen und auch die wissenschaftlichen Begleitdebatten schwanken dabei stets zwischen Beschwichtigung und Alarmismus – also zwischen der beruhigenden Behauptung, dass es sich lediglich um phantasievolle „Science Fiction“ handelt und den Weckrufen, dass wir es mit „Science“ zu tun haben, und nicht mehr mit bloßer „Fiction“.

„Dumm wie ein Sieb“ sei die KI/Künstliche Intelligenz, so hört und liest man allenthalben (beispielsweise im deutschen Nachrichtenmagazin „Der Spiegel“, gleich in der zweiten Ausgabe zu Beginn des Jahres). Viele Gelehrte weisen darauf hin, das selbst dreijährige Kinder besser und schneller geeignet sind, Ähnlichkeiten zu erkennen – auch wenn unsere Dreijährigen normalerweise nicht in der Lage sind, strategische Bomber auf schwankenden Flugzeugträgern zu landen, oder Hautkrebs und Herzrhythmusstörungen an medizinischen Geräten besser zu erkennen als ziemlich erfahrene Fachmediziner.

Gleichzeitig ist das weltweit am meisten verbreitete Werk ausgerechnet die Betrachtung eines Historikers, Yuval Noah Harari, der in seiner Universalgeschichte „Homo Deus“ den Bogen spannt vom Beginn der Menschheit bis zu den Möglichkeiten eines „Transhumanismus“, von dem wir nicht wissen, wohin er uns führen wird, sobald Rechner wesentlich mehr wissen und können als wir Menschen, und vielleicht selbst so etwas wie ein reflexives Bewusstsein entwickeln. Ob sie diese Selbsterkenntnis schaffen, ist heftig umstritten. Völlig klar absehbar ist jedoch, dass wir menschliches Wissen und Bewusstsein auf Gehirnstrombasis vernetzen (und vielleicht transferieren) können, im Austausch mit anderen Menschen und ins Netz … und damit vielleicht „Die letzten Tage des Todes“ begonnen haben, wie dies Yuval Harari in seinem „Homo Deus“ diskutiert.

Damit sind wir auch schon an einer anderen, sehr stimmungsvollen und eindringlichen Betrachtung des Endes unseres Lebens.

Der mit dem Tod Schach spielende Kreuzritter

Heuer ist es 60 Jahre her, dass Ingmar Bergman weltberühmt wurde mit seinem Film „Das siebente Siegel“. In Schwarzweiß gehaltenen Bildern und im Stile eines Mysterienspieles nach dem Vorbild eines mittelalterlichen Totentanzes zweifelt ein heimkehrender Kreuzritter an seinem Glauben, versucht ritterlich Frauen zu schützen vor Verbrechern, und er trifft auf den personifizierten Tod. 

Dieser will ihn mitnehmen, sofort. Er ist jedoch einverstanden, die Lebensspanne des Ritters solange auszudehnen, als dieser ihn im Schachspiel besiegen kann… Das heurige 60-Jahre Jubiläum des „Siebenten Siegels“ ist nicht nur eine Gelegenheit, die eindrucksvollen Bilder Ingmar Bergmans wieder auf uns einwirken zu lassen. Es ist auch der Anlass für eine Positionsbestimmung, wo denn der personifizierte Gevatter Tod im Schachspiel steht, und wo wir, als fühlende und intelligente Wesen, denn im Vergleich zu den aufkommenden künstlichen Intelligenzen stehen? Unbestritten greift Ingmar Bergman auf Motive zurück, die sehr tief in unserer Kultur verankert sind. Der Tod als „Gevatter Tod“ in unseren Märchen, der sich solange zurück hält, wie noch eine Kerze brennt, nur sichtbar für die Hauptfigur aus Grimms Märchen „Der Gevatter Tod“ ist nicht per se böswillig – und wird von einem „armen, verzweifelten Mann“ gesucht für sein dreizehntes Kind als Taufpate, als ein „Gevatter“, nachdem der Mann „den lieben Gott“ als Taufpaten, als „Gevatter“ abweist („du gibst den Reichen und lässt den Armen hungern“), sowie den Teufel („du betrügst und verführst die Menschen“) und erst denjenigen, „der alle gleich macht“, akzeptiert. Natürlich sind viele Darstellungen auch dunkler. Wir kennen den personifizierten Tod als „Schnitter“, als „Grim Reaper“, oder im „Jedermann“, usw., sowie im spätmittelalterlich populären Totentanz, und dabei selbstverständlich auch den Tod personifiziert als Schachspieler (auch in den Landen Ingmar Bergmans, etwa in der Kirche von Täby, gemalt von Albertus Pictor im 15ten Jahrhundert).

Jetzt, im einundzwanzigsten Jahrhundert, sieht jedoch Yuval Noah Harari „Die letzten Tage des Todes“ heraufziehen in seinem Weltbestseller „Homo Deus“. Nein, nicht deshalb, weil wir Menschen plötzlich unsterblich geworden sind. Allerdings, so Yuval Noah Harari, „huldigten etwa Christentum, Islam oder Hinduismus stets etwas, das oberhalb oder jenseits des irdischen Daseins stand … (und) einige waren geradezu verliebt in Gevatter Tod“ … und Yuval Noah Harari fährt fort: „In Wirklichkeit aber sterben Menschen nicht, weil eine dunkel gewandete Gestalt sie an der Schulter packt“, sondern weil vitale Systeme unseres Körpers versagen, manchmal natürlich auch wegen gewaltsamer Einwirkung von außen.

Woher komme ich? Wohin gehe ich? Worauf dürfen wir hoffen?

Lassen wir an dieser Stelle vorerst einmal beiseite, wie wir mit unserem heutigen Wissen vielleicht auch die letzten Fragen des Menschen neu aufrollen könnten: Woher komme ich? … wohin gehe ich? … und worauf dürfen wir hoffen? … um beispielsweise mit Immanuel Kant zu sprechen.

Unbestritten bleibt jedoch, dass sich vor gerade einmal 60 Jahren ein personifizierter Tod mit einem Menschen gemessen hat, mit einem heimkehrenden Krieger, einem Ritter, im Wettkampf in einem alten Strategiespiel, das seit Jahrhunderten eingebettet in unsere Kultur ist, dem Schach – und wir alle diese filmische Visualisierung als erschütterndes existentialistisches Kunstwerk, und als intelligent-verständnisvoll und tiefsinnig erleben konnten.

Wenn wir uns nun als Menschen selbstkritisch und ehrlich (ver)messen wollen, dann ist nicht nur die Frage offen, ob – dereinst vielleicht in einem „Transhumanismus“ – unsere physisch irdische Identität in ein Netz geladen werden könnte, und wir dadurch faktisch unsterblich würden. Wir sollten uns gerade jetzt auch ehrlich fragen, woran wir denn bisher beispielsweise so etwas wie „Einsicht, Erkenntnis und Intelligenz“ gemessen haben (wobei wir uns vorweg noch kurz von den Messungen der Verteilungskurven kognitiver Fähigkeiten in standardisierten Intelligenztests lösen wollen). Selbstverständlich hätten vor 60 Jahren wohl die allermeisten Menschen auf beiden Seiten des Eisernen Vorhanges angenommen, dass eine unglaublich gebildete, einsichtsvolle Intelligenz gegen sie wirkt, wenn diese ihre amtierenden Großmeister im Schach schlagen kann.

Stellen wir uns einen Wettkampf vor 60 Jahren vor, eine internationale Schachmeisterschaft, in der das Prestige der Supermächte gefordert ist, im ersten Jahr des Weltraumfluges mit dem Sputnik (1957), und erlauben wir einem Team von Großmeistern alle nur denkbaren Hilfen, und mit Beraterinnen und Beratern ihrer Wahl auf einer Seite des Vorhanges zu sitzen, und auf der anderen Seite des Vorhanges eben den oder die Gegenspieler … offensichtlich unschlagbar intelligent und strategisch einsichtig … Noch zu Zeiten des kalten Krieges hätte das wohl jede der Supermächte als ein unerreichbares Beispiel an kulturell konnotierter Intelligenz gewertet …

Wie schon angerissen, messen wir weltweit kognitive Fähigkeiten in Häufigkeitsverteilungen der Intelligenztests (mit allen Einschränkungen, aber auch mit getesteter Validität der Aussagekraft dieser differentialpsychologischen Diagnostik), und es ist für uns darüber hinaus auch implizites Wissen als „Erkenntnis“, und manchmal auch als Weisheit, als Schönheit oder als innere Stärke zumindest erfahrbar, wenn auch nicht immer exakt messbar – im Erwachen unseres Geistes bis zu unserem Abschied aus unserem Leben, und jeder wird wohl die Erbauer von Stonehenge, die Architekten der Pyramiden oder gotische Dom-Baumeister als „intelligent“ bezeichnen, auch, weil sie hochwertigstes Fachwissen und implizite Informationen, also ein „Wissen“ etwa über ästhetische Kategorien, wie „Schönheit“ miteinander vereinen konnten.

Wie viele Sandkörner bilden einen Haufen?

Wir erkennen implizites „Wissen“ sogar empirisch messbar bei quantitativen Systemübergängen, wenngleich oft erst im Nachhinein: Wie viele Sandkörner bilden einen Haufen – mit und ohne Sieb – und wie viele Haare formen einen Schwanz? Implizite Informationen sind auch in einem anderen universellen Phänomen sehr gut gespiegelt – etwa in epidemiologischem Wachstum – und dort recht gut berechenbar in Diffusionsgleichungen: Wir kennen dies aus dem Wachstum in ökologischen Nischen und in Marktnischen. Es ist meist gut berechenbar in Diffusionsgleichungen bei Bakterienkulturen auf Agar-Agar, bis hin zu der ökologischen Abhängigkeit der Fressfeinde von ihren Beutetieren, oder in der explosionsartigen Ausbreitung des Lebens auf unserem Planeten…

Hierzu gehören auch alle Modelle von langwelligen Entwicklungen: Etwa die großen Substitutionswellen der Energieversorgung, oder die uns heute bestimmenden Schlüsseltechnologien – also etwa die Substitution von Pferdekutschen durch Autos, der Ersatz von Kohle durch Erdöl, und inzwischen von Erdöl durch die Generatoren moderner Windkraftwerke und durch Solarzellen mit steigendem Wirkungsgrad, usw. Diese Beobachtung von möglichen, langwellig zu beobachtenden Rückkopplungsprozessen führt uns in jene Diskussionskapitel, in dem wir kulturell erworbenes implizites Wissen als Gesellschaft in unseren sozialen Interaktionen verwenden: für Ergebnisse, die sich jeder individuellen Planbarkeit entziehen.

In diesem Sinn ist daher jeder funktionierende Markt, sowohl im Austausch von Ideen, als auch im Austausch von Leistungen, ein Erkenntnis gewinnender Prozess, der unendlich mehr Information enthält, als es jemals ein einzelnes Gehirn erfassen, planen oder steuern könnte. Das ist nicht neu, und es macht alle unsere menschlichen Kulturen aus, die uns umschließen, und die niemals von Einzelmenschen in ihrer Tiefe und ihrer Breite verarbeitet oder gar geplant werden könnten – nicht einmal in den totalitärsten aller Diktaturen.

Wo stehen heute selbstlernende Künstliche Intelligenzen? 

Sehen wir uns als Beispiel die Entwicklung zweier Kulturen an, die wohl alle kennen, und die seit Jahrhunderten eingebettet sind in unsere Vorstellung von „Intelligenz“: zwei Systeme mit klaren Prinzipien, und vor allem mit überschaubar widerspruchsfreien Regelsätzen. Wir waren wir uns dennoch seit Jahrhunderten absolut sicher, dass die Meisterung dieser Systeme viel mehr verlangt als die bloße Kenntnis der Regeln und den Austauschprozess mit dem Gegenüber.

Betrachten wir daher zuerst das „Spiel der Könige“, das Schach. Bei der Klassifikation der Spielstärken halten wir uns traditionell an einen weltberühmten amerikanischen Ungarn, Arpad Elöl, mit den nach ihm benannten ELO-Punkten für das Schachspiel: Es handelt sich dabei um Ranking-Verfahren, das auf Schach genauso wie auf eine Fußball-WM, auf Tischtennis oder auf Klassen von Medizinpreisträgern, Juristen, Sängern, Hauben-Restaurants, auf Wissenschaften oder Generäle angewandt werden kann – und auch auf Computer untereinander… und wir können es verbinden mit den Analysen eines anderen weltbekannten Ungarn, mit Laszlo Merö („Habits of mind, The power and limits of rational Thougt“, 2002). Folgen wir dieser Idee der Rankingverfahren, und insbesondere Laszlo Merö in seinem Ansatz, dann können wir in den Strategiespielen etwas finden, was er die „Tiefe“ eines strategischen Spieles genannt hat.

Wettbewerbskategorien werden dabei dadurch definiert, dass Klassen von Teilnehmern nach ihrer Fähigkeit zusammengefasst sind, wenn diese in der Lage sind, zumindest 75 % aller anderen Teilnehmer zu schlagen. 

Mit dieser Kategorisierung ist es denklogisch, dass wir Teilnehmerklassen für jede Art von Wettbewerben formulieren können, egal ob dieser Bewerb auf sehr präzisen Messergebnissen beruht wie bei Autorennen, oder auf sehr subjektiven Bewertungen, wie etwa beim Vorspielen mit Instrumenten vor großen Musikorchestern. Betrachten wir Wettkampfklassen beispielsweise bei verhältnismäßig unbestritten messbaren Leistungen, bei Laufzeiten von Sportlern, bei Fahrzeiten in Regatten oder auch in der Kapazität der Informationsverarbeitung etwa in den (speziellen Teilgebieten von kognitiven Fähigkeiten bei) Intelligenztests: Wir wissen auch, dass etwa die Differenz zwischen einem IQ von 94 auf einen IQ von 130 annähernd den Unterschied ausmacht von ca. dem doppelten Leistungsvermögen in einer äquivalenten Informationsverarbeitung … Wir alle wissen auch sehr praktisch, dass wir bei Übermüdung oder unter Alkohol- und Drogeneinfluss diese speziellen kognitiven Fähigkeiten unserer (hoffentlich gut entwickelten) „Intelligenz“ auch in diesem Ausmaß rasch beeinträchtigen können: etwa von „teilweise hochbegabt“ herunter auf „teildebil“ und unfähig, auch nur das eigene Auto zu öffnen …

Es ist also nachvollziehbar, wie wir etwa auch im Schach, vom Laien bis zum Großmeister, klassifizieren können: indem man sie gegeneinander antreten lässt… Es werden sich aus der Evolution der Wettkampfergebnisse heraus Klassen von Meistern ergeben – und man wird eben Großmeister dadurch, dass man andere, ebenfalls meisterlich spielende Mitbewerberinnen oder Bewerber zumindest meistens besiegen wird – und vor diesem Verständnis macht es Sinn, wenn eine personalisierte Wesenheit wie der Gevatter Tod aus den Märchen der Gebrüder Grimm und den spätmittelalterlichen Wandmalereien sich doch gelegentlich auf eine Partie Schach mit einem Menschen einlässt … so auch der Tod aus dem siebenten Siegel von Ingmar Bergman vor 60 Jahren.

Selbstverständlich ist es nicht ganz eindeutig, was wir in den Wettbewerbsklassen messen: wir erfassen damit ja nicht nur kognitive Dimensionen des impliziten Wissens, sondern auch Faktoren von physischer und psychischer Widerstandsfähigkeit … sowie zahllose Bedingungen eines umgebenden Systems. So sagt etwa eine Entscheidung nach einem Wettbewerbsverfahren über einen „Oscar“-Filmpreis oft mehr aus über die Jurorinnen und Juroren der AMPASS, der „Academy of Motion Pictures Arts and Sciences” sowie über die Werbebudgets der Filmindustrien zwischen Bollywood und Hollywood – aber immerhin, es gibt damit ein weltweit als maßgeblich beachtetes Wettbewerbsverfahren.

Beobachten wir daher die Kultur der Strategiespiele auch im Kontext der großen strategischen Denkschulen, die das moderne strategische Denken beherrschen. Sie alle lassen sich – zumindest derzeit noch – nicht in programmierbare Algorithmen fassen, wenn es um strategische Entscheidungen in einem komplexen Umfeld geht. Wir blicken dabei auf Clausewitz als dem weltweit am meisten beachteten neuzeitlichen strategischen Denker genauso wie auf zahllose Inputs aus allen Kulturen, von Niccolo Machiavelli aus der europäischen Renaissance, über Persien bis Indien, und weiter auf Sun Zi (Sun Tsu), als dem sicher am meisten zitierten strategischen Denker des chinesischen Kulturkreises. Er hat als Zeitgenosse fast parallel gewirkt zu Thucydides, der bekannt ist mit seinen Werken über den Peloponnesischen Krieg, also der Epoche zwischen den klassischen griechischen Staaten und dem Großreich der Perser … und vom persischen Schah stammt ja auch der Begriff „Schach“, wodurch es eben zum „königlichen Spiel“ wurde.

Daneben steht natürlich auch die psychologische Faszination des Schach. Manche werden noch die „kleine Schachnovelle“ von Stefan Zweig kennen, sein letztes Werk aus dem brasilianischen Exil, wo eine Persönlichkeitsspaltung eines legendären Großmeisters die Hauptrolle spielt.

Benjamin Franklins „hochherzige Höflichkeit“

Es war auch niemand geringerer als der Naturforscher, Philosoph und einer der Gründungsväter der USA, Benjamin Franklin, der in einem 1779 geschriebenen Werk über „The Morals of Chess“ nachgedacht hat. Es handelt sich dabei um einen philosophischen Aufsatz, in dem Benjamin Franklin einen Vergleich zwischen den Spielregeln des Schachs und dem sittlichen Handeln des Menschen aufstellt. Selbstverständlich sind moderne Schachcomputer nicht speziell darauf optimiert, sich an diese sittlichen Regeln von Benjamin Franklin zu halten. Sie legen daher leider auch die von uns allen, und von Benjamin Franklin so geschätzte „hochherzige Höflichkeit“ nur dann an den Tag, wenn wir sie darauf nachprogrammieren… Was ein Schachcomputer allerdings besser kann, ist auch klar: blindes Rechnen, dies aber in höchster Geschwindigkeit. 

Echte Herausforderer für menschliche Großmeister wurden sie natürlich nicht vor 60 Jahren im Jahr des Sputnik und des „Siebenten Siegels“, sondern erst in den Jahren rund um den Fall des Eisernen Vorhangs und der Berliner Mauer, 1989, als IBM mit „Deep Thought“ gegen Kasparow angetreten ist. Als dann ein Jahrzehnt später „Deep Blue“ endgültig die Oberhand gewinnen konnte, 1997, war „Deep Blue“ in der Lage, ca. 200 Millionen Positionen pro Sekunde zu evaluieren. Heute wäre dies nur mehr eine mäßige Leistung, allerdings – und dies ist von elementarer Wichtigkeit – wir konnten noch nachrechnen, wie der Computer zu seinem Ergebnis gekommen ist …

Wie das Schach, von Persien kommend, die westliche Kultur geprägt hat, so hat auf der anderen Seite das Go, ursprünglich aus China kommend, in der gesamten konfuzianischen Welt seinen Siegeszug geschafft und ist daher nicht nur in der chinesischen Kultur, sondern auch in Japan und in Korea höchst populär. Werfen wir daher auch einen Blick auf die Ränge von Go-Spielern nach denselben oben angeführten Prinzipien in „Wettbewerbsverfahren“, so sehen wir, dass es mehr Wettbewerbsklassen als im Schach gibt, was dadurch entsteht, dass unser Problem des impliziten Wissens schon viel früher auftritt. Schach umfasst zwar eine den menschlichen Geist überfordernde beeindruckende Anzahl von Möglichkeiten. Go hat aufgrund seiner Bauart aus einem Regelsatz von einigen wenigen simplen Regeln und Elementen jedoch die Konsequenz, dass es eine vielfach größere Anzahl von möglichen Figurenkombinationen in einem komplexen System zulässt (in der Spieltheorie wird Go dem endlichen Nullsummenspiel mit perfekter Information zugeordnet).

Dieser Umfang an nicht formalisierbar auszudrückendem impliziten Wissen führte auch dazu, dass es mit den vorhandenen Rechenleistungen in einem „brute force“-Ansatz nicht möglich war, die Großmeister des Go-Spiels zu besiegen, in dem man mit einem „Durchprobieren“ aller möglichen Züge die impliziten mentalen Kapazitäten von menschlichen Großmeistern im Wettkampf schlagen konnte – durch die bloße Geschwindigkeit des Durchrechnens. 

„Alpha Go“ und „Alpha Zero“

„Alpha Go“ verwendete daher (2016) einen anderen Ansatz: tiefe neuronale Netzwerke und eine Baumsuche, wobei ein Regelnetzwerk trainiert wird mit einem überwachten bzw. bestärkenden Lernen und einem Bewertungsnetzwerk. Inzwischen wurde diese Fähigkeit der Selbstmodifikation durch „Alpha Zero“ (2017) derartig gesteigert, dass nicht einmal Referenz-Partien eingegeben werden müssen. Das Programm lernt dadurch, dass es nur mit Kenntnis der Spielregeln solange gegen sich selber spielt, bis es alle Großmeister besiegen kann, die jahrzehntelang intensiv gelernt und geübt haben, und die auf den Stufen von jahrtausendealten Hochkulturen des strategischen Denkens stehen. Die Lern- und Übungsphase des Programms Alpha Zero dauert aber nur mehr ein paar Stunden …

Wir wissen aber nicht mehr, wie Programme, diese selbstlernende KI, zu ihren Ergebnissen kommen. Ironischerweise hat sich daher die Geschichte jetzt um 180 Grad gewendet: 

Am Beispiel der traditionellen Strategiespiele Schach und Go hat sich seit etwa der Wende im Jahr 1989 gezeigt, dass zuerst die Rechner mit immenser Rechengeschwindigkeit die komplexen strategischen Problemlösungen besser simulieren konnten als unsere menschlichen Großmeister, die sich ihre Meisterschaft durch jahrzehntelange Bewährung in Turnieren errungen hatten. Danach bedurfte es seit 2015 der Rechengeschwindigkeiten im Stapeln von jenen neuronalen Netzen, die wir seit Jahrzehnten theoretisch modelliert haben, um mit selbstmodifizierenden Rechnern auch im Go-Spiel für Menschen unbesiegbar zu werden. Nunmehr versucht die US-Verteidigungsforschungsagentur DARPA seit 2017 dahinter zu kommen, wie denn selbstmodifizierende Rechner zu ihren Ergebnissen gelangen. Sie verwendet dafür ein Strategiespiel: „Star Craft“ …

Man kann natürlich zur Künstlichen Intelligenz auch „Dumm wie ein Sieb“ sagen … aber jede Wette: Zu Zeiten Ingmar Bergmans hätte es ganz anders geklungen …

Anmerkung

Wer es nachlesen möchte:

Bearbeitungsstand: Sonntag, 28. Jänner 2018

Mit Unterstützung von:

Verweis in neuem Fenster öffnen

Ja, senden Sie mir die GENIUS-Briefe gratis zum Kennenlernen an diese meine E-Mail-Adresse:

Mir ist bekannt, dass ich obige Zusendung jederzeit stornieren kann. Dazu muss ich nur auf die letzte Zeile in jedem GENIUS-Brief klicken.
Meine E-Mail-Adresse wird nur für Versandzwecke gespeichert.
 

 
Genius – Gesellschaft für freiheitliches Denken, Verein mit Sitz in Wien. ZVR 127778490
A-1010 Wien, Kärntner Ring 10/Top 2A, Telefon +43/0/650 7982 151, EMail: verein@genius.co.at
Wiedergabe von Genius-Lesestücken nur mit Zustimmung der Genius-Gesellschaft