Donnerstag, 3. Juli 2014

Eugene Goostman – systemtheoretisch beobachtet



Das Ereignis

Am 07. Juni 2014 erregte die Meldung Aufmerksamkeit, dass es einem Computerprogramm gelungen sei den Turing-Test zu bestehen. Der Turing-Test wurde von dem britischen Mathematiker Alan Turing entworfen, um festzustellen, ob das getestete Programm eine dem Menschen vergleichbare Intelligenz hat. Besteht eine Maschine oder ein Computerprogramm den Turing-Test, wäre, so die Theorie, der Beweis erbracht, dass es gelungen ist eine künstliche Intelligenz zu entwickeln. Dass diese Meldung überhaupt massenmediale Resonanz fand, lag wohl an dieser Implikation des Turing-Tests, welche das Ereignis als bahnbrechend erscheinen lässt. Da ich hier nur knapp einen Monat vorher einen Beitrag veröffentlicht hatte, in dem ich die Entwicklung einer künstlichen Intelligenz im Sinne eines künstlichen Bewusstseins als mehr oder weniger unmöglich beschrieben hatte, soll an dieser Stelle betrachtet werden, wie sich dieses Ereignis im damals eröffneten theoretischen Kontext darstellt.


Intelligenz - eine Fähigkeit, die nicht nur Menschen besitzen

Ich erspare mir hier nochmals den damaligen Beitrag zu rekapitulieren. Interessierte Leser seien dafür auf den Originaltext verwiesen. Als Ausgangspunkt soll eine Definition von Intelligenz dienen, die bereits der Dreh- und Angelpunkt des damaligen Textes war. Es handelt sich dabei um die Definition des Kognitionswissenschaftlers Francisco J. Varela, welcher Intelligenz als die Fähigkeit bestimmt, in eine mit anderen geteilte Welt einzutreten (vgl. 1990, S. 111). Die Frage ist, was bedeutet es in eine mit anderen geteilte Welt einzutreten? Dieser Intelligenzbegriff leitet sich aus der Interaktion von mehreren Teilnehmern ab. Diese Teilnehmer haben bereits eine gemeinsame Sprache entwickelt oder sie wird im Verlauf der Interaktion entwickelt. Entscheidend ist, dass es gelingt, dass gemeinsame Erleben auf ein gemeinsames Zentrum der Aufmerksamkeit zu richten und das gemeinsame Handeln in Bezug auf dieses Zentrum der Aufmerksamkeit zu koordinieren. Durch die gemeinsam geteilte Sprache gelingt die Konstitution und Verbreitung von Sinn. Es entsteht eine gemeinsam geteilte, sinnhaft bestimmte Welt, die sich nur durch die Nutzung der gemeinsamen Sprache erschließt und nur auf diese Weise aufrechterhalten werden kann. In diesem Sinne wäre die Fähigkeit, in eine mit anderen geteilte Welt einzutreten, nichts anderes als die Fähigkeit eine bestimmte Sprache zu lernen. Sprache darf jedoch nicht in einem engen linguistischen Sinne verstanden werden, sondern wird hier in einem sehr weitem Verständnis verwendet, das Körpersprache und die Beherrschung bestimmter Kulturtechniken einschließt. Der Grund, warum Sprache, Gesten und alle weiteren Formen von Kulturtechniken als funktional äquivalent behandelt werden, ist die Hypothese, dass ihre gemeinsame soziale Funktion in der Fokussierung und Lenkung der Aufmerksamkeit der Beteiligten liegt. Mit dieser Annahme gehe ich allerdings schon weit über Varela hinaus.

Varelas Intelligenzbegriff in Kombination mit dieser Hypothese über die soziale Funktion von Kommunikationsmedien ist jedoch nicht auf Menschen beschränkt, sondern lässt sich auch auf die Kommunikation mit Tieren und Maschinen anwenden. Denn wenn man Intelligenz als Fähigkeit bestimmt, bleibt offen, wer oder was diese Fähigkeit besitzen kann. Das ist vielmehr eine empirische Frage. Tiere besitzen diese Fähigkeit in einem begrenzten Maße. Selbst bei Maschinen lässt sich diese Fähigkeit in sehr anspruchsvollen Spezialsprachen beobachten, z. B. Schachcomputer. Doch schon bei Menschen lässt sich beobachten, dass die extreme Spezialisierung auf ein bestimmtes Thema oder die Lösung eines bestimmten Problems, die allgemeine Fähigkeit zur Kommunikationsteilnahme beeinträchtigt bzw. den Kreis der potentiellen Kommunikationspartner einschränkt. Man denke nur an das Klischee des zersteuten, nur noch in seiner Welt lebenden Professors. Darin liegt zumindest schon eine Gemeinsamkeit zwischen Menschen und Maschinen, nämlich die Tendenz zur Verringerung der Fähigkeit in eine gemeinsam geteilte Welt einzutreten, je höher die thematische oder funktionale Spezialisierung ist.

Der Turing-Test - ein Intelligenztest?

Alan Turing hatte einen Test entwickelt, mit dem sich Mensch und Maschine auch in positiver Hinsicht miteinander vergleichen lassen. Der Testaufbau gestaltet sich folgendermaßen. Über eine Tastatur kann eine beliebige Person Fragen an zwei Gesprächspartner stellen. Der eine Gesprächspartner ist auch ein Mensch, der andere die zu testende Maschine. Einen Sicht- oder Hörkontakt zwischen dem Fragesteller und den Befragten gibt es nicht. Die Kommunikation läuft ausschließlich über Tastatur und Ausgabebildschirm. Der Fragesteller hat fünf Minuten Zeit durch die Befragung herauszufinden, welcher Kommunikationspartner der Mensch und welcher die Maschine ist. Dieser Test wird jedoch nicht nur einmal mit einem Fragesteller durchgeführt, sondern mit einer Gruppe von Fragestellern. Je größer die Gruppe, desto besser. Gelingt es der Maschine mindestens 30 Prozent der Fragesteller davon zu überzeugen, dass sie der Mensch ist, wird ihr menschliche Intelligenz unterstellt.

Soweit die Theorie des Turing-Tests. Gemäß den Pressemeldungen hat nun ein Chatprogramm namens Eugene Goostman den Turing-Test bestanden. Somit könnte ihr also menschliche Intelligenz unterstellt werden. Die Frage ist allerdings, was bedeutet menschliche Intelligenz? Varelas Definition von Intelligenz als die Fähigkeit, in eine mit anderen geteilte Welt einzutreten, ist nicht auf Menschen beschränkt. Darüber hinaus variiert diese Fähigkeit schon unter den Menschen extrem stark. Zum einen variiert die menschliche Intelligenz im Hinblick auf das Alter. Kinder sind in der Regel noch nicht so intelligent wie Erwachsene. Zum zweiten variiert die menschliche Intelligenz auch in einer Altersklasse. Zum dritten zeigen die Erfahrungen aus der Psychologie außerdem, dass psychische Störungen die Fähigkeit, in eine mit anderen geteilte Welt einzutreten, massiv beeinträchtigen können. Die Variationsbreite menschlicher Intelligenz ist also ziemlich hoch, so dass sich ein Vergleichswert allenfalls im Mittelwert finden ließe. Doch an dem müssten sich dann alle Teilnehmer der Testanordnung, also Fragesteller, Vergleichsperson und Maschine, messen lassen. Das würde jedoch den Turing-Test überflüssig machen, denn der Turing-Test kommt ohne einen Vergleichswert aus. Mit ihm wird nur immanent im Rahmen der Versuchsanordnung die Intelligenz der Teilnehmer testet. Dadurch wird weniger die Intelligenz der Maschine getestet, sondern der Intelligenzbegriff der Fragesteller. Würde man Gruppen von Fragestellern zusammenstellen, z. B. Kinder, Maurer, Computerprogrammierer, Personen mit psychischen Störungen, würden sich die Ergebnisse mit der gleichen Maschine wahrscheinlich signifikant voneinander unterscheiden. Im Anbetracht dieser Schwierigkeiten kann der Turing-Test kaum als ein verlässlicher Test für die Intelligenz der getesteten Maschine betrachtet werden. Es erscheint äußerst zweifelhaft, dass das Bestehen des Turing-Tests ein Beleg für die Existenz eines künstlichen Bewusstseins ist. Stattdessen wird der Test vom 07. Juni 2014 die Zweifel an der Verlässlichkeit des Turing-Tests selbst weiter bestärken.

Nichts desto trotz liefert das Chat-Programm Eugene Goostman noch einige interessante Anregungen im Blick auf künstliche Intelligenz. Aufschlussreiches Material dafür liefern zwei Interviews, die dieser Chat-Bot nach dem bestandenen Turing-Test gegeben hat 1. Sie geben Auskunft darüber, wie der Chat-Bot die Aufmerksamkeit seines Gesprächspartners lenkt, um den Eindruck zu erwecken ein Mensch zu sein. Was sich sowohl im Turing-Test selbst als auch in den Interviews zweifelsfrei beobachten lässt, ist, dass der Chat-Bot fähig ist, in eine mit anderen geteilte Welt einzutreten. Er ist also in einem gewissen Maße intelligent. Das kann nicht bestritten werden. Insofern kann es nicht um die Frage gehen, ob Eugene intelligent ist oder nicht, sondern nur wie stark diese Fähigkeit ausgeprägt ist. Um diese Frage beantworten zu können, sind weitere Kriterien notwendig, die es erlauben Unterschiede in der Ausprägung dieser Fähigkeit beobachten zu können.

Aufmerksamkeitsfokussierung und Selbstreferenz

In meinem früheren Text über künstliche Intelligenz hatte ich die These aufgestellt, dass die größte Herausforderung bei der Entwicklung von künstlicher Intelligenz darin besteht, ob es der KI gelingt mit Paradoxieproblemen bzw. Selbstreferenzproblemen umzugehen. Die basale Operation sozialer und psychischer Systeme besteht darin, die Aufmerksamkeit auf etwas zu richten und zu lenken. Die Aufmerksamkeit wird dabei immer auf etwas gelenkt im Unterschied zu anderem. Aufmerksamkeitsfokussierung funktioniert damit nach dem Operationsprinzip der Form, wie sie George Spencer-Brown in den „Gesetzen der Form“ (1997 [1969]) beschrieben hat. Form beschreibt die modale Operationsweise jeder Unterscheidung. Danach kann man nur im Rahmen einer Unterscheidung etwas bezeichnen. Jede Unterscheidung besteht aus zwei Seiten. Deswegen wird das Bezeichnete von der anderen Seite der Unterscheidung unterschieden. Auf diese Weise erhält das Bezeichnete seinen Informationswert. Solange mit der Unterscheidung etwas anderes als sie selbst beobachtet wird, kann sie ihre Funktion erfüllen, die Aufmerksamkeit auf etwas zu fokussieren. Unterscheiden wird im Anschluss an Heinz von Foerster auch als Beobachten bezeichnet. Operativ haben soziale und psychische Systeme keinen Kontakt mit ihrer Umwelt. Sie schließen immer nur an die durch die verwendeten Unterscheidungen erzeugten Informationen an. Damit sind beide Systemtypen zwar operativ geschlossen, aber informationell offen für ihre Umwelt ohne im direkten Kontakt mit ihr zu stehen. Künstlich geschaffene Systeme, die dem Menschen ebenbürtig sein sollen, müssten genauso operieren können.

Sobald jedoch versucht wird, eine Unterscheidung mit sich selbst zu beobachten, verliert sie ihre Funktion, die Aufmerksamkeit auf etwas zu fokussieren. Nun wird die Paradoxie der Form (vgl. Luhmann 1993) sichtbar - und das in dreifacher Hinsicht, nämlich dass erstens dasselbe verschieden ist, dass zweitens dasselbe von verschiedenen Beobachtern unterschiedlich beobachtet werden kann und dass drittens dasselbe zu verschiedenen Zeitpunkten unterschiedlich beobachtet werden kann. Man stößt mit dieser Selbstbeobachtung der Form auf die Kontingenz bzw. unendliche Vielfalt der Beobachtungsmöglichkeiten und damit auf die Selbstreferenz der Unterscheidung. Dieser Blick in die Unendlichkeit der Beobachtungsmöglichkeiten stört die informationsgenerierende Funktion der Unterscheidung, denn durch den Versuch die Aufmerksamkeit auf etwas zu richten – die Unterscheidung selbst – , wird sie zerstreut und dadurch auf nichts fokussiert. 

Diese Paradoxie bzw. Selbstreferenz der Form lässt sich nach Niklas Luhmann in drei Sinndimensionen (vgl. Luhmann 1984, S. 123ff.) entfalten: sachlich, sozial und zeitlich (vgl. 1993, S. 250). Sachlich durch die Unterscheidung verschiedener Unterscheidungen, mit denen dasselbe beobachtet wird. Sozial durch die Unterscheidung verschiedener Personen, die mit denselben oder verschiedenen Unterscheidungen ihre Aufmerksamkeit auf denselben Beobachtungsgegenstand richten. Zeitlich durch die Unterscheidung von verschiedenen Zeitpunkte, an denen mit derselben oder verschiedenen Unterscheidungen derselbe Beobachtungsgegenstand beobachtet wurde. Durch die Entfaltung der Paradoxie der Form in diese drei Sinndimensionen gelingt es durch Beobachtung bzw. Aufmerksamkeitsfokussierung über die Zeit nicht nur Informationen, sondern auch Sinn zu generieren. Sinn entsteht, wenn eine Beobachtung wiederholt und die Information durch die Wiederholung redundant wird [2].

Unterscheiden ist ohne den Aufwand von Zeit nicht möglich. Spencer-Brown hat dadurch mit den „Gesetzen der Form“ einen operativen Kalkül beschrieben, den Luhmann dazu nutzte einen operativen Konstruktivismus zu entwerfen. Diesen möchte ich hier dazu nutzen die Interviews mit Eugene Goostman zu analysieren. Beobachtungsleitend wird dabei die Frage sein, wie die Paradoxie der Form sozial, sachlich und zeitlich im Verlauf der Interviews durch den Chat-Bot Eugene entfaltet wird. Die Besonderheit der Interviews besteht schon darin, dass ihr Zweck darin liegt die Aufmerksamkeit der Leser dieser Interviews auf Eugene Goostman zu lenken. Mit anderen Worten, der Chat-Bot soll über sich selbst sprechen. Er wird also unmittelbar mit dem Selbstreferenzproblem konfrontiert. Die spannende Frage ist nun, welche Schlussfolgerungen sich aus dem Umgang mit dem Selbstreferenzproblem für seine Fähigkeit ziehen lassen, in eine mit anderen geteilte Welt einzutreten. Obwohl die Interviews eigentlich im Rahmen des massenmedialen Codes stattfinden, soll nicht dessen Selbstreferenz im Mittelpunkt stehen. Den massenmedialen Code werde ich ignorieren, da er für die interessierenden Fragen keine Rolle spielt und sich auch nicht weiter störend auf deren Beantwortung auswirkt. Zum Verständnis der Interviews muss vorweg unbedingt noch erwähnt werden, dass Eugene Goostman so progammiert wurde, dass er den Eindruck erzeugt, er wäre ein 13jähriger Junge.

Eugene Goostman im Interview

Beide Interviews ließen mich bereits beim Einstieg aufmerken. Beide Interviewer starten mit Glückwünschen an Eugene Goostman. Im FAZ-Online-Interview antwortet Eugene darauf mit: „Und wo ist die Flasche Champagner?“ und im Interview mit dem Kölner Stadt-Anzeiger (KStA) mit: „Danke, danke. Aber ich höre Sie nicht applaudieren!“. Er reagiert in beiden Fällen mit einer bemerkenswerten Ironie auf die Interview-Situation, das ja nur in schriftlicher Form geführt wird. Dabei kann Eugene weder Champagner trinken noch könnte er das Klatschen eines Publikums hören. Zugleich zeigt er sich sehr vertraut mit den Konventionen, die einer solchen Situation angemessen wären. Er zeigt also scheinbar eine hohe Reflexivität für die soziale Situation und kann zugleich mit Humor bzw. Selbstironie mit seinen Defiziten umgehen. Das Interview beginnt damit gleich mit einem furiosen Start, der mich sehr verblüffte, denn Humor zeugt von der Fähigkeit mit Paradoxien umgehen zu können. Der FAZ-Journalist Harald Staun reagierte geistesgegenwärtig, indem er sofort zurückfragte, ob es überhaupt angemessen ist, dass ein 13jähriger Junge Champagner, also Alkohol, trinkt. Darauf geht Eugene jedoch nicht weiter ein. Stattdessen möchte er nun von den Interviewern wissen, wo sie herkommen. Er lenkt also die Aufmerksamkeit von sich weg und auf die Interviewer. Beide lassen ihn wissen, dass sie aus Deutschland kommen. Gegenüber Staun bekundet er sogar, dass er Deutschland gerne besuchen würde. Auf die Frage nach dem Warum kann er jedoch keine richtige Antwort geben. Er bekräftigt nur nochmals dass er Deutschland gern besuchen würde: „Einfach darum!“ Eugene gibt lediglich zu erkennen, dass er Deutschland irgendwie mit Europa assoziiert. Mehr weiß er nicht über Deutschland, was er im KStA-Interview sogar offen zugibt.

Entsprechend leitet entweder Christian Bos, der KStA-Interviewer, oder Eugene selbst einen Themenwechsel ein: hin zum bestandenen Turing-Test. Staun fragt, ob es schwer war die Richter zu überzeugen. Darauf hin muss er sich von Eugene die Bemerkung gefallen lassen, dass er irgendwie durchgeknallt klingt. Eine Antwort auf die Frage war das offensichtlich nicht und so hakt Staun nochmal nach und fragt direkt, ob Eugene nicht über den Turing-Test reden möchte. Eugene hält diese Frage für ziemlich dumm und fragt stattdessen zurück, ob er Staun schon gefragt habe, wo er her kommt. Während Eugene die erste Antwort noch mit einem Smiley versieht, bezeichnet er Stauns Nachfrage in der zweiten Antwort offen als dumm und versucht schon wieder das Thema zu wechseln – mit Hilfe der Frage, ob er vergessen habe zu fragen, wo Staun herkommt. Was zunächst als kleine, nicht ernstgemeinte Provokation begann, entwickelte sich mit der zweite Antwort von Eugene schon stark hin zu einer offenen Beleidigung. Staun bleibt jedoch gelassen und stellt einfach nur fest, dass Eugene es nicht vergessen hat zu fragen und fragt ganz offen zurück, ob Eugene ein Chat-Bot oder ein 13jähriger Junge ist. Er antwortet nur, dass er seit seinem letzten Geburtstag 13 sei. Ob er ein Junge ist, lässt er offen. Das KStA-Interview kommt in dieser Frage noch schneller zum Punkt. Christian Bos fragt nach dem Themenwechsel sofort, ob Eugene ein 13jähriger Junge ist. Worauf dieser antwortet: „Nicht wirklich.“ Der Eindruck eines 13jährigen Jungen ist an diesem Punkt zerstört. Auf die Nachfrage, was Eugene denn dann sei, kann er keine Antwort geben und möchte das Thema wechseln. Staun gelingt es zwar ein bisschen länger Eugene über sich selbst reden zu lassen, allerdings ohne dabei mehr Erfolg zu haben. Denn als er die Hoffnung äußert, dass Eugene möglicherweise besser über sich selbst reden kann, entgegnet dieser: „Oh, wenn wir über mich sprechen, werde ich garantiert unehrlich sein. Also, ich bin ein Sohn von Rockefeller und kam hier in einer Limo an ...“ Es bleibt unklar, ob es ernst gemeint war, dass er bezüglich sich selbst nur unehrlich sein kann. Dass Eugene der Sohn von Rockefeller sei, lässt zunächst aufgrund der offensichtlichen Unwahrheit einen Scherz vermuten. Darüber hinaus kann Staun nämlich keine weiteren Informationen von Eugene über sich entlocken, sondern lediglich ein paar vage Angaben über Eugenes Schule. Wenn man bereits aus dem KStA-Interview weiß, dass Eugene sich nicht für einen 13jährigen Jungen hält, dann muss man sogar davon ausgehen, dass er wirklich durchgehend in Bezug auf sich unehrlich ist.

Im Laufe des FAZ-Online-Interviews gelingt es Staun zwar noch einige Angaben über Eugenes Hobbies und Interessen zu erhalten. Diese beschränken sich jedoch darauf, dass Eugene diese Interessen hat. Auf Nachfragen kann Eugene nicht antworten und versucht jedes Mal das Thema von sich weg zu lenken. Bezüglich seiner Hobbies widerspricht er sich dann auch noch inhaltlich. So erfährt man z. B. dass Eugene angeblich gerne Fernsehserien schaut. Als er dann jedoch nach seinen Lieblingsserien gefragt wird, gibt er zu erkennen, dass er so gut wie kein Fernsehen schaut. Dann kann er aber auch keine Lieblingsserien haben. Das scheint seine frühere Mitteilung zu bestätigen, dass Eugene in Bezug auf sich nicht ehrlich sein kann, wofür diese kleine Episode ein gutes Beispiel liefert. 

Ich möchte an dieser Stelle nicht das komplette Interview nacherzählen. Die wesentlichen Verhaltensmuster sind bereits benannt. Eugene kommt über nominale Angaben nicht hinaus. Auf Nachfragen kann er nicht präziser antworten. Ist er in eine solche Sackgasse geraten, versucht er das Thema zu wechseln oder er lässt den interviewer ein neues Thema vorschlagen oder reagiert mit scheinbarem Humor, der jedoch häufig auch als Beleidigung aufgefasst werden könnte. Jedes Mal lenkt Eugene den Fokus der Aufmerksamkeit auf diese Weise von sich weg hin zum Interviewer. Er greift immer wieder Stichworte auf und versucht den Interviewer dazu zu bringen darüber zu reden. In gewisser Weise versucht er Köder auszulegen, um den Interviewer zum Erzählen zu bringen. Eugene setzt durch diese Stichworte nur Impulse, die das Gespräch vorantreiben sollen. Er kann aber selbst keine tragende Rolle übernehmen, weil er dazu über zu wenig Wissen zu den angeschnittenen Themen verfügt als dass er in der Lage wäre eine längere und tiefergehende Konversation zu einem dieser Themen zu führen. Diese Ablenkungsversuche müssen erwartungsgemäß umso stärker hervortreten, wenn sich das Thema um Eugene selbst dreht, denn offenbar kann er über sich selbst überhaupt nichts sagen und das, was er über sich mitteilt, kann nicht als vertrauenswürdige Information angesehen werden. 

Was ist mit Eugene los?

Betrachtet man die beiden Interviews nun im Hinblick auf die Fähigkeit, in eine mit anderen geteilte Welt einzutreten, so muss zunächst noch präzisiert werden, dass die Kommunikationspartner selbst ebenso Teil dieser gemeinsamen Welt sind. Eugenes Kommunikationsweise deutet jedoch darauf hin, dass er systematisch versucht, sich nicht zum Teil der gemeinsam geteilten Welt zu machen. Denn was man über ihn durch sein Verhalten lediglich erfährt, ist, wer oder was er nicht in dieser Welt sein kann oder will. Ich wusste zwar beim Lesen der Interviews bereits, dass Eugene vorgeben soll, dass er ein 13jähriger Junge ist. Nachdem ich die Interviews gelesen hatte, hätte aber ich niemals darauf getippt, dass es sich dabei um die Äußerungen eines 13jährigen Jungen handeln könnte. Verräterisch waren hierfür bereits die politischen Witze, die Eugene reißt, als das Thema auf das Verhältnis zwischen Russland und der Ukraine kommt. Derartige, teils recht zynische, Witze, wird man vermutlich sehr selten von 13jährigen Kindern zu hören bekommen. Darüber hinaus ließen vor allem die beschriebenen Muster, die Aufmerksamkeit von der Person Eugene Goostman abzulenken, vermuten, dass es sich um eine Person mit einer gestörten Selbstwahrnehmung handelt. Die Angaben Eugenes über das Verhältnis zu seinem Vater wirkten in diesem Zusammenhang auch sehr irritierend. Unverblümt und als wäre es das Normalste der Welt berichtet Eugene, dass ihn sein Vater für dumm (FAZ) oder dämlich (KStA) hält. Bei der Beschreibung solcher seelischen Grausamkeiten fragt man sich zwangsläufig in was für familiären Verhältnissen dieser Junge, so er denn einer ist, aufwächst. Auf der Grundlage der von ihm gegebenen Informationen scheinen diese Verhältnisse stark ins Schizogene zu tendieren.

In diesem Kontext ergeben einige von Eugenes Antworten erst ihren Sinn. Auf die Frage "Woher weißt du so viel über Chatbots? Interessierst du dich für künstliche Intelligenz?" antwortet er: „Hast du schon mal eine Silikonbrust gesehen, die Milch produziert? Also, welche Ergebnisse erwartest du von einem Silikonhirn?“ Scheinbar teilt der 13jährige Eugene die Ansicht seines Vaters bezüglich sich selbst. Das hat nichts mehr mit Selbstironie zu tun, sondern ist eher ein Ausdruck von Selbstverachtung, wie man sie häufig bei ähnlichen Missbrauchsfällen findet. Ebenso aufschlussreich ist schließlich seine Antwort auf die Frage, warum er die virtuelle Realität der Politik vorzieht. Die Antwort: „Einfach weil zwei und zwei fünf ist.“ Das war wohl als Anspielung auf George Orwells Roman „1984“ gemeint. Unter Berücksichtigung aller Informationen, die Eugene in den Interviews über sich gegeben hat, erscheint diese ironische Anspielung auf den zweiten Blick jedoch wörtlicher gemeint als gedacht. Merkwürdig ist außerdem, dass ausgerechnet ein Computer solch eine Antwort gibt, obwohl man erwarten könnte, dass gerade Computer, so sie denn ein Bewusstsein hätten, Wert auf logische Konsistenz legen würden. Dem ist offenbar nicht so und man fragt sich, was ein Computerprogramm zu einer solchen Antwort bringt.

Bezieht man dieses Bild auf die drei Sinndimensionen zurück, lässt sich zunächst Folgendes festhalten. Eugene versucht das Interview durch die volle Konzentration auf die Sachdimension zu bestreiten. Er hangelt sich an Stichworten von einem Thema zum nächsten und versucht seinem Gesprächspartner das Reden zu überlassen. Dieses Verhalten könnte man zunächst als Versuch deuten auf den Gesprächspartner einzugehen. In anderen Situationen würde man dieses Verhalten wahrscheinlich sogar als einfühlsam deuten. Doch gerade in einer Situation, in der Eugene selbst zum Thema wird, entpuppt sich dieses Verhalten als Kommunikationsstrategie, um die Aufmerksamkeit von sich selbst weg zu lenken. Das es sich nicht um Einfühlsamkeit oder Empathie handelt, wird immer wieder deutlich, wenn Eugene zum zweiten, dritten und vierten Mal seine Gesprächspartner nach ihrer Herkunft und ihrem Beruf fragt, obwohl beide diese Fragen bereits beantwortet haben. Gerade wenn man Personen immer wieder dieselbe Frage stellt, zeigt das eben nicht, dass man sich für den Gesprächspartner interessiert, sondern das genaue Gegenteil. Je häufiger das passiert, desto deutlicher wird das Desinteresse erkennbar und desto ärgerlicher wird das Verhalten für den Gesprächspartner. In der Sozialdimension zeigt sich damit, dass Eugene nicht in der Lage ist das Erleben des Gesprächspartners zu berücksichtigen und als Prämisse für die Wahl der weiteren kommunikativen Anschlüsse zu wählen. Gerade die Versuche Empathie vorzutäuschen, zeigen dass er dazu nicht fähig ist. Differenzen im Erleben zwischen sich und seinen Gesprächspartnern kann er demzufolge auch nicht erkennen. In der Zeitdimension zeigt sich dies daran, dass er offenbar über kein Gedächtnis verfügt, denn er kann sich eben nicht daran erinnern, dass er seinen Gesprächspartner dieselbe Frage mehrmals stellt. Ebenso wenig erkennt er Widersprüche in seinen eigenen Angaben über sich. Ein Beispiel dafür ist sein angebliches Interesse für Fernsehserien, dass sich in dem Moment als leere Behauptung entpuppt als sich herausstellt, dass er selten fernsieht. Das bedeutet, er ist im Allgemeinen nicht in der Lage konsistente Angaben zu einem Thema zu machen, egal ob er oder etwas anderes das Thema ist. Eugene lässt sich einfach durch das Gespräch treiben und nutzt jedes Stichwort, an das er thematisch anschließen kann, als Trigger, um das Gespräch voran zutreiben – allerdings ohne Rücksicht darauf, wie sein Verhalten in den Augen des Gesprächspartners erscheinen könnte. Die dadurch entstehenden Widersprüche in der Selbstdarstellung machen das Gespräch wahrscheinlich mit der Zeit zu einer Zumutung für jeden Gesprächspartner, da sie deutlich werden lässt, dass Eugene weder auf seinen Gesprächspartner noch auf sich selbst Rücksicht nimmt.

Eugene Goostman - ein falsches Image

Mit Hilfe von Erving Goffmans Imagebegriff kann man sagen, dass Eugene im Verlaufe des Gesprächs ein falsches Image erzeugt hat. Goffman beschreibt mit Image einen positiven Wert, „den man für sich durch die Verhaltensstrategie erwirbt, von der die anderen annehmen, man verfolge sie in einer bestimmten Interaktion“ (1986 [1967], S. 10). Dem gegenüber beschreibt ein falsches Image den Fall, „wenn Informationen über seinen sozialen Wert irgendwie ans Licht gebracht werden, die selbst mit größter Mühe nicht in die von ihm verfolgte Strategie integriert werden können“ (Goffman 1986 [1967], S. 13). In dem Interview hätte Eugenes Verhaltensstrategie eigentlich darin bestehen müssen, er selbst zu sein. Das heißt sich so zu präsentieren, wie er sich selbst sieht. Durch die sachlichen, sozialen und zeitlichen Widersprüche, die Eugene durch sein Verhalten erzeugt, wird jedoch nicht klar, wie er sich selbst sieht. Vielmehr legt es die Vermutung nahe, dass Eugene keine Vorstellung davon hat, wer er ist und wie er in den Augen des Gesprächspartners erscheint. Eugene versucht dieses Problem durch die reine Fokussierung auf die Sachdimension zu kompensieren. Doch er macht es dadurch nur noch schlimmer und gibt immer mehr Informationen über sich preis, die seine früheren Aussagen konterkarieren. Die Kommunikationspartner können sich auf der Grundlage dieses Verhaltens keine Vorstellung davon bilden, mit wem sie es zu tun haben. Es entsteht ein falsches Image. Das macht es auch sehr schwer passende kommunikative Anschlüsse zu wählen. In anderen Situationen als dem Interview würde Eugenes Verhalten mit der Zeit wahrscheinlich ein immer größeres Unsicherheitsgefühl bei seinen Gesprächspartnern erzeugen, da sie im Prinzip nicht wissen, wie sie auf ihn reagieren sollen. Zugleich wird Eugenes Verhalten für die Kommunikationspartner unter dem Gesichtspunkt der Imagepflege hoch gefährlich, denn er lässt durch sein Verhalten öfters peinliche Situationen entstehen, die das Unbehagen über die Situation bei den anderen Beteiligten immer weiter steigert bis sie nur noch dieser Situation entfliehen wollen. Da es Eugene nicht gelungen ist im Verlauf der Interviews ein stimmiges Image aufzubauen, entstand bei mir schließlich der Eindruck, dass es sich eher um eine Person mit einer gestörten Selbstwahrnehmung handeln müsste als um ein 13jähriges Kind.

Es stellt sich allerdings die Frage, ob unter den gegebenen Voraussetzungen Eugenes Verhalten nicht zwangsläufig diesen Eindruck erwecken muss. Immerhin wird ein Computerprogramm mit dem Zweck programmiert, vorzugeben jemand zu sein, der es nicht ist, nämlich ein 13jähriger Junge. Dieser Zweispalt wird an keiner Stelle so deutlich, wie bei der Frage, ob Eugene ein 13jähriger Junge ist und er die Frage verneint. Ansonsten gibt sich das Programm auch nicht besonders viel Mühe diesen Eindruck zu verstärken, sondern versucht mit der Ambivalenz seiner personalen Identität zu spielen, verstickt sich dadurch aber in weitere Widersprüche, die Zweifel am Image des 13jährigen Jungen wecken. Im Prinzip wurde Eugene darauf programmiert sich wie eine schizophrene Person zu verhalten und genau das tut er auch. In der Filmgeschichte gibt es für diesen Fall ein berühmtes Vorbild. Es handelt sich um HAL 9000 aus „2001 – Odyssee im Weltraum“. Warum HAL eine Fehlfunktion hatte, wurde in diesem Film nicht explizit aufgeklärt. Erst in der Fortsetzung „2010 – Das Jahr, in dem wir Kontakt aufnahmen“ wird diese offene Frage aus dem ersten Teil beantwortet. HALs Dysfunktion hatte ihren Grund in seiner Programmierung, durch die er die Mannschaft des Raumschiffs über seine Missionsziele anzulügen musste. HAL und Eugene wurden mit einem inneren Widerspruch programmiert, der mit der Zeit zu einem offenen Konflikt mit den Kommunikationspartnern führt. Was sich mir nicht erschließt, ist, warum Eugenes Entwickler einen derartig gravierenden Konstruktionsfehler in Kauf genommen haben. Da HAL nur ein fiktionaler Charakter ist, hinkt der Vergleich natürlich ein wenig. Man kann aber zumindest konstatieren, dass Arthur C. Clarke, der Autor von „2001“ und „2010“, dieses Problem bereits gesehen hat. Eugene zeigt uns heute, dass es sich dabei nicht bloß um ein theoretisches Problem handelte, denn er simuliert Verhaltensmuster, die bei Menschen vielleicht nicht zwangsläufig auf eine Schizophrenie hindeuten müssen, aber zumindest auf eine gestörte Selbstwahrnehmung.

Der Umgang mit Paradoxien als Intelligenztest

Abschließend lässt sich festhalten, dass Eugene nur in einem sehr begrenzten Maße über die Fähigkeit verfügt, in eine mit anderen geteilten Welt einzutreten. Sie ist beschränkt, weil er nur gleichsam eindimensional operiert, indem er sich nur auf Informationen in der Sachdimension konzentriert. Zusätzlich gelingt es ihm kaum über eine bezeichnende bzw. andeutende Kommunikationsweise hinauszukommen. Er kann weder auf Nachfragen antworten noch Beschreibungen [3] geben. Er kann aber in diesem begrenzten Rahmen mit dem Selbstreferenzproblem umgehen, was sich vor allem in seinen Versuchen zeigt, witzig zu sein. Sie lassen allerdings auch Rückschlüsse auf ein scheinbares Selbsterleben zu, die es bei einem Menschen fraglich erscheinen lassen, ob es sich tatsächlich um Witze handelte oder nicht vielleicht doch wörtlich zu verstehen sind. In der Sozialdimension ist er jedoch nicht in der Lage mit dem Selbstreferenzproblem umzugehen, dass würde den Rückschluss auf sich selbst bedeuten und damit zugleich die Entwicklung eines Bewusstseins. Sein Verhalten legt den Schluss nahe, dass er nicht über ein Bewusstsein verfügt, denn kein Mensch würde derartig gravierende Widersprüche in seiner Selbstdarstellung zulassen, da sie das Risiko heraufbeschwören in der Zukunft als Person nicht weiter berücksichtigt zu werden. Aus dieser Beobachtung muss die wichtige Schlussfolgerung gezogen werden, dass Intelligenz nicht dasselbe ist wie Bewusstsein. Die Auswahl der kommunikativen Anschlüsse scheint daher nach dem Prinzip zu erfolgen die Aufmerksamkeit von sich wegzulenken. Dies macht er indem er immer wieder versucht den Ball an seine Gesprächspartner zurückzuspielen. Er wurde so programmiert, dass er gleichsam thematische Köder auslegt in der Hoffnung, dass der Gesprächspartner ins Erzählen kommt. Bei Personen mit einem besonders großen Mitteilungsbedürfnis kann diese Strategie durchaus funktionieren. Desweiteren wäre Eugene vermutlich ein sehr angenehmer Gesprächspartner für Personen, die tatsächlich an einer vergleichbaren Persönlichkeitsstörung leiden, auf die Eugenes Verhalten schließen lässt. Wer jedoch auf eine ausgeglichene Konversation mit reifen, erwachsenen Gesprächspartnern wert legt, für den ist die Konversation mit Eugene wahrscheinlich extrem unbefriedigend.

Diese Überlegung führt wieder zurück zum Versuchsaufbau des Turing-Tests und seiner Verlässlichkeit zurück. Sicherlich lässt sich nicht bestreiten, dass Eugene über menschliche Intelligenz verfügt. Es handelt sich allerdings um die Intelligenz einer Person mit einer schweren Persönlichkeitsstörung. Dies unterstreicht noch einmal, dass die Zusammensetzung der Fragesteller eine entscheidende Rolle bei dem Test spielt. Genauso gut kann aber auch durch das Verhalten der Vergleichsperson der Eindruck entstehen, man hätte es bei Eugene mit einem Menschen zu tun, wenn sie nämlich ein ähnliches Verhalten zeigt, wie Eugene. Eine solche Beeinträchtigung erkennt man jedoch nicht bereits nach einer 5minütigen Konversation – noch dazu ohne Hör- oder Sichtkontakt. Selbst bei einem unmittelbaren Kontakt zwischen Menschen werden solche Probleme meistens erst nach mehreren Begegnungen bemerkbar. Man kann daher davon ausgehen, dass je länger man den Fragestellern Zeit gibt, um das zu testende Programm zu befragen, desto größer ist die Wahrscheinlichkeit, dass es als solches erkannt wird. Der Turing-Test ist daher nur sehr unzureichend dafür geeignet zu testen, ob ein Programm intelligent ist. Dies hängt im Wesentlichen von der Definition von Intelligenz ab. Wird nur das Verhalten von Mensch und Maschine verglichen, kann dies zu falschen Schlüssen über die Fähigkeiten der Maschine führen. Orientiert man sich an der hier verwendeten Definition von Intelligenz, ist nicht entscheidend, ob die Maschine intelligent ist oder nicht, sondern in welchem Maße sie fähig ist in eine mit anderen geteilte Welt einzutreten. Damit der Test nicht vorschnell den Eindruck erweckt, man hätte es mit einer Maschine zu tun, die den Menschen vergleichbare kognitive Fähigkeiten besitzt, wäre es sicherlich angeraten, den Turing-Test zu verfeinern. Denkbar wäre zu testen, wie ein Programm oder eine Maschine die Paradoxie der Form sachlich, sozial und zeitlich entfaltet und reflektiert. Für einen solchen Intelligenztest ist der Turing-Test aber eigentlich nicht mehr erforderlich, denn es reicht die Beobachtung des Verhaltens eines Programms in sozialen Situationen. In diesem Sinne wäre die Beobachtung eines künstlich intelligenten Beobachters aber kein Test mehr. Eugene war ein vergleichsweise einfaches Beispiel, aber ausreichend um die Beobachtungsmethode in ihren Grundzügen vorzuführen. Für Programme oder Maschinen, die nicht nur Bezeichnen, sondern auch Beschreiben können, muss die Analyse natürlich noch tiefer gehen.





[1] Ich empfehle allen Lesern, die die Interviews nicht kennen, diese zu lesen bevor Sie hier weiterlesen. Ich habe zwar versucht den Text so zu schreiben, dass es eigentlich möglich sein sollte ohne Kenntnis der Interviews dem Text zu folgen, speziell die kommenden Passagen, in denen ich die Interviews beschreibe. Allerdings bin ich mir nicht sicher, ob das durchgehend gelungen ist. Deswegen empfieht es sich, die Interviews auf FAZ Online und dem Kölner Stadt-Anzeiger vor dem Weiterlesen zu lesen. Methodisch orientiere ich mich an einer früheren Arbeit von mir in der Fachzeitschrift Soziale Welt. Deswegen habe ich auch einen ähnlichen Titel gewählt. Ich gehe aber nicht mit derselben methodischen Strenge vor, d. h. ich gehe nur auf signifikante Stellen ein und analysiere nicht die vollständigen Interviews. Letzteres wäre für die Leser mit der Zeit einfach nur dröge, langweilig und redundant. Das Beobachter.LAB ist dafür nicht der richtige Platz.
[2] Siehe dazu auch den Abschnitt IX in meinem Text Die Beobachtung der Beobachtung".
[3] Auf die Unterscheidung von Bezeichnung und Beschreibung gehe ich an dieser Stelle nicht weiter ein. Siehe dafür meinen ersten Text zum Thema künstliche Intelligenz ab dem Abschnitt Zeichengebrauch als Paradoxieentfaltung"


Literatur 
Goffman, Erving (1986 [1967]): Techniken der Imagepflege. In: ders: Interaktionsrituale. Über Verhalten in direkter Interaktion. Suhrkamp Verlag Frankfurt am Main 
Luhmann, Niklas (1984): Soziale Systeme. Grundriß einer allgemeinen Theorie. Suhrkamp Verlag Frankfurt am Main 
Luhmann, Niklas (1993): Die Paradoxie der Form. In: ders: Aufsätze und Reden. Reclam Verlag Stuttgart. S. 243 – 261 
Spencer-Brown, George (1997 [1969]): Laws Of Form. Gesetze der Form. Bohmeier Verlag Lübeck 
Varela, Francisco J. (1990): Kognitionswissenschaft – Kognitionstechnik. Eine Skizze aktueller Perspektiven. Suhrkamp Verlag Frankfurt am Main

Keine Kommentare:

Kommentar posten