Schreibt ChatGPT in Zukunft die Reiseführer selber?

Dass ich hier gleich das aktuelle Datum mit aufnehme in die Überschrift, weist auf das extreme Tempo hin, in dem diese neue Technologie in viele Lebensbereiche eingreift. Aber auch darauf, wie rasant sie sich aller Voraussicht nach in nächster Zeit weiterentwickeln wird. Darum werden wohl diese Gedanken über die KI mit dem Joghurt in meinem Kühlschrank in ein Wettrennen um die kürzere Verfallsdauer seines Inhalts treten. Speziell für Menschen, die mit Sprache, Informationen und Texten produktiv umgehen, bereitet diese Entwicklung heftige Kopfschmerzen und Zukunftsängste, während andere sich mit Freude darauf stürzen.

Erste Eindrücke

Natürlich ist das Tool, Stand heute, bei Weitem nicht ausgereift. Das wurde mir schnell klar, nachdem ich mich bei ChatGPT registriert hatte. Meine Skepsis steigerte sich durch erste Antworten, die ich über Abfragen (Prompts) zum Themenbereich „Prag“ bekam. Sie waren - abhängig von der Komplexität des angefragten Sujets - zum Teil wirklich katastrophal. Es konnte sogar passieren, dass hier Fakten hinzu fantasiert wurden, die auch dem Nichtspezialisten gleich aufgefallen wären. Zudem gab es eine Reihe von Verwechslungen, die das Tool aber nach weiteren Nachfragen korrigierte.

Korrekturfähigkeit des Programms

Und damit kommen wir schon zu zwei Aspekten, die mir in dem Zusammenhang wichtig erscheinen. Da ist zum einen die Lernfähigkeit des Programms, das bei Hinweisen und Nachfragen den richtigen Kontext doch erschließen konnte. Das hat mich in Einzelfällen verblüfft. Es gab allerdings auch Fälle, in denen die Antworten nur noch abstruser wurden. Ich testete unter anderem ein neu erschienenes Buch, das gar nicht in ChatGPT eingespeist sein konnte, deren Datenbestand aktuell bis Mitte 2021 reicht. Trotzdem versuchte der Bot das Werk zu beschreiben und schwadronierte in einer Oberflächlichkeit über seinen Inhalt, das einen staunen machte. Und mir stellte sich sofort die Frage: Warum nur analysierte ChatGPT in diesem Fall eine Anfrage, wofür es überhaupt keine aktuellen Daten besaß? Denn bei anderen Gelegenheiten gesteht das Tool ohne Weiteres ein, eine Frage nicht beantworten zu können. Nach welchen Kriterien also wird in dem einen Fall fantasiert und in einem anderen die eigene Lücke eingestanden?

Wie überprüfe ich die Informationen?

Und damit kommen wir zu dem zweiten Punkt, der mir einige Bauchschmerzen verursacht. Wer greift auf das System zu? In meinem speziellen Fall in erster Linie wohl keine Prag-Experten, sondern Menschen, die sich einfach und bequem über die Stadt informieren wollen. Aber wie kann man als möglicher Erstbesucher die Richtigkeit der Antworten beurteilen, wenn mir ein grundlegendes Wissen zu dem Thema fehlt und ich den Auskünften nicht trauen kann? Und da sind wir dann bei einem entscheidenden Punkt, zumindest was die Zeit- und Architekturgeschichte angeht, die für mich relevant ist. Je weniger ich als Fachmann/Fachfrau in einem Thema eingearbeitet bin, desto zeitintensiver werden meine Bemühungen ausfallen, bei der derzeitigen Fehleranfälligkeit von ChatGPT die Relevanz der Daten auf seine Richtigkeit zu überprüfen. Bin ich da nicht erst einmal in Wikipedia und ähnlichen seriösen Onlinequellen oder bei klassischen Reiseführern besser aufgehoben, statt sich blindlings einer KI anzuvertrauen, von der ich nicht weiß, wie sie zu ihren Ergebnissen kommt? Womit wir schon bei der nächsten Frage sind.

Woher kommen überhaupt die Daten?

Was mir allgemein bei dem Thema aufstößt, ist die Tatsache, dass bislang keiner so recht nachvollziehen kann, woher die Daten konkret kommen und wie sie sich bei einer Anfrage zusammensetzen. Welche ideologische und politische Filterung greift bei dem Output? Was sind die Kriterien für deren Einspeisung in das System und was lässt man außen vor? Nach welcher Logik werden die Daten gewichtet? Ein Agnostiker wird in Gottesfragen andere Antworten präferieren als ein gläubiger Mensch, ein Sozialist einem im Wesentlichen gegenteiligen Wertekanon in sozialen Fragen den Vorzug geben als ein Konservativer und ein Kapitalismuskritiker wird sich über zu liberale marktwirtschaftliche Analysen ärgern. Es gibt so viele Denkschulen auf der Welt, die jede für sich eine eigene Sicht auf die Wirklichkeit proklamieren, sodass der Versuch eine für alle akzeptierte Antwort auf kritische Fragen zu finden – bis auf wenige Ausnahmen - scheitern wird. Zumal noch nicht mal die Quellen offengelegt werden. Wäre so ein Tool nicht dazu verpflichtet, seinen Standpunkt zu erläutern und Belege für seine Texte beizufügen? Was ich bisher gesehen habe, läuft nicht auf Diversität hinaus, sondern eher auf den wenig überzeugenden Versuch Eindeutigkeit herzustellen. Hier sind in meinen Augen noch dicke Bretter zu bohren und man muss abwarten, ob die Gesellschaft damit einverstanden bleibt, dass diese Informationsmenge durch Privatfirmen gefiltert und als kommerzielle Programme ausgeliefert werden.

Wie sieht es mit dem Urheberrecht aus?

Was mich an der momentanen Diskussion auch verwundert, ist die Selbstverständlichkeit, mit der ChatGPT auf Quellen zurückgreift, ohne sie kenntlich zu machen und sich damit quasi selber als Urheber auszugeben. In verschiedenen Artikeln zu dem Thema wird der Sachverhalt sogar umgekehrt, indem die Frage gestellt wird, ob der Fragesteller diese Inhalte weiterverwenden dürfe. So als ob ChatGPT aus sich selber heraus und mit einem Zauberstab in der Hand die Texte aus dem Hut zaubert. In etwas anderer Form lässt sich diese Entwicklung bei Google beobachten: Während die Suchmaschine früher nur aus einem Suchschlitz mit Absendebutton bestand, mutiert das Projekt zusehends zu einem Wissensportal. Besucher brauchen inzwischen überhaupt nicht mehr die Startseite der Suchmaschine für Antworten verlassen, sondern erhalten ihre Informationen in Form von kleinen Info-Boxen oder den Bereich „Ähnliche Fragen“. Dazu werden anhand des Suchprofils des Nutzers weitere Zusatzdienste angeboten, die ein gutes Geschäft versprechen. Im Tourismusbereich werden z. B. dann bei Sehenswürdigkeiten wichtige Fragen vorab auf der Startseite beantwortet und wenn wir schon mal dabei sind, mietet man sich hier doch gleich ein Hotelzimmer und bucht eine tolle Stadttour. Das ist natürlich für den Suchenden sehr bequem, für die Websitebetreiber, die jene Informationen bereitstellen, die Google erst zu diesem Angebot verhilft, sieht die Sache schon wesentlich kritischer aus. Denn ihnen gehen in vielen Fällen kaufkräftige Besucher verloren. Das inzwischen weitverbreitete Phänomen nennt sich in der Fachsprache „Null-Klick-Suche“. Was ChatGPT und Google eint, ist die unentgeltliche Nutzung fremden geistigen Eigentums. Man setzt damit Milliarden um und der eigentliche Urheber schaut in die berühmte Röhre. Es gibt zwar vereinzelt Anstrengungen gegen dieses Gebaren der Big-Tech-Unternehmen, wie im Fall der Verwendung von Presseinhalten durch Google, aber die werden mit vergleichsweise kleinen Vergleichssummen beigelegt und ändern nichts an der grundlegenden Problematik.

Wie gehe ich als Betreiber eines Reiseportals mit dieser Situation um?

Zuallererst und das kann keine noch so gut konstruierte Maschine ersetzen, recherchiert ein Reisebuch-Autor/-in vor Ort. Nichts ersetzt den persönlichen Eindruck, den ich nur vor den Orten gewinne, über die ich dann später berichten möchte. Dazu zählen natürlich auch Bilder und Videos, die diesen sinnlichen Eindruck vertiefen. Zudem sollte man natürlich für die Texte verschiedene Quellen heranziehen. Grundsätzlich ziehe ich bei einer neuen Themenseite alle relevanten Onlinemedien hinzu. Das sind bei dem Thema Prag neben Wikipedia im Normalfall weitere 3-4 ausgezeichnete Websites. Das ist nur der erste Schritt. Im zweiten überprüfe ich die gefundenen Informationen in einem Schwung Print-Reiseführern aus deutschen Verlagen, aber auch in Spezialliteratur zu Themen wie Kubismus und Jugendstil in Prag. Bekomme ich zu einzelnen Fakten unterschiedliche Antworten, kommt es zu einer Abwägung, wem ich mehr vertraue. Das ist in vielen Fällen weiterhin das gedruckte Buch.

Wissen ist weit mehr als ein Knopfdruck im Internet

Viele ausgezeichnete Werke sind schon seit Jahren nur mehr im Antiquariat zu finden. Was ist mit diesem Wissen? Wird sich da bemüht, auch diese Quellen zu berücksichtigen? Wohl kaum, weil da der Aufwand zu hoch wäre. Universitäten bemühen sich zwar viele Werke zu digitalisieren, aber hier wird man über Jahre hinaus trotzdem nur einen Bruchteil des wirklichen Bestandes erfassen. Da steht viel Wissen in der digitalen Welt nicht zur Verfügung. Dessen muss man sich immer bewusst bleiben, wenn man bequem vor seinem Monitor recherchiert und jetzt Tools nutzt, die scheinbar auf alles eine schnelle Antwort haben. Allerdings nahmen mit Sicherheit schon vor ChatGPT die Anzahl der Quellen ab, aus dem Texte erstellt wurden. Bei vielen Reiseführern fand ich beispielsweise immer denselben Fehler vor. Und als ich der Sache nachging, war der Fehlerursprung rasch gefunden: Es war in dem Fall Wikipedia. Durch meinen Zugang konnte ich diese Kleinigkeit schnell korrigieren, aber das Grundproblem besteht seit Langem: Werden Quellen ausreichend überprüft? Leistet man sich online überhaupt und im Print-Bereich noch ein Lektorat oder wird das nicht schon bald komplett durch KI-Tools ersetzt? Ich möchte nicht wissen, wie viele Sachbücher vor allem dadurch entstanden, weil Wikipedia existiert. Der Unterschied zu ChatGPT aber besteht zumindest darin, dass bei Wikipedia menschliche Redakteure dem Ganzen vorstehen, die Korrekturen vornehmen und diese innerhalb der Webseite dokumentieren. Und die können von allen überprüft werden. Bei ChatGPT ist mir kein vergleichbarer Prozess bekannt, außer der Behauptung, dass die künstliche Intelligenz hier selbst regulativ eingreifen könne. Bloß, wie schauen diese Regeln aus, die dahinterstehen? Oder bewegen wir uns in Richtung von Goethes Zauberlehrling, der die Kontrolle über seinen Besen verliert? Letzte offizielle Verlautbarungen von IT-Größen, die vor katastrophalen Entwicklungen warnen, die sie groteskerweise selbst vorantreiben, scheinen darauf hinzudeuten.

You get what you ask for

ChatGPT und ähnliche Programme sind darauf konditioniert, dass sie auf Fragen antworten. Aber reicht das dem Nutzer, der darüber oft gar nicht die Vielfalt des Themas erfassen kann, weil ihm wichtige Wissensbausteine fehlen? Informationen über eine Sehenswürdigkeit beispielsweise umfassen weit mehr als nur einen geschichtlichen Abriss und Bewertung seiner Bedeutung. Dazu gehören auch Adressangaben, Öffnungszeiten, Kartenübersichten, aktuelle Angaben zu Ticketpreisen und weitere Empfehlungen, Verlinkungen online oder Verweise im Buch. Nicht zu vergessen, Bilder, Audioguides und eingebettete Videos. Wie viele Prompts wären für eine adäquate Darstellung vonnöten, selbst wenn das heutige Prinzip der reinen Textdarstellung irgendwann aufgebrochen wird? Und wer nimmt den Nutzer bei der Hand, um ihm bei der Auswahl zu helfen? Sollte man beim Jan-Hus-Denkmal nicht auch was zur hussitischen Bewegung im 15. Jahrhundert erzählen? Wie baut man diesen Wissenszusatz ein, ohne dass dieser Einschub den Lesefluss stört? Sorgen nicht zuletzt diese ausgeklügelte Wissensanordnung und eine ästhetisch ansprechende Aufbereitung online wie im Buch für den Anreiz, sich Wissen anzueignen? Wie möchte das ChatGPT in seiner derzeitigen Form abbilden? Und ist das nicht eine heillose Überforderung des Prag-Reisenden, das alles über Prompts zu steuern?

Mein vorläufiges Fazit

Natürlich besteht die Gefahr, dass die KI irgendwann auf Knopfdruck viel von dem übernehmen wird, was Redakteure heute noch in kleinteiliger Arbeit leisten. Und es werden sicherlich viele engagierte Kleinverlage und Autoren on- wie offline aufgeben. Zudem steht zu befürchten, dass an ihrer Stelle viele zwielichtige Redaktionen und Buchverlage mit billigen, kaum recherchierten und über die KI produzierten Büchern den Reiseführer-Markt überschwemmen werden. Erste ungute Anzeichen hierzu gibt es schon. Literatur-Wettbewerbe schlagen Alarm, weil sie von automatisch verfertigten Texten überschwemmt werden. Schreibt bald ein KI-gestütztes Pendant die Romane Kafkas zu Ende? Bekommen wir zum 70. Todestag wieder ein formvollendetes neues Werk im Stile Thomas Manns? Möglich, aber ich würde mir so einen Mist nicht kaufen. Von Sachtexten ganz abgesehen, wo die Fertigkeit eines Autors nicht mehr darin begründet liegt, in erster Linie zu intensiven Recherchen befähigt zu sein und einen guten Sprachstil zu besitzen, sondern die über KI-Programmen ausgespuckten Texte und Bilder sinnvoll aneinanderzureihen. Wahrscheinlich entsteht auf diese Weise sogar eine ganz neue Berufssparte des Textarrangeurs.

Wie lässt sich auf die neue Situation reagieren? Mit Sicherheit bringt eine Verteufelung nichts. Nur Kassandra zu bemühen und sich auf den nächsten Maschinensturm vorzubereiten, ist keine Antwort und wäre nur ein untrügliches Zeichen, dass hier etwas endet, dass der Philosoph Roland Barthes schon Ende der 60er-Jahre mit dem Tod des Autors umschrieb. Bis es aber wirklich so weit ist, verbleibe ich bei der „konservativen“ Vorgehensweise. Natürlich werde ich weiterhin viele Quellen für meine Texte nutzen und wäge bei unterschiedlichen Angaben selber ab, was mir relevant erscheint. Das hat einfach auch mit der Liebe zum Sujet zu tun und die lasse ich von keiner KI nehmen. Ansonsten müssen Autoren sich flexibler aufstellen und gegebenenfalls ihren Berufshorizont erweitern. Aber das ist ein anderes Thema.