Ziemlich unbedarft: Das Desaster mit den KI-Richtlinien in den Medien
Ein KI-generiertes Video im „heute journal“ hat die Debatte um den Einsatz Künstlicher Intelligenz in Redaktionen wieder angefacht. Es zeigt sich: Der Branche fehlen KI-Grundlagen. […]
Nur sehr wenige Redakteure und Journalisten wissen, wie Große Sprachmodelle arbeiten. Sie vertrauen ChatGPT, Grok und anderen nahezu blind. Welche Vektorisierungen und Wortmatrizen verwendet worden sind, auf deren Basis solch ein Großes Sprachmodell arbeitet, weiß da niemand.
Das hat Folgen für die journalistische Arbeit. Denn das führt dann etwa zu Beiträgen wie dem von der „Tagesschau“ am 17. März 2025 über russische Propaganda in westlichen Chatbots. Völlig kritiklos wurde nachgebetet, was eine „Studie“ der Newsguard Technologies herausgefunden zu haben glaubte: Russische Akteure manipulieren westliche Chatbots. Die liefern daraufhin falsche Antworten. […]
Die von Newsguard festgestellten Suchergebnisse sind als durch die Art der Suchanfrage und nicht durch den Kreml beeinflusst worden. […]
Wirklich trauen kann man nur dem KI-Tool, dessen Großes Sprachmodell man selbst entwickelt hat, dessen Trainingsdaten man überprüft, dessen Wissensbasis man referenziert und dessen Entscheidungen man regelmäßig überprüft. […]
Das allerdings wäre ein K.-o.-Kriterium für den Einsatz von solchen Werkzeugen in Redaktionen. Wer nämlich diese Qualitätskontrolle in Sachen KI betreibt, der hat einen wesentlich größeren Arbeitsaufwand, als sich Medienmanager das bislang so vorstellen. […]
Weil in den mir vorliegenden KI-Richtlinien der Medienhäuser in technischer Hinsicht so gut wie nichts technisch solide reguliert ist hinsichtlich des KI-Einsatzes, sind deren Bestimmungen auch nicht alltagstauglich. Wir finden stattdessen wohlfeile Formulierungen für Sonntagsreden darin.
So gesehen schaden derartige KI-Richtlinien mehr, als sie nutzen. Denn in den Medienhäusern glaubt man, doch etwas für den verantwortungsvollen Umgang mit KI-Tools in Redaktionen getan zu haben. Das Ganze erfüllt aber allenfalls eine Alibifunktion.