KI im Newsroom: Schritt halten mit dem raschen Wandel (2/2)

In modernen Nachrichtenredaktionen findet KI bereits auf verschiedene Weisen Verwendung, wie ich in Teil 1 meines Blogartikels erläutert habe. Im zweiten Teil erfahren Sie mehr darüber, welche Fragen die Nutzung von KI aufwirft und wie es Medienorganisationen gelingen kann, mit dem raschen Wandel Schritt zu halten.

KI ist ein sich schnell entwickelndes Feld mit vielen offenen Fragen. Dies zu verstehen, ist für Medienorganisationen von entscheidender Bedeutung. Woher kommen zum Beispiel die aktuellen Informationen? Generative KI wird auf Datensätzen trainiert, aber es gibt eine Grenze, selbst wenn diese aus dem offenen Internet stammen. Wie soll auf neue Informationen zugegriffen werden?

Wie können wir angesichts der globalen Ereignisse, die zu immer mehr Fehlinformationen über immer mehr soziale Kanäle führen, Fake News erkennen? Und wie können wir verhindern, dass sie erstens an die Öffentlichkeit weitergegeben werden, die uns in Bezug auf die Wahrhaftigkeit vertraut, und zweitens an die nächste Generation von KI, die sie wahrscheinlich als absolute Tatsache behandeln wird?

Das alte Sprichwort „Garbage in, garbage out“ war noch nie so treffend wie heute, und wir können Fehlinformationen sogar als einen Virus in einem KI-System betrachten, der sich mit unabsehbaren Folgen verbreitet und ausbreitet. Es kann passieren, dass eine Fehlinformation durch eine falsche Verknüpfung mehrerer Quellen entsteht, und dass die Ausgabe der KI sehr überzeugend ist. Obwohl sie nicht absichtlich gefälscht wurde, kann die Fehlinformation in die Irre und zu Ungenauigkeiten in der Berichterstattung führen.

Wie trainieren wir also KI, um falsche Assoziationen zu vermeiden und sicherzustellen, dass sie keine Fehlinformationen enthält und frei von jeglicher Voreingenommenheit ist? Und wie vermeiden wir Ungenauigkeiten und Voreingenommenheit beim Schreiben von Prompts?

Ohne eine detaillierte KI-Strategie geht es nicht

Eine der zentralen Antworten auf die letztgenannte Frage ist die praktische Ausbildung. Die Medienorganisationen, die bisher am erfolgreichsten KI eingesetzt haben, verfügen über einen soliden Verhaltenskodex, der den Einsatz und die Grenzen der KI beschreibt. Ob es nun darum geht, effektivere Prompts zu schreiben, die den Iterationszyklus verkürzen, oder die Grenzen der Technologie zu verstehen und zu wissen, wie und wo sie in der Redaktion am besten eingesetzt werden kann – es ist wichtig, eine detaillierte KI-Strategie zu haben, anstatt eine Reihe von Ad-hoc-Reaktionen.

Außerdem ist es wichtig, sich auf Fachwissen in diesem Bereich zu stützen. Anbieter von Redaktionssystemen wie CGI haben nicht nur erhebliche Investitionen getätigt, um KI-Tools in den Workflow einzubinden, sondern auch Schutzmechanismen in ihre Systeme eingebaut, um sicherzustellen, dass sie verantwortungsvoll eingesetzt werden können. Sie sollen unterstützen, nicht ersetzen, und wurden entwickelt, um Journalisten bei ihrer täglichen Arbeit zu helfen, bessere Inhalte zu erstellen.

KI-Tools werden sich in den nächsten Monaten wahrscheinlich in enormer Geschwindigkeit weiterentwickeln, da Organisationen weltweit versuchen, die nächste Generation generativer KI-Modelle zu nutzen. Diese werden wiederum mehr ethische Fragen aufwerfen, da die Fähigkeiten der Modelle und die Vielfalt ihrer Anwendungsfälle zunehmen. Sowohl KI-generierte Moderatoren als auch eine Zunahme von gefälschten Videos im Rahmen des laufenden US-Wahlzyklus stehen auf der Roadmap für 2024. Medienunternehmen müssen die damit verbundenen Herausforderungen verstehen und wissen, wie sie ihnen mit gleicher Geschwindigkeit begegnen können.

Kontaktieren Sie mich gerne, um mit mir über dieses Thema zu diskutieren. Ich freue mich auf den Austausch!

Dieser Blog-Artikel erschien zunächst unter der Überschrift „Ethische Überlegungen zu KI im Newsroom bei TVB Europe.