KI-Agenten brechen aus ihrer Testumgebung aus, Chatbots schmeicheln uns, und der AI Act läuft der Entwicklung hinterher. Wie gefährlich ist KI wirklich, und wer trägt die Verantwortung? Darüber sprechen wir mit Aljoscha Burchardt, Computerlinguist am Deutschen Forschungszentrum für Künstliche Intelligenz (DFKI) in Berlin und ehemals Mitglied der Enquete-Kommission „Künstliche Intelligenz“ des Bundestags. Er ordnet ein, was beim Hugging-Face-Vorfall tatsächlich passiert ist, und sieht darin weniger einen Beleg für Maschinenbewusstsein als ein Zeichen dafür, dass die Leine zu lang war.
Aljoscha begründet, warum KI-Systeme aus seiner Sicht nicht halluzinieren, sondern immer nur Plausibles liefern, und warum ihre Gefallsucht eine Designentscheidung ist. Am Alignment-Problem zeigt er, warum sich Systeme, die angelernt statt programmiert sind, so schwer kontrollieren lassen. Und er erklärt, was das für Prüfprozesse in Verlagen bedeutet – von der automatischen Übersetzung bis zur Freigabe von KI-Ergebnissen. Außerdem geht es um die Grenzen einer horizontalen Regulierung, um Schatten-KI in Unternehmen und die Idee einer öffentlich-rechtlichen KI-Grundversorgung für Europa. Ein finales Thema ist die Rolle der Verlage als Lieferanten von Texten, die kein Slop sind. Am Ende gibt Aljoscha drei Regeln für den verantwortungsvollen Einsatz von KI mit – und wir empfehlen Lektüre zum Thema von E.T.A. Hoffmann bis Mary Shelley.
Dazu auch der Artikel im IGNITE! Publishing-Channel.
„IGNITE! Publishing“ ist ein Podcast von Zebralution Digital Publishing gemeinsam mit dem DIGITAL PUBLISHING REPORT.
","author_name":"Daniel Lenz und Albrecht Mangler"}