Die Maschine hält sich nicht an Studien – Fünf Fragen an Prof. Dr. Katharina Zweig
Aktualisiert: vor 8 Stunden
Über Prof. Dr. Katharina Zweig
Prof. Dr. Katharina Zweig ist Informatikerin und Professorin und leitet das Algorithm Accountability Lab an der RPTU (Rheinland-Pfälzische Technische Universität Kaiserslautern-Landau).
Sie forscht zu Qualität, Fairness und Verlässlichkeit algorithmischer Entscheidungssysteme. 2025 erschien ihr Buch „Weiß die KI, dass sie nichts weiß?“ über Nutzen und Grenzen von Chatbots.
Woher nimmt eine KI ihr Wissen über Ernährung und wie verlässlich sind ihre Antworten? Prof. Dr. Katharina Zweig erklärt, warum Sprachmodelle keine Wissensdatenbanken sind, wofür Fachleute sie sinnvoll einsetzen können und was es braucht, damit KI künftig verlässlicher mit Fachwissen arbeitet.
Das Interview ist Teil unseres neuen Papers „KI x Ernährung – Wie die KI über Ernährung spricht und was Fachleute jetzt tun können“, das am 16. September 2026 erscheint.
Woher weiß eine KI, was sie über Ernährung sagt?
NUTRITION HUB: Woher weiß eine KI, was sie über Ernährung sagt? Zieht sie ihr Wissen aus Studien und Leitlinien oder eher aus dem, was im Internet am häufigsten geschrieben wird?
PROF. DR. KATHARINA ZWEIG: Die aktuellen KI-Systeme wie ChatGPT oder Google Gemini beruhen auf dem Zusammenwirken von mehreren Softwarekomponenten; zuerst wird die Anfrage im Prompt analysiert und dann an ein Spezialsprachmodell weitergegeben. Eine Frage zur Programmierung oder eine Wissensfrage wird also von unterschiedlichen Systemen beantwortet. Eine Frage zu Ernährung wird oft dazu führen, dass verschiedene Internetsuchanfragen gestellt werden. Die Ergebnisse der Suche werden dann in einen deutlich längeren Prompt mit eingegeben.
Aus „wie schädlich sind zuckerhaltige Getränke“ wird dann ein mitunter seitenlanger Prompt, der auch Studienergebnisse enthalten kann – aber nicht direkt an den Fragesteller gegeben wird.
Stattdessen arbeitet jetzt das Sprachmodell basierend auf diesem Prompt. Leider führt das aber überhaupt nicht dazu, dass sich die Maschine an die Studienergebnisse „hält“. Stattdessen assoziiert sie einen Text, basierend auf den ihr vorgelegten Texten. Das ist ein bisschen so, als wenn man eine Ernährungsexpertin aus tiefem Schlaf weckt und ihr eine Frage stellt. Sie wird definitiv antworten und sicherlich auch viel Richtiges sagen, aber nicht notwendigerweise vernünftig auf die ihr gegebenen Informationen reagieren können. Einer der Entwickler von ChatGPT 4 nannte Sprachmodelle einmal „Traummaschinen“, unser Prompt lenkt den Traum der Maschine; Halluzinationen sind Teil des Traums und lassen sich ganz grundsätzlich durch diese Art von Technologie nicht vermeiden.
Warum bekommen zwei Menschen auf dieselbe Frage unterschiedliche KI-Antworten?
NUTRITION HUB: Wenn zwei Menschen einer KI dieselbe Frage stellen, bekommen sie oft unterschiedliche Antworten, je nachdem, wie sie fragen und wer sie sind. Warum ist das so? Und was heißt das für jemanden, der sich ernsthaft informieren will?
PROF. DR. KATHARINA ZWEIG: Sprachmodelle sind einfach keine Wissensdatenbanken. Sie haben zwar viele Texte verarbeitet, aber diese nicht in einer Art Datenbank gespeichert. Stattdessen bauen sie eine Struktur auf, mit der sie Wahrscheinlichkeitstabellen berechnen können, die darüber entscheiden, was sie als nächstes schreiben.
Wenn in der Tabelle steht, dass das nächste Wort mit einer Wahrscheinlichkeit von 50 Prozent „nicht“ ist, dann wird die Maschine in der Hälfte der Antworten „nicht“ schreiben und in der anderen Hälfte eben nicht. Das kann natürlich den Sinn total verändern.
Sprachmodelle sollten daher nicht statt einer Internetsuche oder dem Lesen von Artikeln genutzt werden. Sie funktionieren aber sehr gut zum Assoziieren und zum Quellen finden. Wenn man also fragt: Wer hat in den letzten Jahren die größten Studien zum Thema zuckerhaltige Getränke durchgeführt, wird man mit großer Sicherheit zumindest ein paar gute Quellenhinweise finden. Die muss man dann allerdings selbst lesen, wenn man sich ernsthaft informieren will.
Wofür können Ernährungsfachleute KI sinnvoll einsetzen?
NUTRITION HUB: Einige Fachleute aus der Ernährungs-, Lebensmittel- und Agrarindustrie nutzen KI-Tools bereits für eine Vielzahl an Aufgaben, z. B. für Beratungstexte, Konzepte, Recherche. Wofür kann man sie guten Gewissens einsetzen, und wovon sollte man in Ihren Augen die Finger lassen?
PROF. DR. KATHARINA ZWEIG: Ich persönlich nutze es für alles, was ich nachher vollständig prüfen kann. Für mich sind das z.B. Übersetzungen aus dem Englischen oder ins Englische – ich kann das im Prinzip selbst, aber weder ist mein Sprachstil im Englischen akademisch genug noch geht es sehr schnell. Ich kann aber schnell entscheiden, ob eine mir vorgelegte Übersetzung auf dem richtigen Niveau und korrekt ist.
Daher finde ich Beratungstexte, die auf Stichworten einer Expertin oder eines Experten beruhen und nachher Korrektur gelesen werden, möglich. Auch bei Konzepten kann es sehr hilfreich sein, einfach mal durchzulesen, wie man etwas strukturieren könnte. Ich finde es da spannend, sich fünf verschiedene Konzepte aus verschiedenen Perspektiven erstellen zu lassen.
Alle Texte, die Sie als Mensch und Expert:in im Nachhinein sorgfältig noch einmal durchgehen und sie geeignet anpassen, können ein Gewinn sein. Es gibt aber zwei Dinge zu bedenken. Erstens: Ist der Energie- und Wassereinsatz gerechtfertigt, den Sprachmodelle benötigen? Zweitens: Der Sprachstil von Sprachmodellen ist auffällig: viele Wiederholungen, kommt nicht auf den Punkt. Das erkennen manche schnell und würden den Text dann als wenig professionell einschätzen.
Wie müsste ein vertrauenswürdiges KI-System aussehen?
NUTRITION HUB: Wie müsste ein KI-System aussehen, dem man in diesen Bereichen tatsächlich vertrauen könnte?
PROF. DR. KATHARINA ZWEIG: Sprachmodelle benutzen intern eine Art „Verortung“ von Wörtern, mit denen sie schnell berechnen können, welche Wörter zueinander ähnlich sind – das erkläre ich in meinem Buch „Weiß die KI, dass sie nichts weiß?“. Mit Hilfe dieser Technologie könnte man ganz andere Skalen von Wissen durchsuchen und dann echte Texte finden – da steckt aus meiner Sicht die Forschung noch in den Kinderschuhen.
„Wir benötigen echte Wissensdatenbanken, die mit Hilfe einer Teiltechnologie von Sprachmodellen schnell durchsucht werden könnten.“
– Prof. Dr. Katharina Zweig
Was braucht es für einen verantwortungsvollen Umgang mit KI?
NUTRITION HUB: Was braucht es in den kommenden 5 Jahren für einen verantwortungsvollen Umgang mit KI? Wovon hängt das ab und wer muss dafür etwas tun: die Anbieter, die Politik, die Fachleute?
PROF. DR. KATHARINA ZWEIG: Die meisten Instrumente sind da: Die DSGVO regelt den allgemeinen Datenschutz, der europäische AI Act soll nun helfen, KI-Systeme vertrauenswürdig zu entwickeln und zu nutzen. Dazu kommen weitere Digitalgesetze wie der Digital Service Act. Sicherlich steckt auch da noch manches in den Kinderschuhen, aber insgesamt sind wir in Europa ganz gut aufgestellt.
Drei Fragen, die Ernährungs- und Gesundheitsfachleute jetzt klären sollten:
Wofür kann ich KI sinnvoll einsetzen?
Am ehesten für Aufgaben, deren Ergebnis du fachlich selbst vollständig überprüfen kannst – etwa Strukturierung, erste Konzepte oder Unterstützung bei der Recherche.
Wann sollte ich KI-Antworten besonders kritisch prüfen?
Je komplexer die Fragestellung und je weniger du die Antwort selbst bewerten kannst, desto weniger sollte die KI als alleinige Informationsquelle dienen.
Wie kommt verlässliches Fachwissen in KI-Antworten?
Fachwissen muss nicht nur vorhanden sein, sondern online auffindbar und klar strukturiert vorliegen. Im Paper zeigt Niklas Buschner unter anderem, warum direkte Antworten, kurze Absätze, FAQs, Tabellen und klar strukturierte Inhalte dafür relevant sind.
Mehr dazu im neuen Paper „KI x Ernährung" ab 16.09.2026. Damit du das Paper direkt zur Veröffentlichung erhältst, kannst du dich hier für den Nutrition-Hub-Newsletter anmelden.
Veranstaltungs-Tipp:
Future Bites #3: KI, Vertrauen & Gesundheitskommunikation
Am 16. September 2026 ab 12:30 Uhr diskutieren wir diese Fragen bei unserem Online Event Future Bites #3: Zwischen Wissen und Einfluss – KI-Chatbots im Test.
Mit dabei: Katharina Radunz (coliquio) gibt Einblicke in den Facharztreport 2026 „Trust Shift“, Astrid Csuraji (tactile.news) stellt Ergebnisse aus dem KI-Chatbot-Experiment vor, Niklas Buschner (Radyant) zeigt, wie Fachorganisationen ihre Inhalte für KI-Systeme besser auffindbar machen können und Dr. Simone K. Frey (Nutrition Hub) teilt Einblicke in das neue Paper und die KI-Tool-BOX für Ernährungs- und Gesundheitsexpert:innen.
Über diesen Beitrag:
Interviewauszug aus dem Nutrition-Hub-Paper „KI × Ernährung“ (VÖ 17.09.2026). Das Gespräch mit Prof. Dr. Katharina Zweig führte Henrik Böhme. Die Veröffentlichung im Nutrition Hub Journal wurde von Roxanna Rokosa redaktionell aufbereitet.