Lange Dokumente, wie umfangreiche Berichte oder mehrseitige PDFs, stellen KI-Modelle vor besondere Herausforderungen. Die Frage ist, wie man diese Modelle am besten trainiert, damit sie relevante Informationen auch in großen Textmengen zuverlässig finden und nutzen können.

Forscher:innen von ByteDance und der Hong Kong University of Science and Technology haben genau das untersucht. Ihre Studie zeigt: Das Trainieren von multimodalen KI-Modellen durch das reine Abtippen von Texten ist weniger effektiv als das Training mit Frage-Antwort-Paaren, die aus den Dokumenten generiert werden.

Warum reine Texterkennung nicht ausreicht

Viele multimodale KI-Modelle werden darauf trainiert, Texte aus Bildern oder PDFs zu erkennen und zu transkribieren. Man könnte meinen, das sei der direkteste Weg, um mit langen Texten umzugehen. Doch ByteDance fand heraus, dass dieses Vorgehen die Leistung der Modelle sogar verschlechtert. Das reine Abtippen von Textseiten hilft der KI nicht dabei, den gesuchten Inhalt in einem langen Dokument zu finden.

Ein Beispiel: Ein Modell soll in einem 100-seitigen Bericht eine bestimmte Information finden. Wenn es nur darauf trainiert wurde, jede Seite Wort für Wort zu erkennen, lernt es nicht, wie es gezielt nach relevanten Stellen suchen kann. Die Folge: Die Leistung bei der Suche in langen Dokumenten bleibt schwach.

Frage-Antwort-Paare als Trainingsmethode

Die Alternative ist, die KI mit Fragen zu trainieren, deren Antworten irgendwo im Dokument versteckt sind. Dabei wird ein separates Modell genutzt, um automatisch Fragen und passende Antworten aus den Dokumenten zu generieren. Das Trainingsmodell lernt so, gezielt nach relevanten Passagen zu suchen und diese korrekt zuzuordnen.

Diese Methode zwingt das Modell, den Kontext zu verstehen und nicht nur den Text zu erkennen. ByteDance entwickelte auf dieser Basis das Modell MMProLong, das bei der Bearbeitung langer Dokumente deutlich besser abschneidet als viele größere Konkurrenten.

Vielfalt statt Spezialisierung

Die Studie zeigt außerdem, dass es nicht sinnvoll ist, das Modell nur mit extrem langen Dokumenten zu trainieren. Ein Mix aus kurzen und langen Beispielen verbessert die Fähigkeit, flexibel und effizient im Text zu suchen. Das Modell lernt, Informationen über verschiedene Entfernungen im Text zu finden, was für die Praxis besonders wichtig ist.

Außerdem ist das Finden der relevanten Textstelle entscheidender als komplexes logisches Schlussfolgern. Ein Trainingsmix mit Schwerpunkt auf Extraktionsaufgaben und einem kleineren Anteil an Rechenaufgaben liefert die besten Ergebnisse.

Stabilität auch bei sehr langen Kontexten

MMProLong zeigt eine stabile Leistung bei Eingaben mit bis zu 512.000 Tokens. Das bedeutet, dass das Modell auch bei sehr umfangreichen Dokumenten oder langen Videos zuverlässig arbeiten kann. Interessanterweise überträgt sich diese Fähigkeit sogar auf Aufgaben, für die das Modell nicht speziell trainiert wurde.

Für KMU bedeutet das: Wenn KI-Modelle für Dokumentenmanagement oder Videoanalyse eingesetzt werden, ist die Trainingsmethode entscheidend für die Qualität der Ergebnisse. Statt nur auf Texterkennung zu setzen, lohnt es sich, auf Trainingsansätze mit Frage-Antwort-Strukturen zu achten.

Was bedeutet das für Sie?

Die Erkenntnisse von ByteDance zeigen, dass der Erfolg multimodaler KI-Modelle stark von der Art des Trainings abhängt. Für Unternehmen, die KI zur Analyse großer Dokumentenmengen nutzen wollen, ist es sinnvoll, auf Modelle zu setzen, die gezielt auf Frage-Antwort-Aufgaben trainiert wurden. So lassen sich relevante Informationen schneller und zuverlässiger finden.

Zudem lohnt sich ein ausgewogener Trainingsmix, der verschiedene Dokumentlängen und Aufgabenarten umfasst. Das erhöht die Flexibilität der KI im Umgang mit unterschiedlichsten Inhalten.

Diese Erkenntnisse können auch bei der Auswahl von KI-Dienstleistern oder bei der Planung eigener KI-Projekte helfen. Denn nicht nur die Größe eines Modells oder seine Architektur entscheidet über die Leistung, sondern vor allem die Qualität und Struktur des Trainings.