KI: Souveränes Auftreten bei völliger Ahnungslosigkeit

„Das hast du ja toll gemacht.“ – ein einziger Satz, und doch wissen wir nicht, ob er ehrliches Lob ist oder bitterer Spott. Ob wir uns freuen oder ertappt fühlen, hängt allein davon ab, wer ihn in welcher Lage sagt. Erst der Zusammenhang, in dem der Satz fällt, entscheidet darüber, wie wir ihn verstehen. Genau das meinen wir, wenn wir von Kontext sprechen: die Summe all jener Informationen, die mitbestimmen, wie eine Äußerung bei uns ankommt. Ohne ihn stünden wir vor fast jeder Äußerung ratlos; wir nutzen ihn deshalb ständig, ohne darüber nachzudenken – ganz ähnlich, wie wir Fahrrad fahren, ohne erklären zu können, wie wir dabei eigentlich das Gleichgewicht halten.

Dieser Zusammenhang hat viele Gesichter, und es lohnt sich, sie auseinanderzuhalten – zumal uns genau diese Arten später, bei der Frage nach den Fähigkeiten der KI, wieder begegnen werden:

• Sprachlicher Kontext: der Text rund um ein Wort, also die Sätze davor und danach – sie geben einer „Maus“ erst ihre Bedeutung als Tier oder als Computerzubehör.
• Situativer Kontext: Ort, Zeitpunkt und Anlass einer Äußerung – ein lautes „Achtung!“ meint auf der Baustelle etwas anderes als im Klassenzimmer.
• Sozialer Kontext: wie die Beteiligten zueinander stehen, ihre Hierarchie, Vertrautheit und Rollen – derselbe lockere Spruch wirkt unter Freunden gelöst und gegenüber der Chefin schnell unpassend.
• Kultureller Kontext: was überhaupt als höflich, direkt oder anstößig gilt – in dem einen Land gilt offene Kritik als ehrlich, in dem anderen bereits als Affront.
• Emotionaler Kontext: die Stimmung des Augenblicks, die jede Äußerung mitfärbt.
• Kausaler Kontext: das Zusammenspiel von Ursache und Wirkung – das Wissen etwa, dass auf einen Sturz der Schmerz folgt und nicht umgekehrt.

Schon diese Aufzählung zeigt, dass Kontext weit mehr ist als nur „die Worte drumherum“. Wer ihn darauf verkürzt, übersieht das Wesentliche – und wie folgenreich das ist, zeigt sich erst dann, wenn der Zusammenhang plötzlich fehlt.

Die rein wörtliche Aussage ist somit fast immer nur die halbe Botschaft. „Er hat den Mann mit dem Fernglas beobachtet.“ – hielt der Beobachter selbst das Fernglas in der Hand, oder hatte es der beobachtete Mann? Ein einziger Satz, zwei ganz verschiedene Bilder, und ohne Kontext bleibt schlicht unentscheidbar, welche der beiden gemeint ist.

Solche Mehrdeutigkeiten sind dabei kein Randphänomen. „Free tickets“ etwa kann bedeuten, dass noch Karten verfügbar sind, oder dass sie nichts kosten; übersetzt man die falsche Variante, ist der Satz zwar sprachlich korrekt, ergibt inhaltlich aber keinen Sinn. Noch deutlicher wird es bei Ironie, Humor und Sarkasmus, denn diese funktionieren nur dann, wenn beide Seiten dasselbe Hintergrundwissen teilen. Fehlt dieses geteilte Wissen, so kippt dieselbe Pointe schnell in eine Beleidigung oder eine bloße Plattitüde.

Wie viel überhaupt ausdrücklich gesagt werden muss, hängt zudem stark von der Kultur ab. Der Anthropologe Edward T. Hall unterscheidet dafür zwischen High- und Low-Context-Kulturen. In High-Context-Kulturen wie Japan steckt die eigentliche Botschaft oft zwischen den Zeilen – ein höfliches „Das könnte etwas schwierig werden“ bedeutet dort in aller Regel ein klares Nein. Wer dagegen aus einer Low-Context-Kultur wie Deutschland kommt und beim Wortlaut bleibt, hört darin nur ein „schwierig, aber mit etwas Mühe machbar“. So entstehen aus denselben Worten zwei gegenteilige Schlüsse – und der gemeinsame Termin platzt womöglich, noch ehe er begonnen hat. Verstehen entsteht erst im Zusammenhang.

Wie geht nun eine künstliche Intelligenz mit alldem um? Ein großes Sprachmodell, kurz LLM, zerlegt jeden Text zunächst in sogenannte Tokens, also in ganze Wörter oder Wortteile mit jeweils eigener Kennung. Aus deren Position und aus gewaltigen Mengen an Trainingsdaten berechnet das Modell anschließend eine Wahrscheinlichkeitsverteilung und beantwortet damit immer wieder dieselbe Frage: Welches Token folgt als Nächstes am wahrscheinlichsten? Wort für Wort entsteht auf diese Weise eine Antwort.

Hier liegt der eigentlich unbequeme Punkt. Ein LLM versteht nicht, es rechnet und simuliert. Was für uns wie Verständnis aussieht, ist im Kern nichts anderes als Mustererkennung und Statistik. Das Modell erzeugt jenen Text, der am wahrscheinlichsten passt, und nicht zwangsläufig jenen, der auch tatsächlich stimmt. Eben deshalb klingen falsche Antworten oft genauso souverän wie richtige, und genau diese Souveränität macht es uns wiederum so leicht, ihnen zu glauben. Man fühlt sich dabei an den bekannten Spruch erinnert, Erfolg sei vor allem „souveränes Auftreten bei völliger Ahnungslosigkeit“ – nur dass hier eine Maschine genau das zur Perfektion treibt.

Den nötigen Zusammenhang hält das Modell in seinem sogenannten Kontextfenster, einer Art Speicher für den bisherigen Gesprächsverlauf, für mitgegebene Dokumente und für jene Systemanweisungen, die für uns als Nutzer unsichtbar bleiben. Diese Fenster sind inzwischen enorm, aktuelle Spitzenmodelle fassen eine Million Tokens und mehr, vereinzelt sogar mehrere Millionen – das entspricht grob ein paar Tausend Buchseiten. Doch Größe ist, wie sich zeigt, nicht alles.

Im Gegenteil. Der Rechenaufwand wächst quadratisch mit der Zahl der Tokens, mehr Kontext bedeutet also zugleich längere Wartezeiten und mehr Rauschen, in dem das Modell den Fokus verlieren kann. Zudem behandeln LLMs nicht alle Stellen gleich: Informationen am Anfang und am Ende des Fensters werden bevorzugt, der Mittelteil dagegen wird systematisch vernachlässigt, ein Effekt, den man treffend „lost in the middle“ nennt – ganz ähnlich wie ein Mensch, der eine zehnseitige E-Mail nur überfliegt und am Ende lediglich den ersten und den letzten Absatz behält. Entscheidend ist also nicht das größte Fenster, sondern die richtige Auswahl, denn Kontextqualität schlägt Kontextquantität. Hinzu kommt schließlich ein besonders heikler Punkt: Die KI meldet so gut wie nie von sich aus, wenn ihr Kontext fehlt oder bereits aus dem Fenster gefallen ist. Sie antwortet einfach weiter, selbstbewusst, überzeugend und im Zweifel falsch. Bittet man sie etwa um eine Quelle für eine ihrer Behauptungen, erfindet sie notfalls eine täuschend echte – mit Autor, Titel und Jahreszahl –, die es nie gegeben hat.

Damit lässt sich nun, am Ende unserer Spurensuche, eine Antwort wagen – nur eben nicht in Form eines einzigen Ja oder Nein. Einen Teil des Kontexts beherrscht die KI durchaus souverän; beim größeren Rest aber bleibt sie auf das angewiesen, was man ihr ausdrücklich mitgibt – und an einer Stelle ist sie schlicht blind. Schlüsselt man das nach den einzelnen Kontextarten auf, so ergibt sich folgendes Bild:

Ein Sonderfall verdient dabei noch einen eigenen Blick, weil er sich der schlichten Einteilung entzieht: das Branchenwissen. Es zerfällt nämlich in zwei sehr ungleiche Hälften. Das explizite Fachwissen – Begriffe, Normen, gängige Kennzahlen – beherrscht die KI oft erstaunlich gut, denn genau das stand verschriftlicht in ihren Trainingsdaten, vorausgesetzt freilich, die Branche ist dort überhaupt breit vertreten. Beim impliziten Branchenwissen aber, den ungeschriebenen Regeln und dem Erfahrungswissen, dem berühmten „wir wissen mehr, als wir zu sagen wissen“, endet ihre Kompetenz – schlicht weil dieses Wissen nie irgendwo niedergeschrieben wurde, an dem sie es hätte lernen können. Die Vermutung liegt nahe, dass genau hier die Grenze verläuft: Was eine Branche von sich aus dokumentiert, kann die Maschine wiedergeben; was sie nur lebt, bleibt ihr verschlossen. Für die Marktforschung ist gerade das von Belang, denn Branchenwissen ist hier kein Beiwerk, sondern das eigentliche Kapital: Wer eine Studie für die Pharma-, Automobil- oder Versicherungsbranche aufsetzt, lebt von genau jenem Erfahrungswissen, das der Maschine fehlt – und das entscheidet oft darüber, ob eine Antwort bloß plausibel klingt oder fachlich trägt.

Damit ist im Grunde auch unsere Eingangsfrage beantwortet. „Zwischen den Zeilen lesen“ kann die KI nicht wirklich; was wie Einfühlung wirkt, ist aus Mustern erlerntes Verhalten und kein echtes Verständnis. Einen möglichen Ausweg sehen viele in sogenannten Weltmodellen, also einer inneren Repräsentation der Welt aus Sprache, Physik und Kausalität, mit der eine Maschine Situationen tatsächlich begreifen könnte. So weit sind wir jedoch noch nicht. Bis dahin bleibt die KI ein Wahrscheinlichkeitsrechner, ein bemerkenswert guter zwar, aber eben keiner, der die Welt versteht.

Was bedeutet das nun für die Marktforschung? Zunächst einmal eine handfeste Chance. Wer etwa 2.000 offene Antworten auf die Frage „Was stört Sie an unserem Service?“ vor sich liegen hat, kann sie von einer KI binnen Minuten zu Themen wie Wartezeit, Preis oder Freundlichkeit des Personals bündeln lassen, statt sie tagelang von Hand zu codieren. Auch eine ganze Tabellenbatterie verwandelt sie auf Wunsch in lesbaren Fließtext. Das ist sprachlicher Kontext in Reinform – jenes eine klare „Ja“ aus unserer Tabelle: Sie erkennt Muster, fasst zusammen und sortiert, schneller als ein ganzes Team es könnte.

Die Grenze beginnt dort, wo eine Zahl erst durch das Wissen über die Branche zur Aussage wird. Nehmen wir einen Zufriedenheitswert von 72 Punkten in einer Versicherungsstudie. Der KI liegt dieselbe, vollständige Tabelle vor wie uns – und solange in ihren Daten kein verschriftlichter Branchen-Benchmark steckt, nennt sie den Wert „mittelmäßig“, weil 72 nun einmal weit von der vollen Punktzahl entfernt ist. Erfahrene Marktforscher dagegen wissen, dass dies in einer Branche, deren Kundschaft notorisch streng urteilt, ein hervorragendes Ergebnis ist. Dieselbe Zahl, zwei gegensätzliche Schlüsse – und der Unterschied liegt allein in dem, was man über die Branche weiß. Genau dieses Erfahrungswissen – wie ein Markt tickt, wann ein guter Wert wirklich gut ist, welche Saisonalität und welche Sondereffekte mitschwingen – hat die Maschine nirgends nachlesen können.

Daraus ergibt sich eine Arbeitsteilung, die sich aus unserer Tabelle fast von selbst ableitet:

• Der Maschine überlassen: die sprachliche Fleißarbeit – offene Antworten codieren, Tabellen in Prosa fassen, Routinereporting. Das ist ihr klares „Ja“.
• Ihr immer mitgeben: den situativen Rahmen jeder Zahl – Stichprobe, Fallzahlen, Gewichtung und den exakten Fragewortlaut. Fehlt er, interpretiert sie ins Blaue, ohne es zu sagen.
• Beim Menschen behalten: ob ein Wert für diese Branche gut oder schlecht ist, ob ein Unterschied echt oder bloß ein Saison- oder Sondereffekt – kurz, die Einordnung ins Branchenwissen und die finale Deutung. Alles, was die Tabelle „eingeschränkt“ oder „nein“ nennt.

Praktisch heißt das: Eine KI-Auswertung ist ein hervorragender erster Entwurf, nie das fertige Ergebnis – und weil die Maschine fehlenden Kontext nie von sich aus meldet, gehört jede ihrer Aussagen gegengelesen. Am Ende läuft alles auf dieselbe Grenze hinaus, die sich durch diesen ganzen Artikel zieht: Die Maschine beherrscht das Explizite, das Aufgeschriebene, das Gezählte; das Implizite aber – der Zusammenhang, in dem eine Zahl erst etwas bedeutet – bleibt unsere Aufgabe. Wer das verwechselt, misst am Ende nur, was sich leicht messen lässt, und übersieht gerade das, worauf es ankommt.