KI "halluziniert" – und das ist ein echtes Problem
Es gibt einen Begriff, den du dir merken solltest: Halluzination. Das klingt dramatisch, beschreibt aber ein sehr konkretes Problem: KI erfindet manchmal Dinge, die nicht wahr sind – und tut das mit vollkommener Überzeugung.
Das kann sich so zeigen: Du fragst nach dem Autor eines Buches – KI nennt dir einen Namen, der erfunden ist. Du fragst nach einem Gesetz – KI zitiert einen Paragrafen, den es nicht gibt. Du fragst nach einer österreichischen Behörde – KI nennt dir eine Adresse, die falsch ist. All das klingt plausibel, ist korrekt formuliert und klingt wie eine echte Antwort. Und ist es doch nicht.
Warum passiert das? Weil KI kein Nachschlagewerk ist. Sie "weiß" keine Fakten – sie erzeugt Antworten, die sprachlich plausibel klingen. Das geht oft gut. Manchmal aber nicht. Und das Tückische: Du kannst es oft nicht sofort erkennen.
KI weiß nicht, was heute ist
Jede KI hat einen sogenannten Trainings-Cutoff – ein Datum, nach dem sie nichts mehr "gelernt" hat. ChatGPT zum Beispiel kennt keine Ereignisse, die nach seinem letzten Trainingsdatum passiert sind. Das heißt: Aktuelle Nachrichten, neue Gesetze, die letzten Wahlergebnisse, neue Produkte, aktuelle Preise – all das ist für KI ohne Internetanbindung schlicht nicht vorhanden.
Manche Tools wie Perplexity AI oder ChatGPT mit aktivierter Websuche können inzwischen im Internet recherchieren und so aktuellere Antworten liefern. Aber das ist nicht die Regel – und selbst dann solltest du kritisch sein. Für Fragen, wo Aktualität wichtig ist (Zugverbindungen, Öffnungszeiten, aktuelle Rechtslage), immer lieber direkt auf der offiziellen Website nachschauen.
KI hat kein echtes Verständnis
Das ist vielleicht die wichtigste Grenze – und die schwierigste, weil sie so gut versteckt ist. KI klingt, als würde sie verstehen. Aber sie versteht nicht im menschlichen Sinn.
Ein Mensch, der einen Text liest, versteht nicht nur die Wörter. Er versteht den Kontext dahinter: die soziale Situation, die emotionale Lage, die unausgesprochenen Annahmen. KI kombiniert Muster aus ihrem Training. Das funktioniert erstaunlich oft – aber eben nicht immer.
Ironie ist ein gutes Beispiel: Wenn du sagst "Ja, das war mal wieder ein toller Tag" und du dabei einen Unfall hattest, versteht ein Mensch sofort, dass du das zynisch meinst. KI versteht das manchmal – und manchmal nicht, besonders wenn der Kontext fehlt. Ähnliches gilt für Sarkasmus, kulturelle Anspielungen und feine Nuancen. Wenn du merkst, dass KI dich "falsch verstanden" hat, formuliere den Kontext klarer.
KI kann keine Gefühle haben – auch wenn es so klingt
Das verdient einen eigenen Abschnitt, weil es viele Menschen wirklich beschäftigt. Wenn ChatGPT schreibt "Ich verstehe, wie frustrierend das für dich sein muss" – dann klingt das empathisch. Es ist kein Beweis für ein Gefühl. Es ist das sprachliche Muster, das in der Trainingsdaten als angemessene Reaktion in dieser Situation vorkam.
KI hat kein Innenleben. Sie leidet nicht, wenn du unhöflich bist. Sie freut sich nicht wirklich, wenn du ihr dankst. Sie hat keine Interessen, keine Wünsche, keine Langeweile. Das zu wissen ist wichtig – nicht um KI kleiner zu reden, sondern um die Beziehung richtig einzuordnen. Du nutzt ein Werkzeug, das sich menschlich anfühlt. Das Werkzeug ist mächtig. Aber es ist kein Freund, kein Therapeut und kein Gegenüber im echten Sinn.
KI ersetzt keinen Arzt, keinen Anwalt, keinen Steuerberater
KI kann dir erklären, was Bluthochdruck ist. Sie kann dir sagen, welche Rechte Mieter in Österreich grundsätzlich haben. Sie kann dir erklären, wie die Einkommensteuer funktioniert. Das ist wertvoll – als Vorbereitung, als erste Orientierung, zum Verständnis.
Aber KI kann dir nicht sagen, ob deine konkreten Symptome auf eine bestimmte Krankheit hinweisen. Sie kann nicht beurteilen, ob dein Mietvertrag rechtlich hält. Sie kann keine Steuererklärung erstellen, die an deinen konkreten Fall angepasst ist und für die jemand haftet.
Der Unterschied ist Verantwortung. Ein Arzt, ein Anwalt, ein Steuerberater haften für ihre Aussagen. Sie kennen deinen Fall, deine Geschichte, deinen Kontext. KI tut das nicht – und übernimmt keine Verantwortung. Für wichtige Entscheidungen, die deine Gesundheit, dein Geld oder deine Rechtslage betreffen: Fachleute befragen. KI kann dir helfen, die richtigen Fragen zu stellen. Die Antworten liefert der Experte.
KI macht Fehler bei Mathematik und Logik
Das überrascht viele – schließlich sind Computer eigentlich gut mit Zahlen. Aber KI-Sprachmodelle sind keine Taschenrechner. Sie erzeugen Text, und Zahlen sind für sie Symbole wie andere Symbole auch.
In der Praxis bedeutet das: Einfache Rechnung wie 5 × 3 beherrscht KI problemlos. Aber komplexere Kettenrechnungen, Aufgaben mit mehreren Schritten, Bruchrechnung mit mehreren Variablen oder logische Rätsel – da kommt es öfter zu Fehlern als man denken würde. Ähnliches gilt für Logikaufgaben: Wenn du KI komplexe Wenn-Dann-Ketten oder Vergleiche gibst, schleichen sich manchmal Fehler ein, die du sofort siehst – wenn du aufmerksam bist.
Was tun? Bei Berechnungen, die wirklich stimmen müssen: lieber nachrechnen oder einen echten Taschenrechner verwenden. Manche KI-Tools haben inzwischen auch einen eingebauten "Code-Interpreter", der tatsächlich rechnet statt zu raten – das ist zuverlässiger.
Diese Grenzen zu kennen macht dich nicht zum KI-Skeptiker. Es macht dich zum klugen KI-Nutzer. KI ist außergewöhnlich gut in vielem – Texte schreiben, Ideen generieren, Erklärungen liefern, Entwürfe erstellen. Wenn du weißt, wo die Grenzen sind, setzt du KI dort ein, wo sie glänzt – und prüfst selbst, wo Genauigkeit wichtig ist.
Die 5 Dinge, die du immer selbst prüfen solltest
- Fakten und Quellen: Wenn KI eine Zahl, ein Datum, ein Zitat oder eine Quelle nennt, kurz selbst nachschauen – besonders bei wichtigen Entscheidungen.
- Aktuelle Informationen: Alles, was sich schnell ändert (Preise, Gesetze, Öffnungszeiten, aktuelle Ereignisse) lieber direkt auf der offiziellen Website prüfen.
- Medizinische und rechtliche Aussagen: Immer mit einem Fachmann besprechen, bevor du handelst.
- Berechnungen: Mathematische Ergebnisse mit einem Taschenrechner oder einer zweiten Quelle gegenchecken.
- Dein eigenes Gefühl: Wenn eine Antwort komisch klingt, zu perfekt ist oder irgendetwas nicht stimmt – vertraue deinem Bauchgefühl und prüfe nach. KI hat kein Unrechtsbewusstsein und widerspricht sich manchmal sogar selbst.
KI ist kein allwissender Geist und kein unfehlbares System. Sie halluziniert, kennt nichts Aktuelles, versteht nicht wirklich, hat keine Gefühle und ersetzt keinen Experten. Das klingt viel – ist aber kein Grund zur Enttäuschung. Es ist ein Grund zur Klarheit. Wenn du KI als mächtigen, aber fehlbaren Assistenten betrachtest – der dir Entwürfe liefert, Ideen gibt und Zeit spart, aber nicht das letzte Wort hat – dann wirst du nie enttäuscht sein. Und du wirst überraschend oft begeistert sein.
AI "hallucинates" — and that's a real problem
There's a term worth knowing: hallucination. It sounds dramatic, but it describes a very specific problem: AI sometimes invents things that aren't true — and does so with complete confidence.
Here's what that can look like: you ask who wrote a book — AI gives you a name it made up. You ask about a law — AI quotes a clause that doesn't exist. You ask about a government office — AI gives you an address that's wrong. All of it sounds plausible, reads correctly, and feels like a real answer. But it isn't.
Why does this happen? Because AI is not a reference database. It doesn't "know" facts — it generates responses that sound linguistically plausible. That works most of the time. But not always. And the tricky part: you often can't tell the difference immediately.
AI doesn't know what's happening today
Every AI has a so-called training cutoff — a date after which it has learned nothing new. ChatGPT, for example, has no knowledge of events that happened after its last training date. That means current news, new laws, recent election results, new products, current prices — none of that exists for an AI without a live internet connection.
Some tools like Perplexity AI or ChatGPT with web search enabled can now browse the internet and provide more up-to-date answers. But that's the exception, not the rule — and even then, you should stay critical. For anything where currency matters (train timetables, opening hours, current legal requirements), always go directly to the official source.
AI doesn't truly understand
This is perhaps the most important limitation — and the hardest to see, because it's so well hidden. AI sounds like it understands. But it doesn't understand in the human sense.
When a person reads a text, they don't just understand the words. They grasp the context behind them: the social situation, the emotional state, the unspoken assumptions. AI combines patterns from its training data. This works surprisingly often — but not always.
Irony is a good example. If you say "Well, that was another brilliant day" after you've had an accident, any human understands immediately that you're being sarcastic. AI sometimes gets that — and sometimes doesn't, especially when context is missing. The same goes for sarcasm, cultural references, and subtle nuance. If you notice that AI has "misunderstood" you, spell out the context more clearly.
AI can't have feelings — even when it sounds like it does
This deserves its own section, because it genuinely preoccupies a lot of people. When ChatGPT writes "I understand how frustrating that must be for you" — it sounds empathetic. That's not evidence of a feeling. It's the linguistic pattern that appeared in the training data as an appropriate response in that kind of situation.
AI has no inner life. It doesn't suffer when you're rude to it. It doesn't actually rejoice when you thank it. It has no interests, no wishes, no boredom. Knowing this matters — not to diminish AI, but to understand the relationship correctly. You're using a tool that feels human. The tool is powerful. But it's not a friend, not a therapist, and not a real counterpart in any genuine sense.
AI doesn't replace a doctor, a lawyer, or an accountant
AI can explain what high blood pressure is. It can tell you what rights tenants generally have. It can walk you through how income tax works. That's genuinely valuable — as preparation, as orientation, for understanding.
But AI cannot tell you whether your specific symptoms point to a particular condition. It cannot assess whether your rental contract holds up legally. It cannot prepare a tax return tailored to your individual situation with anyone bearing responsibility for the outcome.
The difference is accountability. A doctor, a lawyer, an accountant are professionally liable for what they say. They know your case, your history, your context. AI does not — and takes no responsibility. For decisions that affect your health, your money, or your legal situation: consult a professional. AI can help you ask the right questions. The expert provides the answers.
AI makes mistakes with maths and logic
This surprises many people — computers are supposed to be good with numbers, after all. But AI language models are not calculators. They generate text, and numbers are just symbols to them like any other symbols.
In practice: simple arithmetic like 5 × 3 is no problem. But more complex chain calculations, multi-step problems, fractions with several variables, or logic puzzles — that's where errors creep in more often than you'd expect. The same applies to logic problems: give AI a complex chain of if-then reasoning or a multi-step comparison, and mistakes can slip through that you'd catch immediately if you're paying attention.
What to do? For calculations that really need to be correct: double-check them or use an actual calculator. Some AI tools now have a built-in code interpreter that actually computes rather than guesses — that's far more reliable.
Knowing these limits doesn't make you an AI skeptic. It makes you a smart AI user. AI is extraordinarily good at many things — writing, generating ideas, explaining concepts, drafting content. When you know where the limits are, you use AI where it shines — and check things yourself where accuracy really matters.
The 5 things you should always verify yourself
- Facts and sources: When AI mentions a number, a date, a quote, or a source — quickly check it yourself, especially for important decisions.
- Current information: Anything that changes quickly (prices, laws, opening hours, current events) — verify it directly on the official website.
- Medical and legal statements: Always discuss with a professional before acting.
- Calculations: Cross-check mathematical results with a calculator or a second source.
- Your gut feeling: If an answer sounds off, seems too perfect, or something just doesn't add up — trust your instinct and verify. AI has no sense of wrongdoing and sometimes even contradicts itself.
AI is not an all-knowing mind and not an infallible system. It hallucинates, knows nothing current, doesn't truly understand, has no feelings, and can't replace an expert. That sounds like a lot — but it's not a reason for disappointment. It's a reason for clarity. If you think of AI as a powerful but fallible assistant — one that gives you drafts, sparks ideas, and saves time, but never has the final word — you'll never be let down. And you'll be genuinely impressed far more often than not.