Ein LLM ist ein meisterhafter Text-Generator, aber es ist kein logisches Rechensystem und kein Allwissender. Wer die Grenzen nicht kennt, baut auf Sand. Wir unterteilen diese Grenzen in drei Kategorien: Rechnen, Logik und Fakten.

1. Die große Frage: Kann eine KI eigentlich rechnen?

Die kurze Antwort: Nein. Eine LLM rechnet nicht, sie „simuliert“ das Rechnen.

Wie die KI „rechnet“ (Der Statistik-Trick)

Erinnere dich an unser Kapitel über die Token-Vorhersage. Wenn du fragst: „Was ist 3 + 5?“, dann rechnet die KI nicht im mathematischen Sinne. Stattdessen passiert Folgendes:

• Die KI hat im Training Millionen Male die Zeichenfolge „3 + 5 = 8“ gesehen.
• Das Token „8“ hat nach der Sequenz „3 + 5 =“ eine extrem hohe statistische Wahrscheinlichkeit.
• Die KI gibt also „8“ aus, weil es das wahrscheinlichste nächste „Wort“ ist, nicht weil sie die Addition ausgeführt hat.

Wo das Problem liegt

Das funktioniert bei einfachen Aufgaben (wie 3+5), weil sie oft im Internet vorkommen. Aber:

• Komplexe Zahlen: Bei „Was ist 1.234.567 * 8.910,11?“ gibt es keine fertige Textsequenz im Training. Die KI beginnt nun, die Zahlen-Muster zu „erraten“. Das Ergebnis sieht oft korrekt aus (richtige Anzahl an Stellen), ist aber faktisch falsch.
• Präzision: Bei sehr langen Dezimalzahlen verliert die KI die Orientierung, da sie keine feste Rechenlogik besitzt.

Die Lösung: Deshalb nutzen moderne Agenten (wie wir im letzten Kapitel gelernt haben) Tools. Wenn ein Agent merkt, dass eine Rechnung ansteht, schreibt er keinen Text, sondern ruft ein Tool wie Python oder einen Taschenrechner auf. Das Tool rechnet, die KI formuliert nur das Ergebnis.

2. Logik und „Common Sense“ (Gesunder Menschenverstand)

LLMs besitzen kein Bewusstsein für die physische Welt. Sie kennen nur die Beschreibung der Welt.

• Multi-Schritt-Logik: KI kann oft 2-3 logische Schritte hintereinander gehen. Aber bei komplexen Rätseln, die 10 Zwischenschritte erfordern, „verliert“ sie den Faden. Sie vergisst einen Teil der Bedingung oder baut einen Logikfehler ein, den sie dann (wie wir gelernt haben) höflich verteidigt.
• Physisches Verständnis: Eine KI weiß, dass „ein Apfel auf einen Tisch fällt“, weil sie es gelesen hat. Aber sie hat kein echtes Gefühl für Schwerkraft, Raum oder Zeit. Das führt zu Fehlern bei Aufgaben wie: „Wenn ich eine Tasse auf den Kopf stelle und eine Münze darunter lege, wo ist die Münze, wenn ich die Tasse nach links schiebe?“

3. Die Faktizitätsfalle (Halluzinationen)

Das größte Risiko ist die „plausible Lüge“.

• Wahrscheinlichkeit ≠ Wahrheit: Ein LLM ist darauf optimiert, eine Antwort zu geben, die richtig klingt. Wenn es keine Information hat, generiert es eine Antwort, die statistisch perfekt in den Satzbau passt, aber inhaltlich erfunden ist.
• Knowledge Cut-off: Jedes Modell hat ein Datum, an dem sein Training endete. Alles, was danach passierte, existiert für die KI nicht (es sei denn, sie hat Zugriff auf ein Web-Search-Tool).

🚩 Die „Rote Liste“: Wann man ein LLM NICHT alleine einsetzen sollte

Es gibt Bereiche, in denen die statistische Natur einer KI lebensgefährlich oder rechtlich riskant ist:

1. Medizinische Diagnosen: Eine KI kann Symptome plausibel verknüpfen, aber sie kann keine echte körperliche Untersuchung ersetzen und halluziniert manchmal Medikamentendosen.
2. Rechtsberatung: Gesetze sind präzise. Eine KI, die „ungefähr“ das richtige Gesetz zitiert, kann fatale Folgen haben.
3. Sicherheitskritischer Code: Software für Bremsen in Autos oder Steuerungen in Kraftwerken darf nicht auf statistischen Wahrscheinlichkeiten basieren, sondern muss deterministisch (immer exakt gleich) funktionieren.
4. Finanzielle Detail-Analysen: Wo jede Nachkommastelle zählt, ist ein LLM ohne integrierten Taschenrechner (Tool) unbrauchbar.

📚 Zusammenfassung

Bevor du eine Antwort einer KI glaubst, stelle dir diese drei Fragen:

1. Ist das eine Rechenaufgabe? → Wenn ja: Hat die KI ein Tool benutzt oder nur „geraten“?
2. Ist das ein Fakt aus der realen Welt? → Wenn ja: Kann ich das mit einer zweiten, verlässlichen Quelle prüfen?
3. Ist das eine komplexe Logik-Kette? → Wenn ja: Hat die KI die Schritte einzeln erklärt (Chain-of-Thought) oder einfach nur ein Ergebnis „hingeworfen“?

Bereich	LLM-Fähigkeit	Risiko	Empfehlung
Kreativität	⭐⭐⭐⭐⭐	Gering	Unbedenklich nutzen.
Sprache/Übersetzung	⭐⭐⭐⭐⭐	Gering	Sehr gut, aber Kontext prüfen.
Programmierung	⭐⭐⭐⭐	Mittel	Code immer testen/ausführen!
Mathematik	⭐⭐	Hoch	Nur mit Rechen-Tool nutzen.
Fakten/Wissen	⭐⭐⭐	Hoch	Quellen verifizieren.
Kritische Logik	⭐⭐	Hoch	Manuelle Prüfung der Schritte.

Alle Antworten sind von der KI erstellt. Sie wurden von mir nochmal durchgelesen und nach meinem Wissensstand kontrolliert.
Zur Hauptseite: Wie funktionieren eigentlich LLMs?
Vorherige Seite: 🛠️ Wie die Steuerung konkret funktioniert (Tool-Calling)
Nächste Seite: 🌍 Gesellschaftliche Folgen von LLMs