Man muss sich das Zusammenspiel zwischen LLM und Framework wie eine Kommunikation zwischen einem Architekten (LLM) und einem Bauleiter (Framework/MCP-Server) vorstellen. Der Architekt kann keine Steine heben, aber er kann perfekte Baupläne zeichnen.

1. Der Mechanismus: Structured Planning (Funktionsaufrufe)

Ein LLM steuert ein System nicht durch „Wollen“, sondern durch Textmuster. In der Fachsprache nennt man das Function Calling oder Tool Use.

So funktioniert es Schritt für Schritt:

1. Die Tool-Beschreibung (Das Menü): Bevor der Chat überhaupt beginnt, schickt das Framework dem LLM eine Liste mit verfügbaren Werkzeugen. Das sieht für die KI aus wie eine technische Dokumentation:
   • Tool Name: create_docx
   • Parameter: filename (String), content (String)
   • Beschreibung: „Erstellt eine Word-Datei mit dem angegebenen Text.“
2. Die Entscheidung (Die Planung): Du sagst: „Schreibe eine Zusammenfassung in eine DOCX-Datei namens ‚Notizen.docx‘.“ Das LLM erkennt: „Ich kann keine Dateien schreiben, aber ich habe ein Tool namens create_docx. Ich werde dieses Tool jetzt anfordern.“
3. Der strukturierte Aufruf (Der Bauplan): Anstatt dir zu antworten: „Okay, mache ich!“, gibt das LLM einen speziellen, maschinenlesbaren Codeblock aus (meistens in JSON), den du als Nutzer oft gar nicht zu sehen bekommst:

{  "tool": "create_docx",
  "parameters":
    { 
      "filename": "Notizen.docx",
      "content": "Hier ist die Zusammenfassung der besprochenen Themen..."
    }
}

4. Die Ausführung (Der Bauleiter): Das Framework (oder der MCP-Server) sieht diesen JSON-Block. Er denkt: „Ah, das LLM möchte das Tool create_docx nutzen. Ich weiß, wie man eine echte DOCX-Datei auf der Festplatte erstellt!“ Das Framework führt nun den eigentlichen Programmiercode (z.B. in Python) aus, der die Datei speichert.
5. Das Feedback (Die Rückmeldung): Das Framework schickt eine Nachricht zurück an die KI: Erfolg: Datei 'Notizen.docx' wurde unter /home/user/docs gespeichert. Erst jetzt generiert die KI die Antwort für dich: „Ich habe die Datei ‚Notizen.docx‘ erfolgreich für dich erstellt!“

2. Warum funktioniert das mit der Shell (Terminal) genauso?

Ein Shell-Befehl (z.B. ls oder grep) ist für das Framework einfach nur ein weiteres „Tool“.

• Anfrage: „Welche Dateien liegen in meinem Ordner?“
• LLM-Output: {"tool": "execute_shell", "command": "ls -la"}
• Framework-Aktion: Das Framework öffnet die echte System-Shell, tippt ls -la ein und kopiert die Text-Ausgabe der Shell zurück in den Chat des LLM.
• KI-Antwort: „In deinem Ordner liegen folgende Dateien: …“

3. Die drei Sicherheitssperren (Warum dein PC nicht explodiert)

Da es gefährlich wäre, einer KI freien Zugriff auf die Shell zu geben (sie könnte theoretisch rm -rf / tippen und alles löschen), gibt es drei Schutzebenen:

1. Die Whitelist: Das Framework erlaubt nur bestimmte Befehle. Ein Befehl wie format c: wird vom Framework sofort blockiert, noch bevor er das System erreicht.
2. Die Sandbox: Die Shell-Befehle laufen oft in einem „Container“ (einer isolierten Umgebung). Wenn die KI dort etwas löscht, löscht sie es nur in einem virtuellen Raum, nicht auf deinem echten Betriebssystem.
3. Human-in-the-Loop: Bei kritischen Aktionen (z.B. Datei löschen oder E-Mail senden) ploppt ein Fenster auf: „Der Agent möchte den Befehl X ausführen. Erlaubst du das?“

💡 Die Analogy: Der Ferngesteuerte Roboter-Arm

Stell dir vor, du bist ein Operator in einem Kontrollraum und steuerst einen Roboter-Arm in einer gefährlichen Zone (z.B. einem Chemielabor).

• Das LLM bist du (der Operator). Du siehst die Kamera-Bilder und entscheidest: „Ich muss jetzt die blaue Flasche greifen.“
• Das Tool-Calling ist das Joystick-Panel. Du hast keinen direkten Zugriff auf den Arm. Du drückst einen Knopf, der beschriftet ist mit GREIFEN(Objekt="blaue_flasche").
• Das Framework/MCP ist die Elektronik des Roboters. Sie empfängt den elektrischen Impuls vom Knopf und wandelt ihn in präzise mechanische Bewegungen der Servomotoren um.
• Die Rückmeldung ist der Sensor. Der Roboter meldet: Status: Objekt gegriffen. Erst dann weißt du, dass die Aktion geklappt hat.

Die wichtigste Erkenntnis: Der Operator (die KI) berührt die Flasche nie selbst. Er gibt nur den präzisen Befehl für die Maschine, die es tun kann.

📚 Zusammenfassung

Komponente	Rolle	Aktion
LLM	Der Planer	Erzeugt einen strukturierten Text-Wunsch (JSON).
Tool-Definition	Das Regelbuch	Sagt der KI, welche Tools es gibt und wie sie heißen.
Framework / MCP	Der Ausführer	Übersetzt den Text-Wunsch in echten Programmcode.
OS / API	Die Welt	Führt die Aktion aus (Datei speichern, Shell-Befehl).
Feedback-Loop	Die Kontrolle	Meldet das Ergebnis zurück, damit die KI den nächsten Schritt planen kann.

Alle Antworten sind von der KI erstellt. Sie wurden von mir nochmal durchgelesen und nach meinem Wissensstand kontrolliert.
Zur Hauptseite: Wie funktionieren eigentlich LLMs?
Vorherige Seite: ⚙️ Die Infrastruktur von Agenten – MCP & Frameworks
Nächste Seite: ⚠️ Die Grenzen von LLMs – Was die KI (nicht) kann