Skip to content
Vol. 1 · Ed. 2026
CyberGlossary
Deutsch
Entry № 617

LLM-Firewall

Was ist LLM-Firewall?

LLM-FirewallSicherheitskontrolle, die zwischen Nutzern und einem Large Language Model sitzt und Prompts, Retrieval-Kontext und Ausgaben in Echtzeit inspiziert, um regelwidrigen Traffic zu blockieren oder umzuschreiben.

Eine LLM-Firewall — auch AI Firewall oder LLM Gateway genannt — übernimmt Inspektion, Klassifizierung und Policy-Durchsetzung für den Verkehr zu und von LLM-Endpunkten. Typische Funktionen sind Erkennung von Prompt Injection und Jailbreaks, PII- und Secrets-Redaction, Content-Moderation, Schema- und Tool-Call-Validierung, identitätsbasiertes Rate Limiting, RAG-Egress-Kontrolle und detaillierte Audit-Logs. Produkte und Open-Source-Projekte umfassen LLM Guard, Prompt Shield, Lakera Guard sowie Angebote von Cloudflare, F5, Palo Alto und den großen Hyperscalern. LLM-Firewalls ergänzen, ersetzen aber nicht modellinterne Guardrails, sichere RAG-Architekturen, identitätsbewusste Zugriffskontrolle und MLSecOps-Praktiken. Am wirksamsten sind sie in Defense-in-Depth-Architekturen, wo sie organisationsinterne Policy zusätzlich zur Hersteller-Safety durchsetzen.

● Beispiele

  1. 01

    Ein Gateway blockiert Prompts mit Kreditkartennummern, bevor sie die LLM-API erreichen.

  2. 02

    Eine LLM-Firewall entfernt eine bekannte Prompt-Injection-Signatur aus einem Dokument, bevor es dem RAG-Kontext hinzugefügt wird.

● Häufige Fragen

Was ist LLM-Firewall?

Sicherheitskontrolle, die zwischen Nutzern und einem Large Language Model sitzt und Prompts, Retrieval-Kontext und Ausgaben in Echtzeit inspiziert, um regelwidrigen Traffic zu blockieren oder umzuschreiben. Es gehört zur Kategorie KI- und ML-Sicherheit der Cybersicherheit.

Was bedeutet LLM-Firewall?

Sicherheitskontrolle, die zwischen Nutzern und einem Large Language Model sitzt und Prompts, Retrieval-Kontext und Ausgaben in Echtzeit inspiziert, um regelwidrigen Traffic zu blockieren oder umzuschreiben.

Wie funktioniert LLM-Firewall?

Eine LLM-Firewall — auch AI Firewall oder LLM Gateway genannt — übernimmt Inspektion, Klassifizierung und Policy-Durchsetzung für den Verkehr zu und von LLM-Endpunkten. Typische Funktionen sind Erkennung von Prompt Injection und Jailbreaks, PII- und Secrets-Redaction, Content-Moderation, Schema- und Tool-Call-Validierung, identitätsbasiertes Rate Limiting, RAG-Egress-Kontrolle und detaillierte Audit-Logs. Produkte und Open-Source-Projekte umfassen LLM Guard, Prompt Shield, Lakera Guard sowie Angebote von Cloudflare, F5, Palo Alto und den großen Hyperscalern. LLM-Firewalls ergänzen, ersetzen aber nicht modellinterne Guardrails, sichere RAG-Architekturen, identitätsbewusste Zugriffskontrolle und MLSecOps-Praktiken. Am wirksamsten sind sie in Defense-in-Depth-Architekturen, wo sie organisationsinterne Policy zusätzlich zur Hersteller-Safety durchsetzen.

Wie schützt man sich gegen LLM-Firewall?

Schutzmaßnahmen gegen LLM-Firewall kombinieren typischerweise technische Kontrollen und operative Praktiken, wie in der Definition oben beschrieben.

Welche anderen Bezeichnungen gibt es für LLM-Firewall?

Übliche alternative Bezeichnungen: KI-Firewall, LLM-Gateway.

● Verwandte Begriffe