LLM-Firewall
Was ist LLM-Firewall?
LLM-FirewallSicherheitskontrolle, die zwischen Nutzern und einem Large Language Model sitzt und Prompts, Retrieval-Kontext und Ausgaben in Echtzeit inspiziert, um regelwidrigen Traffic zu blockieren oder umzuschreiben.
Eine LLM-Firewall — auch AI Firewall oder LLM Gateway genannt — übernimmt Inspektion, Klassifizierung und Policy-Durchsetzung für den Verkehr zu und von LLM-Endpunkten. Typische Funktionen sind Erkennung von Prompt Injection und Jailbreaks, PII- und Secrets-Redaction, Content-Moderation, Schema- und Tool-Call-Validierung, identitätsbasiertes Rate Limiting, RAG-Egress-Kontrolle und detaillierte Audit-Logs. Produkte und Open-Source-Projekte umfassen LLM Guard, Prompt Shield, Lakera Guard sowie Angebote von Cloudflare, F5, Palo Alto und den großen Hyperscalern. LLM-Firewalls ergänzen, ersetzen aber nicht modellinterne Guardrails, sichere RAG-Architekturen, identitätsbewusste Zugriffskontrolle und MLSecOps-Praktiken. Am wirksamsten sind sie in Defense-in-Depth-Architekturen, wo sie organisationsinterne Policy zusätzlich zur Hersteller-Safety durchsetzen.
● Beispiele
- 01
Ein Gateway blockiert Prompts mit Kreditkartennummern, bevor sie die LLM-API erreichen.
- 02
Eine LLM-Firewall entfernt eine bekannte Prompt-Injection-Signatur aus einem Dokument, bevor es dem RAG-Kontext hinzugefügt wird.
● Häufige Fragen
Was ist LLM-Firewall?
Sicherheitskontrolle, die zwischen Nutzern und einem Large Language Model sitzt und Prompts, Retrieval-Kontext und Ausgaben in Echtzeit inspiziert, um regelwidrigen Traffic zu blockieren oder umzuschreiben. Es gehört zur Kategorie KI- und ML-Sicherheit der Cybersicherheit.
Was bedeutet LLM-Firewall?
Sicherheitskontrolle, die zwischen Nutzern und einem Large Language Model sitzt und Prompts, Retrieval-Kontext und Ausgaben in Echtzeit inspiziert, um regelwidrigen Traffic zu blockieren oder umzuschreiben.
Wie schützt man sich gegen LLM-Firewall?
Schutzmaßnahmen gegen LLM-Firewall kombinieren typischerweise technische Kontrollen und operative Praktiken, wie in der Definition oben beschrieben.
Welche anderen Bezeichnungen gibt es für LLM-Firewall?
Übliche alternative Bezeichnungen: KI-Firewall, LLM-Gateway.