Versteckte Prompt-Injection in Gerichtsakte fliegt wegen ungewöhnlicher Leerzeichen auf
TL;DR
Ein selbst vertretener Kläger in Connecticut soll eine versteckte Prompt-Injection in seine Gerichtsakte eingebaut haben. Die Anweisung zielte darauf, ein AI-Modell bei der Prüfung des Dokuments zu beeinflussen und es zu einer Entscheidung zugunsten des Klägers zu bringen. Laut dem Bericht von Tom's Hardware AI fiel der Text wegen ungewöhnlicher Leerzeichen auf; künftig darf der Kläger Dokumente offenbar nicht mehr elektronisch einreichen, sondern muss sie ausdrucken und dem Gerichtsschreiber übergeben.
Nauti's Take
Gut ist, dass der Angriff überhaupt aufgefallen ist: Versteckte Anweisungen hinterlassen Spuren, und eine simple Zeichenprüfung reicht oft schon, um sie zu finden. Das Risiko liegt darin, dass die Entdeckung hier von einer Auffälligkeit im Layout abhing und ein automatisierter Ablauf sie glatt übersehen hätte.
Wer AI in rechtlichen oder administrativen Workflows einsetzt, behandelt eingehende Dokumente deshalb als untrusted input und trennt Dokumentinhalt sauber von Systeminstruktionen.
Quellen