Prompt-Injection galt lange als Spezialthema der KI-Sicherheit. Inzwischen zeigt sich: Die Angriffstechnik ist ein praktisches Risiko für Unternehmen, Behörden, Gerichte und alle Organisationen, die generative KI zur Analyse von Dokumenten, E-Mails, Webseiten oder internen Daten einsetzen. Der Kern des Problems ist einfach: Ein Sprachmodell verarbeitet natürliche Sprache. Wenn Anweisungen und Daten im selben Kontext landen,…
Management Summary Ein Fall aus Connecticut zeigt, wie schnell Prompt-Injection vom technischen Randthema zum Governance- und Compliance-Risiko werden kann: Ein Kläger versteckte unsichtbare KI-Anweisungen in Gerichtsunterlagen, um eine mögliche maschinelle Auswertung zu beeinflussen. Der Versuch scheiterte, weil ein Gerichtsbeteiligter ungewöhnliche Leerräume bemerkte — doch der Fall liefert eine klare Warnung für Organisationen, die KI zur…