Ein wichtiges Sicherheitsthema in der KI-Entwicklung, bei dem Angreifer versuchen, durch geschickt formulierte Eingaben die Schutzmaßnahmen von KI-Systemen zu umgehen. Dies kann zu unerwünschtem Verhalten oder der Preisgabe sensibler Informationen führen. Die Abwehr solcher Angriffe erfordert robuste Sicherheitsmechanismen und kontinuierliche Überwachung der Systeme.