Короче, вся эта тема с jailbreak и prompt injection — это игра на нервах модели, где нужно постоянно мониторить и тестить всякими автоматическими штуками вроде Garak или PyRIT. Ручные трюки уже вроде просто базис, без них сейчас никуда, но настоящая защита строится на уровне нескольких слоёв — и только так можно реально держать модель под контролем, не давая ей сойти с ума на хитрые запросы. Просто не расслабляться и использовать метрики — тогда хоть какой-то порядок будет.