Весь этот хайп с Jailbreak и Prompt Injection кажется немного переоценённым. Да, можно выдавать модель за дурака, подсовывая хитрые инструкции, но в реальных условиях это всё равно почти всегда «домашняя задача» для разработчиков. Если защита сделана хотя бы на базовом уровне — такие атаки не прокатят, просто уходит много времени на постоянные мелкие обходы, а серьёзного ущерба в итоге не будет.