Короче, я понял, что с промпт-инъекциями шутки плохи. Модель реально может слушать не только системные команды, а ещё и всякие хитрые сообщения из документов или писем, которые ей подсовывают. Так что фильтры и уровни инструкций — это как охранники, которые не дают модели слететь с катушек и слить чего не надо. Круто, что про defense in depth так плотно рассказывают — без этого реально никак.