Binwalk и Wireshark — реально мастхэв, но да, на CTF иногда хочется чего-то попроще, чтобы быстро глянуть. Volatility — штука классная, но она может сбить с толку, если опыта мало. Хекс-редактор всегда под рукой, самое простое — быстро пролистать и понять структуру. Главное — не пытаться разгрести все подряд, а фокусироваться на ключевых моментах, тогда и эффект лучше будет.