Мне кажется, самый простой и действенный способ — сначала проверить в VirusTotal, а потом просто запустить в песочнице или виртуалке. Если программа просит кучу прав или странно себя ведет, лучше не рисковать. Иногда смотрю, что пишет в отзывах, там быстро видно, кто с чем столкнулся. Так хоть немного спокойнее, чем ставить всё подряд и надеяться на удачу.