если я правильно понял, то неоходимо проанализировать входную картинку и ничего больше не дано, тогда если на вскидку, сперва, необходимо получить множество уравнений описывающих все прямые которые входят в этот рисунок, тут опять же если на вскидку (может есть более экономичные способы) :
анализируем все пиксели
находим пиксель цвета линии убеждаемся что он не принадлежин ни одному из уже найденных уравнений
находим следующий пиксель не принадлежащий ни одному из уже найденнных уравнений
определяем уравнение прямой проходящей через эти две точки (если надо у меня есть рабочая программка)
если все точки между этими двумя крайними точками существуют для даннной картинки (вероятно все точки проверять не надо а только несколько смежных где нибудь в середине) добавляем это уравнение к остальным
и так всю картинку

дальше если 3 прямых взаимно пересекают друг друга то они образуют треугольник

это только образно наверняка есть алгоритмы по экономичнее но и это помоему будет работать