Ответ в теме: Как, зная edge, узнать угол между его faces

Скорее всего нужно сравнивать углы между нормалями соседних полигонов.