Скорее всего, для решения задачи недостаточно условий. Суть в том, что отношение сторон AB : BC (если с них начинать построение) может быть любым — и от их отношения зависит длина самой длинной стороны. Я не могу строго доказать, что задача нерешаема, поэтому публикую лишь приближённые вычисления на компьютере. Если кому интересно, могу скинуть .ggb-исходники, поиграетесь с ними, попробуйте что-нибудь доказать.