Обозначаешь самую длинную сторону допустим как X, остальные две как Y Z, и проверяешь данное неравенство:

X^2 = Y^2 + Z^2

И если они равны, то треугольник прямоугольный.

Если X^2 < Y^2 + Z^2 - то остроугольный, если X^2 > Y^2 + Z^2 - то тупоугольный.

Это если гарантированно стороны обозначают треугольник, а если на вход может быть подано что угодно, то дополнительно проверь ещё 4 условия:

X > 0

Y > 0

Z > 0

X < Y + Z

если хоть одно не сошлось - то перед нами не треугольник вообще.