Это очень объемная задача, ксли решать при всех возможных вариантах соотношения значений а и x.
Нет решений, если |x-3a| = 3a-x и при этом |x-a^2| = x-a^2
Это будет при a^2 < x < 3a, то есть a^2 < 3a; a € (0; 3)
5(3a - x) + x - a^2 + 4x = a
15a - 5x + x - a^2 + 4x - a = 0
14a - a^2 = 0
a1 = 0; a2 = 14
Оба значения не принадлежат (0; 3).

Бесконечное множество решений, оно, кажется, не имеет ни при каком а.