квадрат разности х и у будет (х-у)^2

т.к у нас куб числа х то это будет х^3 и утроенное число у это 3*у

получаем (х^3-3*у)^2, подставляем 

(5^3-3*9)^2=(125-27)^2=125^2-2*125*27+27^2=15625-6750+729=9604

Ответ таков 9604. Решение смотреть во вложении↓