Ответ:

1) 25x^2 - 10xy + y^2

(5x)^2 - 2*(5x)*y + y^2, по формуле (a-b)^2=a^2-2ab+b^2 получаем

(5x - y)^2

Я исходил из того, что * в условии означают степень))

2) c^2 + 4d^2 + 4cd + d^2 - 4d + 4 = (c + 2d)^2 + (d - 2)^2 >=0 для любых c,d. Что и требовалось доказать

3) Я не знаю