Помогите решить только начало, идея есть.
x + √x +√(x+2) + √(x^2+2x) - 3 = 0.

Нужно решать подстановкой. За переменную t наверняка выступит (√x + √(x+2)).