Ответ:

(см. объяснение)

Пошаговое объяснение:

[tex]\mathrm{ctg}\,\left(x+y\right)^2=5x\\\\\left(\mathrm{ctg}\,\left(x+y\right)^2\right)'=\left(5x\right)'\\\\-\dfrac{1}{\sin^2\left(x+y\right)^2}\cdot2\left(x+y\right)\cdot \left(1+y'\right)=5\\\\y'=-\dfrac{5}{2}\cdot\dfrac{\sin^2\left(x+y\right)^2}{x+y}-1[/tex]

С учетом комментариев к вопросу:

[tex]\left(\mathrm{ctg}^2\left(x+y\right)\right)'=\left(5x\right)'\\\\2\mathrm{ctg}\left(x+y\right)\cdot\dfrac{-1}{\sin^2\left(x+y\right)}\cdot\left(1+y'\right)=5\\\\y'=-\dfrac{5}{2}\cdot\sin^2\left(x+y\right)\cdot\mathrm{tg}\left(x+y\rigth)-1[/tex]

Задание выполнено!