y=(2x^2tgx)'

сложная функция, находим ее производную как производную умножения.

y'=4xtgx+2x^2(1/cos^2x). 

производную от tgx находим как производную дроби (sinx/cosx).