Ответ:

Сначала применяем формулу квадрата разности, затем тригонометрическое тождество и формулу синуса двойного угла .

[tex]\displaystyle \int\limits_0^{\pi /4}\, (sin2x-cos2x)^2\, dx= \int\limits_0^{\pi /4}\, (\underbrace{sin^22x+cos^22x}_{1}-\underbrace{2\, sin2x\cdot cos2x}_{sin4x})\, dx=\\\\\\= \int\limits_0^{\pi /4}\, (1-sin4x)\, dx= \int\limits_0^{\pi /4}\, dx-\dfrac{1}{4} \int\limits_0^{\pi /4}\, sin4x\cdot \underbrace{4\, dx}_{d(4x)}=\\\\\\=x\, \Big|_0^{\pi /4}-\dfrac{1}{4}\cdot (-cos4x)\Big|_0^{\pi /4}=(\dfrac{\pi}{4}-0)+\dfrac{1}{4}\cdot (cos\pi -cos\, 0)=[/tex]

[tex]\displaystyle =\frac{\pi}{4}+\frac{1}{4}\cdot (-1-1)=\frac{\pi}{4}-\frac{1}{2}[/tex]    

P.S.   Последний интеграл можно вычислить с помощью замены:[tex]\displaystyle \int sin4x\cdot 4\, dx=\int sin4x\cdot d(4x)=\Big[\ t=4x\ ,\ dt=4\, dx\ \Big]=\int sint\, dt=\\\\=-cost+C=-cos4x+C[/tex]