Представьте в виде произведения 
число после буквы - степень
х3 - ху2 + 3у2 - 3х2

 и разложите на множители 2а2 + 8ab + 8b2