Ответ:

5x*3-15x*2y+20xy*2=15x-30xy+40xy=15x+10xy=5x(3+2y) это вариант если ^ значит умножить

а если это степепь вот решение

5x^3-15x^2y+20xy^2 = 5(x^3 - 3x^2y+4xy^2)

ну тут тип 2^3 например означают 2 в третьей степени