Итак, для начала скомпонуем части многочлена:

a^3+a^2+8b^3-2ab+4b^2=(a^3+8b^3)+(a^2-2ab+4b^2)

Вторую скобку пока оставим в покое, а в первой увидим формулу сокращенного умножния, а именно сумму кубов. Получается:

a^3+8b^3=(a+2b)(a^2-2ab+4b^2)

Подставим в первое уравнение и вынесем общий множитель:

(a+2b)(a^2-2ab+4b^2)+(a^2-2ab+4b^2)=(a^2-2ab+4b^2)(a+2b+1)