Например так: преобразуем (а^2)^5+b^5=c^3+d^3=(c+d)(c^2-cd+d2)

c=((a^2)^(5/3))  d=(b^(5/3))

тогда выражение равно:

(a^(10/3)+b^(5/3))*(a^(20/3)-(a^2*b)^(5/3)+b^(10/3))

Не уверен, что это то что нужно, но формул для сокращенного умножения суммы пятых степеней нет в школе.

Хотя формула есть и простая :

x^5 + y^5 = (x + y) (x^4 – x^3*y + x^2*y^2 – x*y^3 + y^4)

тогда выражение нетрудно написать  правильно :

(a^2+b)(a^8-a^6*b+a^4*b^2-a^2*b^3+b^4)