Объяснение:

Меняем знаки во второй скобке, из-за знака минуса, тогда

(5,7a^2 - 2,1ab+b^2 - 3,9ab + 0,3a^2 + 2b^2)

складываем подобные между собой и получаем

6a^2-6ab-b^2

и теперь подставляет значения a и b

6 + 30 - 25 = 11