Ответ:

Скалярний добуток двох векторів дорівнює добутку довжин цих векторів на косинус кута між ними. Оскільки a=b=1, то довжина кожного з них дорівнює 1.

Кут між векторами a і b дорівнює 60°, тому косинус цього кута дорівнює 1/2 (за тригонометричними тотожностями).

Тепер розглянемо вираз (5a+b) (a-5b):

(5a+b) (a-5b) = 5aa - 25ab + ba - 5b5b

= 5a^2 - 25ab + ab - 25b^2

= 5a^2 - 24ab - 25b^2

За умовою a=b=1, маємо:

(5a+b) (a-5b) = 51^2 - 2411 - 251^2 = -44

Отже, скалярний добуток векторів (5a+b) і (a-5b) дорівнює -44.