Объяснение:

Заметим, что

0≤((a-b)²+(a-1)²+(b-1)²)/2=

=(a²-2ab+b²+a²-2a+1+b²-2b+1)/2=

=a²+b²+1-ab-a-b, что и требовалось.