векторы перпендикулярны, если их скалярное произведение равно 0

координаты вектора a+lb=(3+l*(-1); 4+l*2;5+l*0)=(3-l;4+2l;5)

тогда скалярное произведение в координатах

a*(a+lb)=3*(3-l)+4(4+2l)+5*5=0

9-3l+16+8l+25=0

5l=-50

l=-10