Из законов сохранения импульса и энергии получаем:

m1v1=m2v2+m1v1' (1)

m1v1.^2/2=m2v2.^2/2+m1v1'.^2/2 (2)

Выражая из (1) v2, и подставляя в (2), имеем:

v2=(m1/m2)(v1-v1')

m2m1v1.^2=(m1v1).^2-2m1.^2v1v1'+(m1v1').^2+m1m2v1'.^2

m1v1'.^2(m1+m2)-2m1.^2v1v1'+m1v1.^2(m1-m2)=0

После преобразований получаем уравнение:

(m1+m2)v1'.^2-2m1v1v1'+(m1-m2)v1.^2=0

Скорость первого шара после столкновения равна:

v1'=m1v1/(m1+m2)(1+(1-(m1.^2-m2.^2)/(m2v2).^2).^0.5),

v1'=5*1/(5+2)(1-(1-(25-4)/25).^0.5)=0.45 м/с

Скорость второго шара равна:

v2=(m1/m3)(v1-v1')=(5/2)(1-0.45)=1.37 м/с