Введем координаты, пусть радиус окружности равен R, тогда имеем следующие координаты для зарядов:

A(-R/2;R*sqrt(3)/2)

B(R/2;R*sqrt(3)/2)

C(0;-R)

Тогда имеем вектора:

AB(R,0)

BA(-R;0), |BA|=|AB|=R

AC(R/2;-R(1+sqrt(3)/2),

CA(-R/2;R(1+sqrt(3)/2), |CA|=|AC|=R*sqrt(1/4+1+3/4+2*sqrt(3))=R*sqrt(2+2*sqrt(3))

BC(-R/2;-R(1+sqrt(3)/2)

CB(R/2;R(1+sqrt(3)/2), |CB|=|BC|=R*sqrt(2+2*sqrt(3))

OA(-R/2;R*sqrt(3)/2)

OB(R/2;R*sqrt(3)/2)

OC(0;-R)

Так как задача симметрична относительно вертикальной оси, то заряд q1 - будет в равновесии и достаточно записаь условие равновесия одного из двух зарядов q2:

Условия равновесия заряженного шарика - вектор суммы сил дейсвующих на шарик - направлен по радиусу, то есть перпендикулярен к дуге (в этом случае шарик никуда не поедет)

Рассмотрим точку A:

Вектор силы в точке A:

F=CA/|CA|   * k*q1*q2/|CA|^2 + BA/|BA|   * k*q2*q2/|BA|^2 =CA*k*q1*q2/|CA| + +BA*k*q2*q2/|BA|=k*q1*q2/(R*sqrt(2+2*sqrt(3))) * (-R/2;R(1+sqrt(3)/2) + k*q2*q2/R * (-R;0) =

=(-R/2*k*q1*q2/(R*sqrt(2+2*sqrt(3)))-R*k*q2*q2/R;R(1+sqrt(3)/2)*k*q1*q2/(R*sqrt(2+2*sqrt(3))))=(-k*q1*q2/(2sqrt(2+2*sqrt(3)))-k*q2*q2; k*q1*q2*(1+sqrt(3))/(4+4*sqrt(3)))

Этот вектор должен быть колинеарен вектору OA(-R/2;R*sqrt(3)/2)

Это значит скалярное произведениее этих векторов равно 0:

-R/2 * (-k*q1*q2/(2sqrt(2+2*sqrt(3)))-k*q2*q2)+R*sqrt(3)/2*k*q1*q2*(1+sqrt(3))/(4+4*sqrt(3))=0

q2=0 одно из решений, далее можно сократить:

(q1/(2sqrt(2+2*sqrt(3)))-q2)+sqrt(3)*q1*(1+sqrt(3))/(2+2*sqrt(3))=0, откуда

q2=q1(1/(2sqrt(2+2*sqrt(3)))+sqrt(3)*(1+sqrt(3))/(2+2*sqrt(3)))=q1*((sqrt(3)*(1+sqrt(3))+2)/(4+4*sqrt(3))=q1*((3*sqrt(3)+3)/(4*sqrt(3)+4)=3/4 * q1

То есть q1/q2=4/3 или же q2=0

P.S. У меня такое ощущение, что это решается проще ^^