Первый бак x литров.

во втором баку на 20 литров больше чем у первого? x+20.

В третьем 5/8 от первого и второго. (5/8)(x+x+20).

Все вместе 260л.

(5/8)(x+x+20)+x+x+20=260;

(x+x+20)(5/8+1)=260;

(x+x+20)(13/8)=260;

x+x+20 = 160;

x=70; первый бак

x+20=90 второй бак.

(5/8)(70+90)=100 третий бак.

Проверка 70+90+100=260.