На каждой итерации цикла к переменной S прибавляется квадрат счётчика. На i==3 вход в тело цикла не произойдёт. Итого, S = 0 + 1*1 + 2*2 + 3*3 = 1 + 4 + 9 = 14