Ошибка в том, что суммирование происходит при скалярном умножени строки на столбец. А вы, когда множите ВС, множите столбец на строку. Результат должен быть матрицей 3х3, а не числом.