все просто- 

64 цветов значит каждый пиксель(точка) кодируется 6ю битами....

теперь перемножаем высоту и ширину 1024х768=786432 пикселя....умножаем на 6

786432х6=4718592бит....теперь разделим на 8 и найдем сколько байт 4718592/8=589824байт....

разделим на 1024 чтобы найти сколько килобайт 589824/1024=576килобайт