кол-во пикселей = 1024*768 = 2¹⁰ * (2⁹+2⁸) = 2¹⁰ * 2⁸*(2+1) = 2¹⁸*3

размер файла = 2¹⁸ * 3 * 32бит = 2¹⁸ * 3 * 2⁵ = 3*2²³бит = 3МБайт

вот как-то так получается