Разбираемся:
Определим глубину цвета (количество бит на пиксель), зная количество отображаемых цветов:
16777216 = 2x, где x - глубина цвета в битах.
x = 24 бита
Вычислим объем видеопамяти в битах:
1024 * 768 * 24 = 18874368 бит
Переведем в байты:
18874368 / 8 = 2359296 байт
Переведем в мегабайты, округлив до целых:
2359296 / 1024 / 1024 ≈ 2.25 Мбайт
Ответ: 3 Мбайт