768
Объяснение:

Всего у тебя 256 цветов, тогда на кодирование одного надо:

Получили 8 бит.
=какому-то числу, которое мы пока считать не будем.
Теперь пишем:

Теперь понял почем мы то самое число не считали?
Сразу выходим на ответ: 768Кбайт.
Раз от тебя просят математическую модель, вот итоговая формула:

Где N=256, W=1024, H=768.