16 777 216 = 2^24, так что на кодирование цвета одного пикселя должно отводиться не менее 24 бит = 3 байт
Всего пикселей на экране 1600 * 1200, так что видеокарта точно должна хранить в памяти не меньше 1600 * 1200 * 3 байт = 1600 * 1200 * 3 / 1024 Кб = 1600 * 1200 * 3 / 1024 / 1024 Мб ≈ 5.5 Мб
Из предложенных вариантов только 64 Мб не меньше минимально требуемого объёма, её и стоит выбрать