вариант
Задание на картинке

Количество бит на 1 точку (пиксель): I = ㏒² k, где k – число цветов.
В случае 256-цветного режима получаем:
I = ㏒² 256 = ㏒² 2⁸ = 8 (бит).
Так как 8 бит = 1 байт, то на 1 пиксель необходимо затратить 1 байт видеопамяти.
Т.к. у нас 1366×768 пикселей, то мы потратим 
1366×768 байт.
ответ в КБайт, значит:

=======================================================
Скорее всего ошибка в условии, есть аналогичные задания с поиском кол-ва байт на 1 пиксель. В этой же задаче натурльное число не может получиться ;c 

ПРАВИЛЬНЫЙ алгоритм:
1. Находим координаты вектора каждой стороны по координатам вершин стороны (пусть эти координаты - х1,у1 и х2,у2):
х=х2-х1, у=у2-у1
2. Находим длину каждой стороны:
длина=корень квадратный (х*х+у*у)
3. Периметр=сумма длин всех сторон

Если четырехугольник в трехмерном пространстве, везде добавляем координату z:
1z=z2-z1
2корень квадратный (х*х+у*у+z*z)

Пример на языке С:
(имеется в виду, что все переменные уже объявлены где-то выше)

for(k=0; k<3; k++)
{
xs[k]=x[k+1]-x[k];
ys[k]=y[k+1]-y[k];
}
xs[3]=x[0]-x[3];
ys[3]=y[0]-y[3];
perimeter=0;
for(k=0; k<4; k++)
perimeter+=sqrt(xs[k]*xs[k]+y[k]*ys[k]);