5.76. Упростите выражение: 1) (a+1)(a-a+1)-аз;
2) (x+y)(x2-xy+y2)-x(x2+y2);
3) (т-2)(m2+2m+4)+8;
4) (c+3)(c2-3c+9)-27.​

Пусть a, b, c - эти числа. Тогда по свойству геометрической прогрессии:
b² = a·c
По свойству арифметической прогрессии:
5b/3 = (a + c)/2
b = 3(a + c)/10
b² = 9(a² + 2ac + c²)/100
b² = ac

9(a² + 2ac + c²)/100 = ac
9a² - 82ac + 9c² = 0                  разделим на а²
9(c/a)² - 82c/a + 1 = 0
c/a = t
9t² - 82t + 1 = 0
D/4 = 41² - 9·9 = 1681 - 81 = 1600
t = (41+ 40)/9 = 9                t = (41 - 40)/9 = 1/9
c/a = q²
q² = 9  или  q² = 1/9
q = 3 или -3    q = 1/3  или  -1/3
Так как прогрессия возрастающая, подходит одно значение 3

ДАНО
а - сторона первого квадрата.
b = a - 3 - ширина прямоугольника
S2 = S1 - 6 см² - площадь стала меньше.
НАЙТИ
а = ? -  сторона первого.
РЕШЕНИЕ
Площадь квадрата по формуле
S1 = a², 
Площадь прямоугольника по формуле
S2 = a*b = a*(a - 3)
Пишем уравнение
a² - (a²-3a) = 6
Раскрываем скобки.
a² - a² + 3a  = 6
Упрощаем
3*а = 6
Находим неизвестное - а
а = 6/3 = 2 - сторона квадрата (длина прямоугольника) 
Находим неизвестное - b
b = a - 3 = - 1 - длина прямоугольника.
ВЫВОД.
Получили отрицательное значение длины - b и это значит, что в условии всё наоборот и следует читать:
ЗАДАЧА.
К стороне квадрата ПРИБАВИЛИ 3 см и площадь УВЕЛИЧИЛАСЬ на 6 см.
Площадь квадрата -  S1 = 2*2 = 4 см²,
Площадь прямоугольника - S2 = 5*2 = 10 см² 
Проверка: 10 - 4 = 6 см² - разность - правильно.