.
Сума одинадцяти перших членів арифметичної прогресії, якщо a3+ a9=8

Точно не знаю, я еще такого не решал , но судя по твоим вопросам можно попробовать выделить неполный квадрат.  
у²-3у - 1  = у² - 2 *1,5 у + (1,5)² - 3,25=  (у-1,5)²- 3,25
если  у² -3у -1 =  11 ,  следовательно  :
(у-1,5)² - 3,25=11
(у-1,5)²= 11+3,25
(у-1,5)²=14,25

Теперь выделим неполный квадрат из второго выражения:
8у²- 24у - 9 = 8 (у²- 3у -  9/8 ) = 8(у²-3у -1,125) = 
= 8 ( у² -3у + 2,25  - 3,375) = 8 (( у-1,5)²  - 3,375 ) =
= 8(у-1,5)² - 8 * 3,375 = 8(у-1,5)² - 27

если (у-1,5)²=14,25 , то из второго выражения получается:
8*14,25  -27 = 114-27 =  87

ответ: если у²-3у-1=11 , то  8у²-24у -9 = 87.

V=(40-X)(64-X)X - функция.
найти максимум, х∈(0, 40).
найдем производную от V=(40-X)(64-X)X=х³-104х²+2560х
она равна 3х²-208х+2560
найдем стационарные точки , приравняв производную к 0 , и решив кв. ур-ние             3х²-208х+2560=0
1)  х=(104+√(104²-3·64·40))/3=(104+√((8·13)²-3·64·40)))/3=
=(104+√(8²(13²-3·40)))/3=(104+8√(13²-3·40))/3=(104+8√(169-120))/3=
=(104+8·7)/3=160/3

2) х=(104-√(104²-3·64·40))/3=(104-56)/3=16
ОСТАЛОСЬ по достаточному условию экстремума убедиться, что  х=16 - точка максимума, проверяем знаки производной при переходе через эту точку, решаем неравенство 3х²-208х+2560>0, или простыми вычислениями для значений х из соответствующих промежутков.)

вот как-то так...-))