со вторым заданием найдите значения тригонометрических функций острого угла А, если:

В числителе сгруппируй в скобках a+b  и a^2-b^2. Второе выражение есть квадрат разности, которое представляешь как произведение суммы а и b на их разность. Теперь ты можешь вынести за скобки а+b, а в скобках останется 1+а-b,т.е. а. С числителем разобрались.
Теперь знаменатель. Опять группируешь в скобках a-b  и а^2-2ab+b^2.
Второе выражение есть ни что иное, как квадрат разности a и b. Так и запишем (a+b)^2 или  (a+b)(a-b). Теперь можем вынести за скобки (a-b), а в скобках остается 1+a-b Это выражение сокращается. Дробь упростилась до вида (a+d)/(a-b)/
Далее подставляй на место а и  b числовые значения и решай.

Cos²x -cosx -2 > 0 ;  * * * замена   cosx =t  ; |t|≤1 * * *
t² -t -2 >0 ;
(t+1)(t -2) >0 ;
    +         -          +
 (-1) 2

t∈( -∞ ; -1) U (2 ; ∞) . ⇒ cosx  ∈ ( -∞ ; -1) U (2 ; ∞)  невозможно .

ответ: x ∈  ∅ .

sin²x - 2sinx -3 < 0  ;  замена  sinx =t  ; |t|≤1 * * *
t² -2t -3 < 0 ;
(t+1)(t -3) <0 ;
    +          -          +
 (-1) 3
t∈( -1;3)  ⇒ sinx   ∈ ( -1; 3)  учитывая  что sinx ≤1 получается
sinx   ∈ ( -1; 1] .

ответ:   для всех  x ≠ - π/2 +2πk  , k∈Z.

x ∈ R  \  {. -π/2 +2πk  , k∈Z }