F1(x)=x^2+3x, f2(x)=3cos2x +sin2x

Система уравнений:
(х+2)*у=21 - 1 уравнение
4х+у=23 - 2 уравнение

1) Выражаем из второго уравнения y и подставляем его в первое уравнение.
(x+2)*(23-4x)=21
y=23-4x

2) Решаем первое уравнение:
(х+2)*(23-4х)=21
23х-4х^2+46-8х-21=0
-4х^2+15х+25=0
4х^2-15х-25=0
D=(-15)^2-4*4*(-25)=225+400=625
x1=5, x2=-1,25

3)При решении первого уравнения поличилось два корня: 5 и -1,25. Возьмём первый корень, чтобы подставить его во второе уравнение и найти у:
x=5
y=23-4*5=3

Таким образом, решением этой системы уравнений будет являться: (5;3).

1.
ДАНО: Система уравнений.
1) 2*x-y =10
2) 2*x²- 3*x*y+y²=10
Решаем методом подстановки.
3) y = 2*x -10
Подставили в ур.2)
4) 2*x² - 3*x*(2x-10) + (2x-10)² = 10 -теперь только одно неизвестное.
Упрощаем - раскрываем скобки.
5) 2*x² - 6*x² +30*x + 4*x² - 40*x + 100 = 10
Упрощаем - приводим подобные члены.
6) 10*x =90 
Находим неизвестное - х.
7) х = 90:10 = 9 - ОТВЕТ
Возвращаемся к подстановке.
8) у = 2*х - 10 = 2*9-10 = 8 - ОТВЕТ
2.
ДАНО
P = 2*(a+b) = 34 см - периметр прямоугольника
c = 13 см  - диагональ (исправили ошибку в вопросе)
S= a*b = ? - площадь
РЕШЕНИЕ
Катеты прямоугольного треугольника - a, b, гипотенуза - с.
a+b = P/2 = 34/2 = 17 - сумма сторон прямоугольника.
Можно сразу вспомнить наиболее известные треугольники Пифагора:
3:4:5 - сумма катетов (3+4=7) не кратна 17 и 
5:12:13 - (5+12=17) подходит.
Стороны прямоугольника = 5 см. и 12 см.
S = 5*12 = 60 см² - площадь - ОТВЕТ.
Но это решение "силой Разума".
Решим алгебраически. Два неизвестных - пишем два уравнения.
1) 2*(a+b) = 34 см -  периметр
2) a² + b² = 13² = 169  - по теореме Пифагора.
Применим метод подстановки. Из ур. 1)
3) b = 17-a - выразили неизвестное и подставим его в ур. 2)
4) a² + (17-a)² = 169
Упрощаем ур.4) - раскрываем скобки.
5) a² + 289 - 34*a + a² = 169
Упрощаем - приводим подобные члены.
6) 2*a² - 34*a + 120 = 0 - немного упростили - сократили на 2.
6а)  a² - 17*a + 60 = 0
Решаем квадратное уравнение: D= 49, √49 = 7.
КОРНИ: a₁ = 5 и a₂ = 12
Вот эти два корня и есть сторонами прямоугольника.
Находим площадь прямоугольника.
S = a*b = 5 * 12 = 60 см² - площадь - ОТВЕТ