Найдите угол С, и есть два задания а) и б)

Условие задачи неполное, так как с данной фиксированной площадью имеется бесконечно много сегментов, и радиусы соответствующих секторов будут все разными.
Поэтому задача может быть решена только в общем виде.

Площадь сектора:
Sсект = πR²α / 360°
Если угол задан в радианах, то
Sсект = πR²α / (2π)  = 1/2 · R²α

Площадь треугольника АВС:
Sabc = 1/2 · R²·sinα

Площадь сегмента:
Sсегм = Sсект - SΔabc  = 1/2 · R²α - 1/2 · R²·sinα = 1/2 · R²(α - sinα)

По условию, площадь сегмента равна 3π - 9:
1/2 · R²(α - sinα) = 3π - 9
R² = (6π - 18) / (α - sinα)
R = √( (6π - 18) / (α - sinα) )

По этой формуле можно вычислить радиус, если известен угол сектора.
Например:
α = π/6

Условие задачи неполное, так как с данной фиксированной площадью имеется бесконечно много сегментов, и радиусы соответствующих секторов будут все разными.
Поэтому задача может быть решена только в общем виде.

Площадь сектора:
Sсект = πR²α / 360°
Если угол задан в радианах, то
Sсект = πR²α / (2π)  = 1/2 · R²α

Площадь треугольника АВС:
Sabc = 1/2 · R²·sinα

Площадь сегмента:
Sсегм = Sсект - SΔabc  = 1/2 · R²α - 1/2 · R²·sinα = 1/2 · R²(α - sinα)

По условию, площадь сегмента равна 3π - 9:
1/2 · R²(α - sinα) = 3π - 9
R² = (6π - 18) / (α - sinα)
R = √( (6π - 18) / (α - sinα) )

По этой формуле можно вычислить радиус, если известен угол сектора.
Например:
α = π/6