Я бы просто взяла интеграл, но для понимания нужно проследить некоторые детали. Да, здесь нужно понимать, откуда берется шар. Это вращение какой то функции заданной на плоскости вокруг оси y или x, это неважно, из-за сферической симметрии фигуры. Такая функция - это криволинейная трапеция y=sqrt(R^2 - x^2). Далее остается только проинтегрировать. Я напишу на листке, а то здесь сложно писать длинные формулы. Аналогично для шарового слоя. Единственная разница - пределы интегрирования функции. (Здесь я решила вращать вокруг оси OX)
