Во-первых, если функция имеет неустранимый разрыв 2 рода, то она не ограничена.
Например, дроби при знаменателе, равном 0, или логарифм при числе меньше 0.
Если таких разрывов нет, тогда второй шаг.
Нужно проверить её пределы на +oo и - oo.
Если lim(x->-oo) y(x) = a (какому-то числу), то функция y(x) ограничена снизу.
Если lim(x->+oo) y(x) = a, то функция ограничена сверху.
Если оба предела равны oo, тогда смотрим на знаки.
Если lim(x->-oo) y(x) = lim(x->+oo) y(x) = +oo, то функция ограничена снизу.
Например, парабола y=ax^2+bx+c при а > 0.
Если наоборот, оба предела равны -oo, то функция ограничена сверху.
Например, та же парабола при а < 0.
В обоих случаях парабола ограничена в своей вершине.
И, наконец, если разрывов нет и пределы равны oo с разными знаками, то функция не ограничена.
