Попытайся избавиться от иррациональности методом возведения в квадрат, просто твоё условие слишком непонятное. Можешь фотку выложишь?