напр. вектор прямой 
вектор нормали плоскости 
если напр. вектор перпендикулярен нормали, то прямая параллельна плоскости (или лежит в ней)
если векторы перпендикулярны, их скалярное произведение равно 0

проверка, что прямая не лежит в плоскости:
уравнения прямой в параметрическом виде:

при 

подставим точку в уравнение плоскости

вывод: точка не принадлежит плоскости, значит прямая параллельна плоскости