Ну тогда запишите прямую в параметрическом виде и напишите для точки прямой L(t) условие перпендикулярности LM и направляющего вектора прямой. Из этого условия найдете неизвестное значение параметра t которое соответствует основанию перпендикуляра H. По двум точкам H и M пишете искомое уравнение перпендикулярной прямой и находите расстояние между этими точками.
x-x1/x2-x1=y-y1/y2-y1=z-z1/z2-z1 ?Это и есть уравнение прямой?