Как решить такую задачу: в сосуд с водой вставлена высокая ...

Вера

там где масло в трубке граничит с водой, должно быть равновесие. Это выражается в равенстве давлений на этом уровне. Давление воды должно быть равно давлению масла.

Давление расчитывается по обчному правилу P = r*g*H (r - плотность, букывы "ро" не хватает :))

Ясно, что r*s*H = m (90 грамм); H = m/(r*S) 

Вода же на этой глубине создает давление (оно одинаковое по всему сосуду), равное Р = rv*g*h (rv - плотность воды) 

m/S = rv*h; h = m/(S*rv);

H - h = (m/S)(1/r - 1/rv);

С точки зрения логики это совершенно понятный результат. Именно на столько изменится высота, если плотность масла "внезапно" выровняется с водой:))

Для вычисления значений воспользуйтесь таблицами плотности.