а) Обозначим — высота призмы. Тогда объем призмы равен

Проведем Тогда — призма, в основании которой лежит прямоугольник, а высота этой призмы равна Следовательно, ее объем равен

Пусть Тогда

Тогда получаем

Значит,

— треугольная пирамида, высота которой, проведенная из вершины равна Следовательно, ее объем равен

Следовательно, объем многогранника образованного плоскостью равен

Тогда объем оставшейся части равен

Следовательно,

Что и требовалось доказать.

б) Пусть Определим, возможен ли такой случай, учитывая данные. Этому случаю соответствует рисунок, приведенный в решении пункта а). Используя обозначения пункта а), получаем

Тогда

Следовательно,

Следовательно, этот случай невозможен, так как

 

Пусть Проверим возможность такого случая. Рассмотрим рисунок, соответствующий этому случаю:

Тогда

Этот случай является единственно возможным.

По условию Следовательно,

Тогда можем найти высоту призмы: