а) Пусть — центр второй окружности, — точка касания окружностей, тогда лежат на одной прямой. Пусть и — точки касания второй окружности и сторон и соответственно.

Обозначим радиус второй окружности через отрезки касательных к ней из точки за угол за

По теореме Пифагора для треугольника имеем:

Вторая окружность касается сторон угла следовательно, её центр лежит на биссектрисе этого угла. Таким образом,

 

Рассмотрим прямоугольный треугольник В нём имеем:

По формуле тангенса половинного угла

Из прямоугольного треугольника с углом

Таким образом,

Следовательно,

Тогда, так как то

Что и требовалось доказать.

б) По предыдущему пункту

Рассмотрим прямоугольный треугольник В нём

Тогда по теореме Пифагора

 

 

Рассмотрим треугольник В нём

Запишем теорему косинусов для треугольника

Рассмотрим прямоугольный треугольник В нём

Тогда по теореме Пифагора

Рассмотрим треугольник В нём

Запишем теорему косинусов для треугольника

Приравняем левые части двух полученных уравнений:

Подставим полученное значение во второе уравнение:

Найдем дискриминант полученного уравнения:

Тогда

В предыдущем пункте мы доказали, что

Значит, нам не подходит. Таким образом,