Заметим, что наша функция представляет из себя многочлен от двух переменных, то есть она всюду дифференцируема сколько угодно раз. Таким образом, все её критические точки будут точками, в которых все её частные производные равны нулю.

1. Сначала найдём кандидатов на экстремум, то есть такие точки, в которых обе частные производные функции равны 0. То есть, надо решить систему:

В данном случае получается система

Решением которой, очевидно, является единственная подозрительная точка .

2. Проверим эту точку по достаточному условию экстремума. Составим гессиан в точке (матрицу вторых частных производных в точке )

В нашем случае получается такая матрица:

И поскольку , то неприменим критерий Сильвестра.

Однако понятно, что форма

не будет знакопеременной, и поэтому так задаром получить, что эта точка не является экстремумом не получится. Таким образом, требуется дополнительное непосредственное исследование поведения нашей функции в окрестности точки .

Мы утверждаем, что точка - не будет локальным экстремумом.

Действительно, если двигаться к ней вдоль траекторий , , то , т.е. функция будет больше нуля.
А если же вдоль траекторий , , то . Таким образом, в любой окрестности точки есть как точки, в которых больше нуля, так и точки, где она меньше нуля. А при этом , т.е. в самой точке функция равна нулю.

Значит не может быть ни локальным минимумом, ни локальным максимумом.