Решение
Будем следовать алгоритму. Для начала найдём частные производные первого порядка:
\[
\frac{\partial z}{\partial x}=4x^3-4x+4y; \frac{\partial z}{\partial y}=4y^3+4x-4y.
\]
Составим систему уравнений \(\displaystyle{ \left \{ \begin{aligned}
& \frac{\partial z}{\partial x}=0;\\
& \frac{\partial z}{\partial y}=0.
\end{aligned} \right.}\):
\[
\left \{ \begin{aligned}
& 4x^3-4x+4y=0;\\
& 4y^3+4x-4y=0.
\end{aligned} \right.
\]
Сократим оба уравнения на \(\displaystyle{4}\):
\[
\left \{ \begin{aligned}
& x^3-x+y=0;\\
& y^3+x-y=0.
\end{aligned} \right.
\]
Добавим к второму уравнению первое и выразим \(\displaystyle{y}\) через \(\displaystyle{x}\):
\[
y^3+x-y+(x^3-x+y)=0;\\
y^3+x^3=0; y^3=-x^3; y=-x.
\]
Подставляя \(\displaystyle{y=-x}\) в первое уравнение системы, будем иметь:
\[
x^3-x-x=0;\\
x^3-2x=0;\\
x(x^2-2)=0.
\]
Из полученного уравнения имеем: \(\displaystyle{x=0}\) или \(\displaystyle{x^2-2=0}\). Из уравнения \(\displaystyle{x^2-2=0}\) следует, что \(\displaystyle{x=-\sqrt{2}}\) или \(\displaystyle{x=\sqrt{2}}\). Итак, найдены три значения \(\displaystyle{x}\), а именно: \(\displaystyle{x_1=0}\), \(\displaystyle{x_2=-\sqrt{2}}\), \(\displaystyle{x_3=\sqrt{2}}\). Так как \(\displaystyle{y=-x}\), то \(\displaystyle{y_1=-x_1=0}\), \(\displaystyle{y_2=-x_2=\sqrt{2}}\), \(\displaystyle{y_3=-x_3=-\sqrt{2}}\).
Первый шаг решения окончен. Мы получили три стационарные точки: \(\displaystyle{M_1(0;0)}\), \(\displaystyle{M_2(-\sqrt{2},\sqrt{2})}\), \(\displaystyle{M_3(\sqrt{2},-\sqrt{2})}\).
Теперь приступим ко второму шагу алгоритма. Найдём частные производные второго порядка:
\[
\frac{\partial^2 z}{\partial x^2}=12x^2-4; \frac{\partial^2 z}{\partial y^2}=12y^2-4; \frac{\partial^2 z}{\partial x \partial y}=4.
\]
Найдём \(\displaystyle{\Delta}\):
\[
\Delta=\frac{\partial^2z}{\partial x^2}\cdot \frac{\partial^2z}{\partial y^2}-\left(\frac{\partial^2z}{\partial x\partial y} \right)^2=
(12x^2-4)(12y^2-4)-4^2=\\
=4(3x^2-1)\cdot 4(3y^2-1)-16=16(3x^2-1)(3y^2-1)-16=16\cdot((3x^2-1)(3y^2-1)-1).
\]
Теперь будем вычислять значение \(\displaystyle{\Delta}\) в каждой из найденных ранее стационарных точек. Начнём с точки \(\displaystyle{M_1(0;0)}\). В этой точке имеем:
\[\Delta(M_1)=16\cdot((3\cdot 0^2-1)(3\cdot 0^2-1)-1)=16\cdot 0=0.\]
Так как \(\displaystyle{\Delta(M_1) = 0}\), то согласно алгоритму требуется дополнительное исследование, ибо ничего определённого про наличие экстремума в рассматриваемой точке сказать нельзя. Оставим покамест эту точку в покое и перейдём в иным точкам.
Исследуем точку \(\displaystyle{M_2(-\sqrt{2},\sqrt{2})}\). В этой точке получим:
\[
\begin{aligned}
& \Delta(M_2)=16\cdot((3\cdot (-\sqrt{2})^2-1)(3\cdot (\sqrt{2})^2-1)-1)=16\cdot 24=384;\\
& \left.\frac{\partial^2 z}{\partial x^2}\right|_{M_2}=12\cdot (-\sqrt{2})^2-4=24-4=20.
\end{aligned}
\]
Так как \(\displaystyle{\Delta(M_2) \gt 0}\) и \(\displaystyle{\left.\frac{\partial^2 z}{\partial x^2}\right|_{M_2} > 0}\), то согласно алгоритму \(\displaystyle{M_2(-\sqrt{2},\sqrt{2})}\) есть точкой минимума функции \(\displaystyle{z}\). Минимум функции \(\displaystyle{z}\) найдём, подставив в заданную функцию координаты точки \(\displaystyle{M_2}\):
\[
z_{\min}=z(-\sqrt{2},\sqrt{2})=(-\sqrt{2})^4+(\sqrt{2})^4-2(-\sqrt{2})^2+4\cdot (-\sqrt{2})\sqrt{2}-2(\sqrt{2})^2+3=-5.
\]
Аналогично предыдущему пункту исследуем точку \(\displaystyle{M_3(\sqrt{2},-\sqrt{2})}\). В этой точке получим:
\[
\begin{aligned}
& \Delta(M_3)=16\cdot((3\cdot (\sqrt{2})^2-1)(3\cdot (-\sqrt{2})^2-1)-1)=16\cdot 24=384;\\
& \left.\frac{\partial^2 z}{\partial x^2}\right|_{M_3}=12\cdot (\sqrt{2})^2-4=24-4=20.
\end{aligned}
\]
Так как \(\displaystyle{\Delta(M_3) \gt 0}\) и \(\displaystyle{\left.\frac{\partial^2 z}{\partial x^2}\right|_{M_3} > 0}\), то согласно алгоритму \(\displaystyle{M_3(\sqrt{2},-\sqrt{2})}\) есть точкой минимума функции \(\displaystyle{z}\). Минимум функции \(\displaystyle{z}\) найдём, подставив в заданную функцию координаты точки \(\displaystyle{M_3}\):
\[
z_{\min}=z(\sqrt{2},-\sqrt{2})=(\sqrt{2})^4+(-\sqrt{2})^4-2(\sqrt{2})^2+4\cdot \sqrt{2}(-\sqrt{2})-2(-\sqrt{2})^2+3=-5.
\]
Настал черёд вернуться к точке \(\displaystyle{M_1(0;0)}\), в которой \(\displaystyle{\Delta(M_1) = 0}\). Согласно алгоритму требуется дополнительное исследование. Под этой уклончивой фразой подразумевается "делайте, что хотите" :). Общего способа разрешения таких ситуаций нет, – и это понятно. Если бы такой способ был, то он давно бы вошёл во все учебники. А покамест приходится искать особый подход к каждой точке, в которой \(\displaystyle{\Delta = 0}\). Ну что же, поисследуем поведение функции в окрестности точки \(\displaystyle{M_1(0;0)}\). Сразу отметим, что \(\displaystyle{z(M_1)=z(0;0)=3}\). Предположим, что \(\displaystyle{M_1(0;0)}\) – точка минимума. Тогда для любой точки \(\displaystyle{M}\) из некоторой окрестности точки \(\displaystyle{M_1(0;0)}\) получим \(\displaystyle{z(M) \gt z(M_1) }\), т.е. \(\displaystyle{z(M) \gt 3}\). А вдруг любая окрестность содержит точки, в которых \(\displaystyle{z(M) \lt 3}\)? Тогда в точке \(\displaystyle{M_1}\) уж точно не будет минимума.
Рассмотрим точки, у которых \(\displaystyle{y=0}\), т.е. точки вида \(\displaystyle{(x,0)}\). В этих точках функция \(\displaystyle{z}\) будет принимать такие значения:
\[
z(x,0)=x^4+0^4-2x^2+4x\cdot 0-2\cdot 0^2+3=x^4-2x^2+3=x^2(x^2-2)+3.
\]
В всех достаточно малых окрестностях \(\displaystyle{M_1(0;0)}\) имеем \(\displaystyle{x^2-2 \lt 0}\), посему \(\displaystyle{x^2(x^2-2) \lt 0}\), откуда следует \(\displaystyle{x^2(x^2-2)+3 \lt 3}\). Вывод: любая окрестность точки \(\displaystyle{M_1(0;0)}\) содержит точки, в которых \(\displaystyle{z \lt 3}\), посему точка \(\displaystyle{M_1(0;0)}\) не может быть точкой минимума.
Но, может быть, точка \(\displaystyle{M_1(0;0)}\) – точка максимума? Если это так, то для любой точки \(\displaystyle{M}\) из некоторой окрестности точки \(\displaystyle{M_1(0;0)}\) получим \(\displaystyle{z(M) \lt z(M_1) }\), т.е. \(\displaystyle{z(M) \lt 3}\). А вдруг любая окрестность содержит точки, в которых \(\displaystyle{z(M) \gt 3}\)? Тогда в точке \(\displaystyle{M_1}\) точно не будет максимума.
Рассмотрим точки, у которых \(\displaystyle{y=x}\), т.е. точки вида \(\displaystyle{(x,x)}\). В этих точках функция \(\displaystyle{z}\) будет принимать такие значения:
\[
z(x,x)=x^4+x^4-2x^2+4x\cdot x-2\cdot x^2+3=2x^4+3.
\]
Так как в любой окрестности точки \(\displaystyle{M_1(0;0)}\) имеем \(\displaystyle{2x^4 \gt 0}\), то \(\displaystyle{2x^4+3 \gt 3}\). Вывод: любая окрестность точки \(\displaystyle{M_1(0;0)}\) содержит точки, в которых \(\displaystyle{z > 3}\), посему точка \(\displaystyle{M_1(0;0)}\) не может быть точкой максимума.
Точка \(\displaystyle{M_1(0;0)}\) не является ни точкой максимума, ни точкой минимума. Вывод: \(\displaystyle{M_1}\) вообще не является точкой экстремума.