Решение
Будем следовать алгоритму. Для начала найдём частные производные первого порядка:
\[
\frac{\partial z}{\partial x}=4x^3-4x+4y; \frac{\partial z}{\partial y}=4y^3+4x-4y.
\]
Составим систему уравнений \( \left \{ \begin{aligned}
& \frac{\partial z}{\partial x}=0;\\
& \frac{\partial z}{\partial y}=0.
\end{aligned} \right.\):
\[
\left \{ \begin{aligned}
& 4x^3-4x+4y=0;\\
& 4y^3+4x-4y=0.
\end{aligned} \right.
\]
Сократим оба уравнения на \(4\):
\[
\left \{ \begin{aligned}
& x^3-x+y=0;\\
& y^3+x-y=0.
\end{aligned} \right.
\]
Добавим к второму уравнению первое и выразим \(y\) через \(x\):
\[
y^3+x-y+(x^3-x+y)=0;\\
y^3+x^3=0; y^3=-x^3; y=-x.
\]
Подставляя \(y=-x\) в первое уравнение системы, будем иметь:
\[
x^3-x-x=0;\\
x^3-2x=0;\\
x(x^2-2)=0.
\]
Из полученного уравнения имеем: \(x=0\) или \(x^2-2=0\). Из уравнения \(x^2-2=0\) следует, что \(x=-\sqrt{2}\) или \(x=\sqrt{2}\). Итак, найдены три значения \(x\), а именно: \(x_1=0\), \(x_2=-\sqrt{2}\), \(x_3=\sqrt{2}\). Так как \(y=-x\), то \(y_1=-x_1=0\), \(y_2=-x_2=\sqrt{2}\), \(y_3=-x_3=-\sqrt{2}\).
Первый шаг решения окончен. Мы получили три стационарные точки: \(M_1(0;0)\), \(M_2(-\sqrt{2},\sqrt{2})\), \(M_3(\sqrt{2},-\sqrt{2})\).
Теперь приступим ко второму шагу алгоритма. Найдём частные производные второго порядка:
\[
\frac{\partial^2 z}{\partial x^2}=12x^2-4; \frac{\partial^2 z}{\partial y^2}=12y^2-4; \frac{\partial^2 z}{\partial x \partial y}=4.
\]
Найдём \(\Delta\):
\[
\Delta=\frac{\partial^2z}{\partial x^2}\cdot \frac{\partial^2z}{\partial y^2}-\left(\frac{\partial^2z}{\partial x\partial y} \right)^2=
(12x^2-4)(12y^2-4)-4^2=\\
=4(3x^2-1)\cdot 4(3y^2-1)-16=16(3x^2-1)(3y^2-1)-16=16\cdot((3x^2-1)(3y^2-1)-1).
\]
Теперь будем вычислять значение \(\Delta\) в каждой из найденных ранее стационарных точек. Начнём с точки \(M_1(0;0)\). В этой точке имеем:
\[\Delta(M_1)=16\cdot((3\cdot 0^2-1)(3\cdot 0^2-1)-1)=16\cdot 0=0.\]
Так как \(\Delta(M_1) = 0\), то согласно алгоритму требуется дополнительное исследование, ибо ничего определённого про наличие экстремума в рассматриваемой точке сказать нельзя. Оставим покамест эту точку в покое и перейдём в иным точкам.
Исследуем точку \(M_2(-\sqrt{2},\sqrt{2})\). В этой точке получим:
\begin{aligned}
& \Delta(M_2)=16\cdot((3\cdot (-\sqrt{2})^2-1)(3\cdot (\sqrt{2})^2-1)-1)=16\cdot 24=384;\\
& \left.\frac{\partial^2 z}{\partial x^2}\right|_{M_2}=12\cdot (-\sqrt{2})^2-4=24-4=20.
\end{aligned}
Так как \(\Delta(M_2) \gt 0\) и \(\left.\frac{\partial^2 z}{\partial x^2}\right|_{M_2} > 0\), то согласно алгоритму \(M_2(-\sqrt{2},\sqrt{2})\) есть точкой минимума функции \(z\). Минимум функции \(z\) найдём, подставив в заданную функцию координаты точки \(M_2\):
\[
z_{\min}=z(-\sqrt{2},\sqrt{2})=(-\sqrt{2})^4+(\sqrt{2})^4-2(-\sqrt{2})^2+4\cdot (-\sqrt{2})\sqrt{2}-2(\sqrt{2})^2+3=-5.
\]
Аналогично предыдущему пункту исследуем точку \(M_3(\sqrt{2},-\sqrt{2})\). В этой точке получим:
\begin{aligned}
& \Delta(M_3)=16\cdot((3\cdot (\sqrt{2})^2-1)(3\cdot (-\sqrt{2})^2-1)-1)=16\cdot 24=384;\\
& \left.\frac{\partial^2 z}{\partial x^2}\right|_{M_3}=12\cdot (\sqrt{2})^2-4=24-4=20.
\end{aligned}
Так как \(\Delta(M_3) \gt 0\) и \(\left.\frac{\partial^2 z}{\partial x^2}\right|_{M_3} > 0\), то согласно алгоритму \(M_3(\sqrt{2},-\sqrt{2})\) есть точкой минимума функции \(z\). Минимум функции \(z\) найдём, подставив в заданную функцию координаты точки \(M_3\):
\[
z_{\min}=z(\sqrt{2},-\sqrt{2})=(\sqrt{2})^4+(-\sqrt{2})^4-2(\sqrt{2})^2+4\cdot \sqrt{2}(-\sqrt{2})-2(-\sqrt{2})^2+3=-5.
\]
Настал черёд вернуться к точке \(M_1(0;0)\), в которой \(\Delta(M_1) = 0\). Согласно алгоритму требуется дополнительное исследование. Под этой уклончивой фразой подразумевается "делайте, что хотите" :). Общего способа разрешения таких ситуаций нет, – и это понятно. Если бы такой способ был, то он давно бы вошёл во все учебники. А покамест приходится искать особый подход к каждой точке, в которой \(\Delta = 0\). Ну что же, поисследуем поведение функции в окрестности точки \(M_1(0;0)\). Сразу отметим, что \(z(M_1)=z(0;0)=3\). Предположим, что \(M_1(0;0)\) – точка минимума. Тогда для любой точки \(M\) из некоторой окрестности точки \(M_1(0;0)\) получим \(z(M) \gt z(M_1) \), т.е. \(z(M) \gt 3\). А вдруг любая окрестность содержит точки, в которых \(z(M) \lt 3\)? Тогда в точке \(M_1\) уж точно не будет минимума.
Рассмотрим точки, у которых \(y=0\), т.е. точки вида \((x,0)\). В этих точках функция \(z\) будет принимать такие значения:
\[
z(x,0)=x^4+0^4-2x^2+4x\cdot 0-2\cdot 0^2+3=x^4-2x^2+3=x^2(x^2-2)+3.
\]
В всех достаточно малых окрестностях \(M_1(0;0)\) имеем \(x^2-2 \lt 0\), посему \(x^2(x^2-2) \lt 0\), откуда следует \(x^2(x^2-2)+3 \lt 3\). Вывод: любая окрестность точки \(M_1(0;0)\) содержит точки, в которых \(z \lt 3\), посему точка \(M_1(0;0)\) не может быть точкой минимума.
Но, может быть, точка \(M_1(0;0)\) – точка максимума? Если это так, то для любой точки \(M\) из некоторой окрестности точки \(M_1(0;0)\) получим \(z(M) \lt z(M_1) \), т.е. \(z(M) \lt 3\). А вдруг любая окрестность содержит точки, в которых \(z(M) \gt 3\)? Тогда в точке \(M_1\) точно не будет максимума.
Рассмотрим точки, у которых \(y=x\), т.е. точки вида \((x,x)\). В этих точках функция \(z\) будет принимать такие значения:
\[
z(x,x)=x^4+x^4-2x^2+4x\cdot x-2\cdot x^2+3=2x^4+3.
\]
Так как в любой окрестности точки \(M_1(0;0)\) имеем \(2x^4 \gt 0\), то \(2x^4+3 \gt 3\). Вывод: любая окрестность точки \(M_1(0;0)\) содержит точки, в которых \(z > 3\), посему точка \(M_1(0;0)\) не может быть точкой максимума.
Точка \(M_1(0;0)\) не является ни точкой максимума, ни точкой минимума. Вывод: \(M_1\) вообще не является точкой экстремума.