Решение
В принципе, начинать решение можно и не делая никаких подготовительных действий. Однако очень удобно, когда первым элементом первой строки является 1 или -1. Единицы есть во втором столбце нашего определителя. Сделаем так, чтобы второй столбец стал первым. Для этого просто поменяем местами первый и второй столбцы. Не забываем, что при смене мест двух столбцов знак определителя изменится на противоположный:
\[\Delta = \left|\begin{array} {cccc}
-8 & 2 & 9 & 17\\
-3 & 1 & 2 & 6\\
13 & -3 & -7 & -26\\
11 & 1 & 23 & 6\end{array}\right|=-\left|\begin{array} {cccc}
2 & -8 & 9 & 17\\
1 & -3 & 2 & 6\\
-3 & 13 & -7 & -26\\
1 & 11 & 23 & 6\end{array}\right|.\]
Теперь поменяем местами первую и вторую строки, не забывая о смене знака определителя:
\[\Delta =-\left|\begin{array} {cccc}
2 & -8 & 9 & 17\\
1 & -3 & 2 & 6\\
-3 & 13 & -7 & -26\\
1 & 11 & 23 & 6\end{array}\right|=-\left( -\left|\begin{array} {cccc}
1 & -3 & 2 & 6\\
2 & -8 & 9 & 17\\
-3 & 13 & -7 & -26\\
1 & 11 & 23 & 6\end{array}\right|\right)=
\left|\begin{array} {cccc}
1 & -3 & 2 & 6\\
2 & -8 & 9 & 17\\
-3 & 13 & -7 & -26\\
1 & 11 & 23 & 6\end{array}\right|.\]
Начнём обнуление элементов под главной диагональю. Для этого придётся осуществить несколько шагов, на каждом из которых будем изменять строки нашего определителя. На первом шаге мы должны сделать так, чтобы все элементы первого столбца стали нулями – кроме элемента на главной диагонали, выделенного красным цветом:
\[
\left|\begin{array} {cccc}
\boldred{1} & -3 & 2 & 6\\
\normgreen{2} & -8 & 9 & 17\\
\normblue{-3} & 13 & -7 & -26\\
\normpurple{1} & 11 & 23 & 6\end{array}\right|
\]
Преобразования со строками, которые нужно выполнить, чтобы обнулить требуемые элементы, получаются так:
\[
\begin{aligned}
& r_2-\frac{\normgreen{2}}{\boldred{1}}\cdot{r_1}=r_2-2r_1;\\
& r_3-\frac{\normblue{-3}}{\boldred{1}}\cdot{r_1}=r_3+3r_1;\\
& r_4-\frac{\normpurple{1}}{\boldred{1}}\cdot{r_1}=r_4-r_1.
\end{aligned}
\]
Запись \(\displaystyle{r_2-2r_1}\) означает, что от элементов второй строки вычли соответствующие элементы первой строки, умноженные на два. Полученный результат записали вместо прежней второй строки. Остальные записи расшифровываются аналогично. Значение определителя от таких действий не изменится. Для наглядности я запишу одно действие отдельно:
\[
r_2-2r_1
=(2;\;-8;\;9;\;17)-2\cdot(1;\;-3;\;2;\;6)
=(2;\;-8;\;9;\;17)-(2;\;-6;\;4;\;12)
=(0;\;-2;\;5;\;5).
\]
После выполнения всех требуемых операций со строками, мы получим новый определитель. Записывается это так:
\[
\left|\begin{array} {cccc}
1 & -3 & 2 & 6\\
2 & -8 & 9 & 17\\
-3 & 13 & -7 & -26\\
1 & 11 & 23 & 6\end{array}\right|
\begin{array} {l} \phantom{0} \\ r_2-2r_1 \\ r_3+3r_1 \\ r_4-r_1 \end{array}=
\left|\begin{array} {cccc}
1 & -3 & 2 & 6\\
0 & -2 & 5 & 5\\
0 & 4 & -1 & -8 \\
0 & 14 & 21 & 0\end{array}\right|.
\]
Перед тем, как мы пойдём дальше, обратим внимание на то, что все элементы четвёртой строки делятся на 7. Общий множитель всех элементов строки или столбца можно вынести за знак определителя:
\[
\left|\begin{array} {cccc}
1 & -3 & 2 & 6\\
0 & -2 & 5 & 5\\
0 & 4 & -1 & -8 \\
0 & 14 & 21 & 0\end{array}\right|=7\cdot
\left|\begin{array} {cccc}
1 & -3 & 2 & 6\\
0 & -2 & 5 & 5\\
0 & 4 & -1 & -8 \\
0 & 2 & 3 & 0\end{array}\right|
\]
Теперь нам нужно обнулить элементы во втором столбце (под главной диагональю). Т.е., обнулению подлежат элементы, выделенные синим цветом. Элемент на главной диагонали, который останется без изменений, выделен красным цветом:
\[
\left|\begin{array} {cccc}
1 & -3 & 2 & 6\\
0 & \boldred{-2} & 5 & 5\\
0 & \normblue{4} & -1 & -8 \\
0 & \normblue{2} & 3 & 0\end{array}\right|
\]
А если бы вместо числа -2 возник ноль?
Если бы вместо числа -2 получился ноль, мы бы поменяли местами строки или столбцы. Например, вот так:
\[
\left|\begin{array} {cccc}
1 & -3 & 2 & 6\\
0 & 0 & 5 & 5\\
0 & 4 & -1 & -8 \\
0 & 2 & 3 & 0\end{array}\right|
=[r_2\leftrightarrow{r_4}]
=-\left|\begin{array} {cccc}
1 & -3 & 2 & 6\\
0 & 2 & 3 & 0\\
0 & 4 & -1 & -8 \\
0 & 0 & 5 & 5
\end{array}\right|
\]
Или же может возникнуть иная ситуация: когда обнулятся все элементы во втором столбце под первой строкой. Вот так:
\[
\left|\begin{array} {cccc}
1 & -3 & 2 & 6\\
0 & 0 & 5 & 5\\
0 & 0 & -1 & -8 \\
0 & 0 & 3 & 0\end{array}\right|
\]
В этом случае имеем пропорциональность столбцов, т.е. \(\displaystyle{c_2=-3c_1}\), а это означает, что определитель равен 0.
В принципе, мы можем получить -1 на месте диагонального "красного элемента". Для этого достаточно поменять местами второй и третий столбцы, а затем поменять местами вторую и третью строки. Однако в нашем случае этого можно и не делать, так как все "синие элементы" нацело делятся на "красный элемент", т.е. на -2. Следовательно, никакой работы с дробями не предвидится. Впрочем, тут дело вкуса: можете попробовать для тренировки продолжить решение, поменяв местами строки и столбцы, чтобы "красным элементом" стала -1. Выполним такие операции со строками:
\[
\begin{aligned}
& r_3-\frac{\normblue{4}}{\boldred{-2}}\cdot{r_2}=r_3+2r_2;\\
& r_4-\frac{\normblue{2}}{\boldred{-2}}\cdot{r_2}=r_4+r_2.
\end{aligned}
\]
Отдельно выписывать действия со строками не станем, так как они полностью аналогичны рассмотренным ранее. Наш определитель станет таким:
\[
7\cdot
\left|\begin{array} {cccc}
1 & -3 & 2 & 6\\
0 & -2 & 5 & 5\\
0 & 4 & -1 & -8 \\
0 & 2 & 3 & 0\end{array}\right|
\begin{array} {l} \phantom{0} \\ \phantom{0} \\ r_3+2r_2 \\ r_4+r_2\end{array}=
7\cdot \left|\begin{array} {cccc}
1 & -3 & 2 & 6\\
0 & -2 & 5 & 5\\
0 & 0 & 9 & 2 \\
0 & 0 & 8 & 5\end{array}\right|.
\]
Осталось последнее действие. Нужно обнулить элемент 8 под главной диагональю:
\[
\left|\begin{array} {cccc}
1 & -3 & 2 & 6\\
0 & -2 & 5 & 5\\
0 & 0 & 9 & 2 \\
0 & 0 & \boldred{8} & 5\end{array}\right|
\]
Тут уже придется поработать с дробями. Обычно такой работы стараются избегать – и до сего момента нам это удавалось – но сейчас большого смысла в этом нет, ибо предстоит лишь одна операция с дробями:
\[
7\cdot \left|\begin{array} {cccc}
1 & -3 & 2 & 6\\
0 & -2 & 5 & 5\\
0 & 0 & 9 & 2 \\
0 & 0 & 8 & 5\end{array}\right|
\begin{array} {l} \phantom{0} \\ \phantom{0} \\ \phantom{0} \\ r_4-\frac{8}{9}r_3 \end{array}=
7\cdot \left|\begin{array} {cccc}
1 & -3 & 2 & 6\\
0 & -2 & 5 & 5\\
0 & 0 & 9 & 2 \\
0 & 0 & 0 & \frac{29}{9}\end{array}\right|.
\]
Преобразования окончены. Осталось лишь переменожить элементы, расположенные на главной диагонали:
\[
\Delta=7\cdot 1\cdot (-2)\cdot 9 \cdot \frac{29}{9}=-406.
\]
К слову, при желании мы всё же могли обойтись без действий с дробями на последнем шаге. Так как это преобразование не является существенным, я скрыл его под примечание.
Как обойтись без операций с дробями на последнем шаге?
Для того, чтобы избавиться от работы с дробями, достаточно вычесть из третьей строки четвёртую:
\[
7\cdot \left|\begin{array} {cccc}
1 & -3 & 2 & 6\\
0 & -2 & 5 & 5\\
0 & 0 & 9 & 2 \\
0 & 0 & 8 & 5\end{array}\right|
\begin{array} {l} \phantom{0} \\ \phantom{0} \\ r_3 - r_4 \\ \phantom{0} \end{array}
=7\cdot \left|\begin{array} {cccc}
1 & -3 & 2 & 6\\
0 & -2 & 5 & 5\\
0 & 0 & 1 & -3 \\
0 & 0 & 8 & 5\end{array}\right|
\begin{array} {l} \phantom{0} \\ \phantom{0} \\ \phantom{0} \\ r_4-8r_3 \end{array}=\\
=7\cdot \left|\begin{array} {cccc}
1 & -3 & 2 & 6\\
0 & -2 & 5 & 5\\
0 & 0 & 1 & -3 \\
0 & 0 & 0 & 29\end{array}\right|
=7\cdot{1}\cdot(-2)\cdot{1}\cdot{29}
=-406
\]
Ответ получен. Полное решение без пояснений выглядит так:
\[
\Delta
= \left|\begin{array} {cccc}
-8 & 2 & 9 & 17\\
-3 & 1 & 2 & 6\\
13 & -3 & -7 & -26\\
11 & 1 & 23 & 6\end{array}\right|
=[c_1\leftrightarrow{c_2}]
=\left|\begin{array} {cccc}
2 & -8 & 9 & 17\\
1 & -3 & 2 & 6\\
-3 & 13 & -7 & -26\\
1 & 11 & 23 & 6\end{array}\right|
=[r_1\leftrightarrow{r_2}]=\\
=\left|\begin{array} {cccc}
1 & -3 & 2 & 6\\
2 & -8 & 9 & 17\\
-3 & 13 & -7 & -26\\
1 & 11 & 23 & 6\end{array}\right|
\begin{array} {l} \phantom{0} \\ r_2-2r_1 \\ r_3+3r_1 \\ r_4-r_1 \end{array}=
7\cdot \left|\begin{array} {cccc}
1 & -3 & 2 & 6\\
0 & -2 & 5 & 5\\
0 & 4 & -1 & -8 \\
0 & 2 & 3 & 0\end{array}\right|
\begin{array} {l} \phantom{0} \\ \phantom{0} \\ r_3+2r_2 \\ r_4+r_2 \end{array}=\\
=7\cdot \left|\begin{array} {cccc}
1 & -3 & 2 & 6\\
0 & -2 & 5 & 5\\
0 & 0 & 9 & 2 \\
0 & 0 & 8 & 5\end{array}\right|
\begin{array} {l} \phantom{0} \\ \phantom{0} \\ \phantom{0} \\ r_4-\frac{8}{9}r_3\end{array}
=7\cdot \left|\begin{array} {cccc}
1 & -3 & 2 & 6\\
0 & -2 & 5 & 5\\
0 & 0 & 9 & 2 \\
0 & 0 & 0 & \frac{29}{9}\end{array}\right|
=7\cdot 1\cdot (-2)\cdot 9 \cdot \frac{29}{9}=-406.
\]