Давайте начнём с первого задания, т.е.
\(A\cdot{X}\cdot{A^T}=B\). Наша цель: преобразовать данное уравнение таким образом, чтобы в левой части осталась лишь неизвестная матрица
\(X\). Отмечу, что для дальнейших действий важен тот факт, что
\(\det{A}\neq{0}\) (это легко проверить непосредственным вычислением определителя). Это важно, так как обратная матрица
\(A^{-1}\) существует только при условии
\(\det{A}\neq{0}\).
Домножим обе части данного уравнения на
\(A^{-1} слева\). Тогда уравнение примет такой вид:
\(
A^{-1}\cdot{A}\cdot{X}\cdot{A^T}=A^{-1}\cdot{B}
\)
Так как
\(A^{-1}\cdot{A}=E\) (здесь
\(E\) - единичная матрица), то равенство станет таким:
\(
{E}\cdot{X}\cdot{A^T}=A^{-1}\cdot{B}
\)
Далее, с учётом того, что
\(E\cdot{X}=X\), будем иметь:
\(
{X}\cdot{A^T}=A^{-1}\cdot{B}
\)
Вам осталось избавиться лишь от
\(A^{T}\) в левой части. Для этого домножьте обе части равенства на
\(\left(A^T\right)^{-1}\) справа. Вам также будет полезным такое равенство:
\(\left(A^T\right)^{-1}=\left(A^{-1}\right)^T\).