Sistemas de ecuaciones

a) El sistema homogéneo. Restando $mX$:$$\bigl(A - mI\bigr)X = 0, \qquad A - mI = \begin{pmatrix} 5-m & -2 & -3 \\ 2 & -m & -2 \\ 3 & -2 & -1-m \end{pmatrix}$$El determinante. Desarrollando por la primera fila:$$\bigl|A-mI\bigr| = (5-m)\bigl[(-m)(-1-m) - 4\bigr] + 2\bigl[2(-1-m) + 6\bigr] - 3\bigl[-4 + 3m\bigr]$$$$= (5-m)\bigl(m^{2}+m-4\bigr) + 2\bigl(4-2m\bigr) - 3\bigl(3m-4\bigr)$$Desarrollando el primer producto:$$(5-m)\bigl(m^{2}+m-4\bigr) = -m^{3} + 4m^{2} + 9m - 20$$y sumando el resto ($8 - 4m - 9m + 12 = 20 - 13m$):$$\bigl|A-mI\bigr| = -m^{3} + 4m^{2} + 9m - 20 + 20 - 13m = -m^{3} + 4m^{2} - 4m$$Factorizamos:$$\bigl|A-mI\bigr| = -m\bigl(m^{2} - 4m + 4\bigr) = -m\,(m-2)^{2}$$Discusión. El sistema es homogéneo, luego siempre compatible. Es compatible indeterminado (tiene soluciones distintas de la trivial) cuando el determinante se anula:$$-m(m-2)^{2} = 0 \;\Longrightarrow\; m = 0 \quad\text{o}\quad m = 2$$Para cualquier otro valor de $m$ el sistema es compatible determinado, con la única solución $x=y=z=0$.

b) Resolución para $m=2$. La matriz queda$$A - 2I = \begin{pmatrix} 3 & -2 & -3 \\ 2 & -2 & -2 \\ 3 & -2 & -3 \end{pmatrix}$$La tercera fila es idéntica a la primera, así que sobra. Y el menor$$\left|\begin{array}{cc} 3 & -2 \\ 2 & -2 \end{array}\right| = -6 + 4 = -2 \neq 0$$confirma que $\operatorname{rg}(A-2I) = 2$, luego hay $3-2 = 1$ grado de libertad.

Nos quedan dos ecuaciones:$$\begin{cases} 3x - 2y - 3z = 0 \\ 2x - 2y - 2z = 0 \end{cases}$$De la segunda (dividiendo por $2$): $x - y - z = 0$, es decir $y = x - z$. Sustituyendo en la primera:$$3x - 2(x-z) - 3z = 3x - 2x + 2z - 3z = x - z = 0 \;\Longrightarrow\; x = z$$y entonces $y = x - z = 0$. Tomando $x = t$:$$(x,\ y,\ z) = (t,\ 0,\ t), \qquad t\in\mathbb{R}$$Comprobación (con $t=1$, es decir $(1,0,1)$):$$\begin{pmatrix} 5 & -2 & -3 \\ 2 & 0 & -2 \\ 3 & -2 & -1\end{pmatrix}\begin{pmatrix} 1 \\ 0 \\ 1\end{pmatrix} = \begin{pmatrix} 2 \\ 0 \\ 2\end{pmatrix} = 2\begin{pmatrix} 1 \\ 0 \\ 1\end{pmatrix}$$