Sistemas de ecuaciones

a) Determinante.$$|A| = \left|\begin{array}{ccc} 1 & -m & -2 \\ 1 & \phantom{-}1 & \phantom{-}1 \\ 1 & \phantom{-}2 & \phantom{-}m \end{array}\right|$$Desarrollando por la primera fila:$$= 1\bigl(m - 2\bigr) + m\bigl(m - 1\bigr) - 2\bigl(2 - 1\bigr) = m - 2 + m^{2} - m - 2 = m^{2} - 4$$$$|A| = (m - 2)(m + 2)$$$$|A| = 0 \;\Longleftrightarrow\; m = 2 \quad \text{o} \quad m = -2$$Caso 1: $m \neq \pm 2$. $|A| \neq 0$, luego $\operatorname{rg}(A) = \operatorname{rg}(A^{*}) = 3$: sistema compatible determinado.

Caso 2: $m = 2$. El sistema queda$$\begin{cases} x - 2y - 2z = 2 \\ x + \phantom{2}y + \phantom{2}z = 4 \\ x + 2y + 2z = 6 \end{cases}$$El menor $\left|\begin{array}{cc} 1 & -2 \\ 1 & 1\end{array}\right| = 3 \neq 0$ da $\operatorname{rg}(A) = 2$.

Ahora hay que decidir el rango de la ampliada, y para eso basta orlar ese menor con la columna de términos independientes:$$\left|\begin{array}{ccc} 1 & -2 & 2 \\ 1 & 1 & 4 \\ 1 & 2 & 6 \end{array}\right| = 1\,(6 - 8) + 2\,(6 - 4) + 2\,(2 - 1) = -2 + 4 + 2 = 4 \neq 0$$Luego $\operatorname{rg}(A^{*}) = 3 \neq 2$: sistema incompatible.

Caso 3: $m = -2$. El sistema queda$$\begin{cases} x + 2y - 2z = -2 \\ x + \phantom{2}y + \phantom{2}z = -4 \\ x + 2y - 2z = -6 \end{cases}$$Aquí la incompatibilidad es inmediata: la primera y la tercera ecuación tienen exactamente los mismos coeficientes $(1, 2, -2)$ pero términos independientes distintos ($-2$ y $-6$). Es imposible que $x + 2y - 2z$ valga a la vez $-2$ y $-6$.

Formalmente: $\operatorname{rg}(A) = 2$ (el menor $\left|\begin{array}{cc} 1 & 2 \\ 1 & 1\end{array}\right| = -1 \neq 0$) mientras que $\operatorname{rg}(A^{*}) = 3$. Sistema incompatible.

b) Caso $m = 1$. Estamos en el caso 1, con $|A| = 1 - 4 = -3 \neq 0$:$$\begin{cases} x - \phantom{2}y - 2z = 1 \\ x + \phantom{2}y + \phantom{2}z = 2 \\ x + 2y + \phantom{2}z = 3 \end{cases}$$Restando la segunda de la tercera se elimina todo salvo $y$:$$y = 1$$Sustituyendo en la segunda: $\;x + 1 + z = 2 \Longrightarrow x + z = 1$.

Y en la primera: $\;x - 1 - 2z = 1 \Longrightarrow x - 2z = 2$.

Restando estas dos: $\;(x + z) - (x - 2z) = 1 - 2 \Longrightarrow 3z = -1 \Longrightarrow z = -\dfrac{1}{3}$, y por tanto$$x = 1 - z = 1 + \frac{1}{3} = \frac{4}{3}$$$$x = \frac{4}{3}, \qquad y = 1, \qquad z = -\frac{1}{3}$$Comprobación. $\;\frac{4}{3} - 1 + \frac{2}{3} = 1\;\checkmark$; $\;\frac{4}{3} + 1 - \frac{1}{3} = 2\;\checkmark$; $\;\frac{4}{3} + 2 - \frac{1}{3} = 3\;\checkmark$.