Sistemas de ecuaciones

a) Matriz de coeficientes y ampliada:$$A = \begin{pmatrix} 1 & m & 0 \\ -2 & -(m+1) & 1 \\ 1 & 2m-1 & m+2 \end{pmatrix}, \qquad A^* = \left(\begin{array}{ccc|c} 1 & m & 0 & 1 \\ -2 & -(m+1) & 1 & -1 \\ 1 & 2m-1 & m+2 & 2+2m \end{array}\right)$$Desarrollamos $|A|$ por la primera fila (el tercer elemento es $0$):$$|A| = 1\cdot\begin{vmatrix} -(m+1) & 1 \\ 2m-1 & m+2 \end{vmatrix} - m\cdot\begin{vmatrix} -2 & 1 \\ 1 & m+2 \end{vmatrix}$$$$= \bigl[-(m+1)(m+2) - (2m-1)\bigr] - m\bigl[-2(m+2) - 1\bigr] = (-m^2 - 5m - 1) + (2m^2 + 5m) = m^2 - 1$$$$|A| = 0 \iff m^2 = 1 \iff m = 1 \ \text{o}\ m = -1$$Caso $m \neq 1$ y $m \neq -1$. $|A| \neq 0$, así que $\operatorname{rg}(A) = 3 = \operatorname{rg}(A^*) =$ número de incógnitas: sistema compatible determinado (solución única).

Caso $m = 1$. El sistema queda$$\left\{\begin{array}{l} x + y = 1 \\ -2x - 2y + z = -1 \\ x + y + 3z = 4 \end{array}\right.$$El menor $\begin{vmatrix} 1 & 0 \\ -2 & 1 \end{vmatrix} = 1 \neq 0$ (filas 1 y 2, columnas de $x$ y $z$) junto con $|A| = 0$ da $\operatorname{rg}(A) = 2$. Para la ampliada orlamos ese menor con la tercera fila y la columna de términos independientes:$$\begin{vmatrix} 1 & 0 & 1 \\ -2 & 1 & -1 \\ 1 & 3 & 4 \end{vmatrix} = 1\cdot(4 + 3) - 0 + 1\cdot(-6 - 1) = 7 - 7 = 0$$y el otro menor de orden 3 que contiene a ese menor es el propio $|A|$, que es $0$. Luego $\operatorname{rg}(A^*) = 2 = \operatorname{rg}(A) < 3$: sistema compatible indeterminado (infinitas soluciones, con un parámetro). Se ve también a mano: con $x + y = 1$, la segunda ecuación da $-2 + z = -1$, o sea $z = 1$, y la tercera, $1 + 3 = 4$, se cumple sola.

Caso $m = -1$. El sistema queda$$\left\{\begin{array}{l} x - y = 1 \\ -2x + z = -1 \\ x - 3y + z = 0 \end{array}\right.$$$\operatorname{rg}(A) = 2$, porque $|A| = 0$ y $\begin{vmatrix} 1 & -1 \\ -2 & 0 \end{vmatrix} = -2 \neq 0$. Orlando ese menor con la columna de términos independientes:$$\begin{vmatrix} 1 & -1 & 1 \\ -2 & 0 & -1 \\ 1 & -3 & 0 \end{vmatrix} = 1\cdot(0 - 3) - (-1)\cdot(0 + 1) + 1\cdot(6 - 0) = -3 + 1 + 6 = 4 \neq 0$$luego $\operatorname{rg}(A^*) = 3 \neq \operatorname{rg}(A) = 2$: sistema incompatible. A mano: de la primera, $x = 1 + y$; de la segunda, $z = -1 + 2x = 1 + 2y$; y la tercera queda $(1 + y) - 3y + (1 + 2y) = 2$, que debería valer $0$. Contradicción.

b) Con $m = 0$ (que no es crítico, luego hay solución única):$$\left\{\begin{array}{l} x = 1 \\ -2x - y + z = -1 \\ x - y + 2z = 2 \end{array}\right. \;\Longrightarrow\; \left\{\begin{array}{l} -y + z = 1 \\ -y + 2z = 1 \end{array}\right.$$Restando, $z = 0$, y entonces $y = -1$.

Comprobación. $(1, -1, 0)$: primera, $1 + 0 = 1$ ✓; segunda, $-2 + 1 + 0 = -1$ ✓; tercera, $1 + 1 + 0 = 2 = 2 + 2\cdot 0$ ✓.