Sistemas de ecuaciones

a) Matriz de coeficientes y ampliada:$$A = \begin{pmatrix} m-10 & -2 & -1 \\ 7 & m+2 & 2 \\ 5 & 2 & 1 \end{pmatrix}, \qquad A^* = \left(\begin{array}{ccc|c} m-10 & -2 & -1 & -1 \\ 7 & m+2 & 2 & m+1 \\ 5 & 2 & 1 & 1 \end{array}\right)$$Sumar a una fila otra fila no cambia el determinante. Sustituimos la fila 1 por $F_1 + F_3 = (m-5,\ 0,\ 0)$ y desarrollamos por esa fila:$$|A| = \begin{vmatrix} m-5 & 0 & 0 \\ 7 & m+2 & 2 \\ 5 & 2 & 1 \end{vmatrix} = (m-5)\begin{vmatrix} m+2 & 2 \\ 2 & 1 \end{vmatrix} = (m-5)(m+2-4) = (m-5)(m-2)$$$$|A| = 0 \iff m = 2 \ \text{o}\ m = 5$$Caso $m \neq 2$ y $m \neq 5$. $|A| \neq 0$, luego $\operatorname{rg}(A) = 3 = \operatorname{rg}(A^*) =$ número de incógnitas: sistema compatible determinado (solución única).

Caso $m = 2$.$$A^* = \left(\begin{array}{ccc|c} -8 & -2 & -1 & -1 \\ 7 & 4 & 2 & 3 \\ 5 & 2 & 1 & 1 \end{array}\right)$$El menor $\begin{vmatrix} 7 & 4 \\ 5 & 2 \end{vmatrix} = 14 - 20 = -6 \neq 0$ y $|A| = 0$, así que $\operatorname{rg}(A) = 2$. Orlamos ese menor con la fila 1 y la columna de términos independientes (de nuevo, cambiando la fila 1 por $F_1 + F_3$):$$\begin{vmatrix} -8 & -2 & -1 \\ 7 & 4 & 3 \\ 5 & 2 & 1 \end{vmatrix} = \begin{vmatrix} -3 & 0 & 0 \\ 7 & 4 & 3 \\ 5 & 2 & 1 \end{vmatrix} = -3\,(4 - 6) = 6 \neq 0$$Luego $\operatorname{rg}(A^*) = 3 \neq \operatorname{rg}(A) = 2$: sistema incompatible. Se ve también sumando las ecuaciones 1 y 3: queda $-3x = 0$, o sea $x = 0$; entonces la segunda y la tercera dicen $4y + 2z = 3$ y $2y + z = 1$, que son contradictorias ($4y + 2z$ valdría $2$).

Caso $m = 5$.$$A^* = \left(\begin{array}{ccc|c} -5 & -2 & -1 & -1 \\ 7 & 7 & 2 & 6 \\ 5 & 2 & 1 & 1 \end{array}\right)$$La fila 1 es la tercera cambiada de signo, incluido el término independiente ($F_1 = -F_3$). Por tanto $\operatorname{rg}(A) = \operatorname{rg}(A^*)$ coincide con el rango de las filas 2 y 3, que es $2$ porque $\begin{vmatrix} 7 & 7 \\ 5 & 2 \end{vmatrix} = 14 - 35 = -21 \neq 0$.

$\operatorname{rg}(A) = \operatorname{rg}(A^*) = 2 < 3$: sistema compatible indeterminado (infinitas soluciones, con un parámetro).

b) Para $m = 3$ (no es un valor crítico, así que la solución es única) el sistema es$$\left\{\begin{array}{rcrcrcl} -7x & - & 2y & - & z & = & -1 \\ 7x & + & 5y & + & 2z & = & 4 \\ 5x & + & 2y & + & z & = & 1 \end{array}\right.$$Sumando la primera y la tercera ecuación: $-2x = 0$, luego $x = 0$. Quedan$$\left\{\begin{array}{l} 5y + 2z = 4 \\ 2y + z = 1 \end{array}\right.$$De la segunda, $z = 1 - 2y$; en la primera, $5y + 2 - 4y = 4$, así que $y = 2$ y $z = 1 - 4 = -3$.

Comprobación. $(0, 2, -3)$: primera, $-4 + 3 = -1$ ✓; segunda, $10 - 6 = 4 = m + 1$ ✓; tercera, $4 - 3 = 1$ ✓.