Sistemas de ecuaciones

a) El determinante. Desarrollando por la primera fila (aprovechando el $0$ central):$$|A| = 1\cdot\left|\begin{array}{cc} 0 & a \\ 3a-1 & 0\end{array}\right| - 0 + 1\cdot\left|\begin{array}{cc} 2 & 0 \\ 5 & 3a-1\end{array}\right|$$$$|A| = \bigl(0 - a(3a-1)\bigr) + \bigl(2(3a-1) - 0\bigr) = -a(3a-1) + 2(3a-1)$$Sacando factor común $(3a-1)$:$$|A| = (3a-1)\,(2 - a)$$Caso $a \neq \frac{1}{3}$ y $a \neq 2$: $|A| \neq 0$, luego$$\operatorname{rg}(A) = 3$$Caso $a = \frac{1}{3}$: la matriz queda$$A = \begin{pmatrix} 1 & 0 & 1 \\ 2 & 0 & \frac{1}{3} \\ 5 & 0 & 0\end{pmatrix}$$La segunda columna es nula, así que el rango no puede ser $3$. Pero el menor formado por las columnas $1$ y $3$ de las dos primeras filas vale$$\left|\begin{array}{cc} 1 & 1 \\ 2 & \frac{1}{3}\end{array}\right| = \frac{1}{3} - 2 = -\frac{5}{3} \neq 0 \;\Longrightarrow\; \operatorname{rg}(A) = 2$$Caso $a = 2$: la matriz queda$$A = \begin{pmatrix} 1 & 0 & 1 \\ 2 & 0 & 2 \\ 5 & 5 & 0\end{pmatrix}$$Ahora la segunda fila es el doble de la primera, luego tampoco hay rango $3$. Y el menor de las dos primeras columnas con las filas $1$ y $3$:$$\left|\begin{array}{cc} 1 & 0 \\ 5 & 5\end{array}\right| = 5 \neq 0 \;\Longrightarrow\; \operatorname{rg}(A) = 2$$Resumen.$$\begin{array}{c|c} a & \operatorname{rg}(A) \\ \hline a \neq \frac{1}{3},\ a \neq 2 & 3 \\ a = \frac{1}{3} & 2 \\ a = 2 & 2 \end{array}$$b) El sistema con $a=2$. La matriz ampliada es$$A^{*} = \left(\begin{array}{ccc|c} 1 & 0 & 1 & 1 \\ 2 & 0 & 2 & 2 \\ 5 & 5 & 0 & 4\end{array}\right)$$La segunda fila sigue siendo el doble de la primera también en el término independiente ($2 = 2\cdot 1$), luego esa ecuación es redundante y$$\operatorname{rg}(A) = \operatorname{rg}(A^{*}) = 2 < 3$$Por Rouché–Frobenius el sistema es compatible indeterminado, con $3-2 = 1$ grado de libertad. Nos quedan dos ecuaciones independientes:$$\begin{cases} x + z = 1 \\ 5x + 5y = 4 \end{cases}$$Tomando $z = t$ como parámetro:$$x = 1 - t, \qquad 5(1-t) + 5y = 4 \;\Longrightarrow\; 5y = 5t - 1 \;\Longrightarrow\; y = t - \frac{1}{5}$$$$(x,\ y,\ z) = \left(1-t,\ t - \frac{1}{5},\ t\right), \qquad t\in\mathbb{R}$$Comprobación. $x + z = (1-t) + t = 1$ ✓; $2x + 2z = 2$ ✓; $5x + 5y = 5(1-t) + 5\left(t-\frac{1}{5}\right) = 5 - 5t + 5t - 1 = 4$ ✓.