Determinantes

a) $A$ no tiene inversa $\iff |A| = 0$. Restamos a la cuarta fila la tercera ($F_4 \to F_4 - F_3$), lo que no cambia el determinante:$$|A| = \begin{vmatrix} 1 & a+1 & 2 & 1 \\ 0 & 2 & 1 & a \\ a & 0 & 1 & 0 \\ 0 & 0 & 1 & 0 \end{vmatrix}$$Desarrollamos por la cuarta fila, cuyo único elemento no nulo es el $1$ de la posición $(4,3)$, con signo $(-1)^{4+3} = -1$:$$|A| = -\begin{vmatrix} 1 & a+1 & 1 \\ 0 & 2 & a \\ a & 0 & 0 \end{vmatrix}$$Este $3\times 3$ lo desarrollamos por la tercera fila, que solo tiene el elemento $a$ en la posición $(3,1)$ (signo $+$):$$\begin{vmatrix} 1 & a+1 & 1 \\ 0 & 2 & a \\ a & 0 & 0 \end{vmatrix} = a\begin{vmatrix} a+1 & 1 \\ 2 & a \end{vmatrix} = a\bigl(a(a+1) - 2\bigr) = a\,(a^2 + a - 2)$$Por tanto$$|A| = -a\,(a^2 + a - 2) = -a\,(a-1)(a+2)$$ya que $a^2 + a - 2 = 0 \iff a = \dfrac{-1 \pm \sqrt{1 + 8}}{2} = \dfrac{-1 \pm 3}{2}$, es decir, $a = 1$ o $a = -2$.$$|A| = 0 \iff a = 0, \quad a = 1 \quad \text{o} \quad a = -2$$Para esos tres valores $A$ no tiene inversa; para cualquier otro valor de $a$, $|A| \neq 0$ y $A$ es invertible.

b) Calculamos los dos productos:$$CD = \begin{pmatrix} x & 1 \\ y & z \end{pmatrix}\begin{pmatrix} 3 & 1 \\ 1 & -1 \end{pmatrix} = \begin{pmatrix} 3x + 1 & x - 1 \\ 3y + z & y - z \end{pmatrix}$$$$DC = \begin{pmatrix} 3 & 1 \\ 1 & -1 \end{pmatrix}\begin{pmatrix} x & 1 \\ y & z \end{pmatrix} = \begin{pmatrix} 3x + y & 3 + z \\ x - y & 1 - z \end{pmatrix}$$Igualando elemento a elemento, $CD = DC$ equivale a$$\left\{\begin{array}{l} 3x + 1 = 3x + y \\ x - 1 = 3 + z \\ 3y + z = x - y \\ y - z = 1 - z \end{array}\right. \;\Longrightarrow\; \left\{\begin{array}{l} y = 1 \\ x = z + 4 \\ x = 4y + z \\ y = 1 \end{array}\right.$$La primera y la cuarta dan $y = 1$, y con ello la tercera queda $x = z + 4$, igual que la segunda. Solo hay dos condiciones independientes para tres incógnitas: $z$ queda libre. Llamando $z = \lambda$:$$x = \lambda + 4, \qquad y = 1, \qquad z = \lambda, \qquad \lambda \in \mathbb{R}$$Comprobación con $\lambda = 0$, es decir, $C = \begin{pmatrix} 4 & 1 \\ 1 & 0 \end{pmatrix}$:$$CD = \begin{pmatrix} 13 & 3 \\ 3 & 1 \end{pmatrix} = DC$$