Determinantes

a) Como $(A+B)^2 = (A+B)(A+B)$, por la propiedad del producto:$$\det\bigl((A+B)^2\bigr) = \det(A+B)\cdot\det(A+B) = \bigl(\det(A+B)\bigr)^2$$Por hipótesis $\det(A+B) = \det A + \det B$, y estos ya son números, así que puedo desarrollar el cuadrado:$$\bigl(\det A + \det B\bigr)^2 = (\det A)^2 + (\det B)^2 + 2\,\det A\,\det B$$Usando de nuevo la propiedad del producto, $(\det A)^2 = \det(A^2)$, $(\det B)^2 = \det(B^2)$ y $\det A \cdot \det B = \det(AB)$. Por tanto$$\det\bigl((A+B)^2\bigr) = \det(A^2) + \det(B^2) + 2\det(AB) \qquad \blacksquare$$b) Por Sarrus (o desarrollando por la primera fila):$$\det C = \begin{vmatrix} 1 & 0 & -1 \\ \alpha & 1 & 0 \\ 2 & -1 & \alpha \end{vmatrix} = 1\cdot(\alpha - 0) - 0 + (-1)\cdot(-\alpha - 2) = 2\alpha + 2$$$$\det D = \begin{vmatrix} 1 & 0 & 1 \\ 2 & 1 & 2 \\ -1 & 2 & 1 \end{vmatrix} = 1\cdot(1 - 4) - 0 + 1\cdot(4 + 1) = 2$$La suma de matrices y su determinante (desarrollo por la primera fila, que tiene dos ceros):$$C + D = \begin{pmatrix} 2 & 0 & 0 \\ \alpha + 2 & 2 & 2 \\ 1 & 1 & \alpha + 1 \end{pmatrix}, \qquad \det(C + D) = 2\cdot\begin{vmatrix} 2 & 2 \\ 1 & \alpha + 1 \end{vmatrix} = 2\bigl(2\alpha + 2 - 2\bigr) = 4\alpha$$Igualando:$$4\alpha = (2\alpha + 2) + 2 \;\Longrightarrow\; 2\alpha = 4 \;\Longrightarrow\; \alpha = 2$$Comprobación: con $\alpha = 2$, $\det(C + D) = 8$ y $\det C + \det D = 6 + 2 = 8$ ✓. Es el único valor porque la ecuación es de primer grado.

c) Con $\alpha = -1$:$$C = \begin{pmatrix} 1 & 0 & -1 \\ -1 & 1 & 0 \\ 2 & -1 & -1 \end{pmatrix}, \qquad \det C = 2(-1) + 2 = 0$$Como el menor $\begin{vmatrix} 1 & 0 \\ -1 & 1 \end{vmatrix} = 1 \neq 0$, $\operatorname{rg}(C) = 2$. El sistema homogéneo es compatible siempre y, al ser $\operatorname{rg}(C) = 2 < 3$ incógnitas, es compatible indeterminado con un parámetro. Me quedo con las dos primeras ecuaciones, que son independientes:$$\left\{\begin{array}{l} x - z = 0 \\ -x + y = 0 \end{array}\right. \;\Longrightarrow\; z = x, \quad y = x$$Con $x = t$:$$(x, y, z) = (t,\ t,\ t), \qquad t \in \mathbb{R}$$Comprobación en la tercera ecuación, $2x - y - z = 0$: $2t - t - t = 0$ ✓ (por eso sobraba: es la primera menos la segunda).