Matrices

a) Por las dimensiones, $(3\times 2)\cdot C = (3\times 2)$ obliga a que $C$ sea $2\times 2$:$$C = \begin{pmatrix} c_{11} & c_{12} \\ c_{21} & c_{22} \end{pmatrix}, \qquad AC = \begin{pmatrix} c_{11} + c_{21} & c_{12} + c_{22} \\ a\,c_{21} & a\,c_{22} \\ c_{11} + c_{21} & c_{12} + c_{22} \end{pmatrix}$$Igualando con $B$ (las filas 1 y 3 dan las mismas ecuaciones):$$\left\{\begin{array}{l} c_{11} + c_{21} = 3 \\ c_{12} + c_{22} = -1 \\ a\,c_{21} = a \\ a\,c_{22} = 0 \end{array}\right.$$Como $a \neq 0$, de la tercera y la cuarta: $c_{21} = 1$ y $c_{22} = 0$. Entonces $c_{11} = 3 - 1 = 2$, que coincide con el dato $c_{11} = 2$, y $c_{12} = -1 - 0 = -1$.$$C = \begin{pmatrix} 2 & -1 \\ 1 & 0 \end{pmatrix}$$(El dato $c_{11} = 2$ resulta compatible con las ecuaciones; de hecho, con $a \neq 0$ ya queda determinado por ellas.)

Comprobación:$$AC = \begin{pmatrix} 1 & 1 \\ 0 & a \\ 1 & 1 \end{pmatrix}\begin{pmatrix} 2 & -1 \\ 1 & 0 \end{pmatrix} = \begin{pmatrix} 3 & -1 \\ a & 0 \\ 3 & -1 \end{pmatrix} = B \ ✓$$b) La traspuesta de $B$ y el producto:$$B^t = \begin{pmatrix} 3 & a & 3 \\ -1 & 0 & -1 \end{pmatrix}, \qquad D = B^t A = \begin{pmatrix} 3 + 0 + 3 & 3 + a^2 + 3 \\ -1 + 0 - 1 & -1 + 0 - 1 \end{pmatrix} = \begin{pmatrix} 6 & a^2 + 6 \\ -2 & -2 \end{pmatrix}$$$$|D| = 6\cdot(-2) - (a^2 + 6)\cdot(-2) = -12 + 2a^2 + 12 = 2a^2$$$D$ tiene inversa si y solo si $|D| = 2a^2 \neq 0$, es decir, si y solo si $a \neq 0$. Como el enunciado ya pide $a \in \mathbb{R} - \{0\}$, $D$ es invertible para todos los valores de $a$ permitidos.