Áreas, volúmenes y distancias

a) Vectores del plano:$$\overrightarrow{AB} = (2 - 1,\ 0 - 1,\ 1 - 0) = (1, -1, 1), \qquad \overrightarrow{AC} = (0 - 1,\ 2 - 1,\ 1 - 0) = (-1, 1, 1).$$No son proporcionales, así que $A$, $B$ y $C$ no están alineados y determinan un plano. Un vector normal es$$\overrightarrow{AB}\times\overrightarrow{AC} = \begin{vmatrix} \vec{i} & \vec{j} & \vec{k} \\ 1 & -1 & 1 \\ -1 & 1 & 1 \end{vmatrix} = (-1 - 1)\,\vec{i} - (1 + 1)\,\vec{j} + (1 - 1)\,\vec{k} = (-2, -2, 0).$$Tomamos el proporcional $\vec{n} = (1, 1, 0)$. El plano es $x + y + D = 0$, y como pasa por $A(1, 1, 0)$: $1 + 1 + D = 0 \Rightarrow D = -2$.$$\pi:\ x + y - 2 = 0.$$Comprobación: para $B$, $2 + 0 - 2 = 0$, y para $C$, $0 + 2 - 2 = 0$. ✓

b) El tercer vector es$$\overrightarrow{AD} = (a - 1,\ 1 - 1,\ 2 - 0) = (a - 1, 0, 2).$$Producto mixto:$$\left[\overrightarrow{AB}, \overrightarrow{AC}, \overrightarrow{AD}\right] = \begin{vmatrix} 1 & -1 & 1 \\ -1 & 1 & 1 \\ a - 1 & 0 & 2 \end{vmatrix} = \left(\overrightarrow{AB}\times\overrightarrow{AC}\right)\cdot\overrightarrow{AD} = (-2, -2, 0)\cdot(a - 1, 0, 2) = -2(a - 1).$$El volumen del tetraedro es$$V = \frac{1}{6}\,\bigl|-2(a - 1)\bigr| = \frac{|a - 1|}{3}.$$Imponemos $V = 3$:$$\frac{|a - 1|}{3} = 3 \iff |a - 1| = 9 \iff a - 1 = 9 \ \text{ o } \ a - 1 = -9 \iff a = 10 \ \text{ o } \ a = -8.$$Comprobación por otro camino. El volumen también es $\frac{1}{3}\cdot\text{(área de la base } ABC) \cdot \text{(altura)}$. El área es $\frac{1}{2}\,|(-2, -2, 0)| = \frac{\sqrt{8}}{2} = \sqrt{2}$, y la altura es la distancia de $D$ al plano $\pi$:$$d(D, \pi) = \frac{|a + 1 - 2|}{\sqrt{1^2 + 1^2}} = \frac{|a - 1|}{\sqrt{2}} \;\Longrightarrow\; V = \frac{1}{3}\cdot\sqrt{2}\cdot\frac{|a - 1|}{\sqrt{2}} = \frac{|a - 1|}{3}.$$Sale lo mismo. ✓

Con $a = 1$ el punto $D$ estaría en el plano $\pi$ y no habría tetraedro, lo que encaja con $V = 0$.