Derivadas y aplicaciones

a) Derivabilidad fuera de $x = 0$. Para $x < 0$, $f$ es un cociente de polinomios con $x - 1 \neq 0$ (porque $x < 0$), luego es derivable. Para $x > 0$, $f(x) = bx - 1$ es un polinomio, derivable. Solo queda estudiar $x = 0$.

Continuidad en $x = 0$ (condición necesaria para la derivabilidad):$$f(0) = b\cdot 0 - 1 = -1, \qquad \lim_{x\to 0^+} f(x) = \lim_{x\to 0^+}(bx - 1) = -1$$$$\lim_{x\to 0^-} f(x) = \lim_{x\to 0^-} \frac{x^2 + a}{x - 1} = \frac{a}{-1} = -a$$Para que sea continua: $-a = -1 \;\Longrightarrow\; a = 1$.

Derivadas laterales en $x = 0$. Derivamos cada trozo (regla del cociente en el primero):$$\left(\frac{x^2 + a}{x - 1}\right)' = \frac{2x(x - 1) - (x^2 + a)}{(x - 1)^2} = \frac{x^2 - 2x - a}{(x - 1)^2}, \qquad (bx - 1)' = b$$Como $f$ ya es continua en $0$ (con $a = 1$), las derivadas laterales son los límites de la derivada a cada lado:$$f'(0^-) = \lim_{x \to 0^-} \frac{x^2 - 2x - 1}{(x - 1)^2} = \frac{-1}{1} = -1, \qquad f'(0^+) = b$$Para que sea derivable: $b = -1$.

Con $a = 1$ y $b = -1$ la función queda$$f(x) = \begin{cases} \dfrac{x^2 + 1}{x - 1} & \text{si } x < 0 \\[2mm] -x - 1 & \text{si } x \geq 0 \end{cases}$$continua y derivable en todo $\mathbb{R}$, con $f'(0) = -1$.

b) En $[1, 2]$ se cumple $x \geq 0$, así que $f(x) = bx - 1$ en todo el intervalo de integración (el parámetro $a$ no interviene). Por la regla de Barrow:$$\int_1^2 (bx - 1)\,dx = \left[\frac{b x^2}{2} - x\right]_1^2 = (2b - 2) - \left(\frac{b}{2} - 1\right) = \frac{3b}{2} - 1$$Imponemos que valga $4$:$$\frac{3b}{2} - 1 = 4 \;\Longrightarrow\; \frac{3b}{2} = 5 \;\Longrightarrow\; b = \frac{10}{3}$$Comprobación: $\displaystyle\int_1^2 \left(\tfrac{10}{3}x - 1\right)dx = \left[\tfrac{5}{3}x^2 - x\right]_1^2 = \left(\tfrac{20}{3} - 2\right) - \left(\tfrac{5}{3} - 1\right) = \tfrac{14}{3} - \tfrac{2}{3} = 4$ ✓.

Este apartado es independiente del anterior: con $b = \frac{10}{3}$ la función ya no sería derivable en $x = 0$, pero eso no se pide aquí.