Optimización

Variables. Sean $x = AB$ e $y = AE$ (en metros). En el rectángulo $ABDE$ los lados opuestos son iguales: $DE = AB = x$ y $BD = AE = y$. El triángulo $BCD$ es equilátero de lado $BD = y$, así que $BC = CD = y$.

Condición (la valla). El perímetro del pentágono $ABCDE$ es$$AB + BC + CD + DE + EA = x + y + y + x + y = 2x + 3y = 120 \;\Longrightarrow\; x = \frac{120 - 3y}{2}$$El lado $BD$ no lleva valla: es interior a la parcela. Como $x > 0$ e $y > 0$, debe ser $0 < y < 40$.

Función que hay que maximizar. El área es la del rectángulo más la del triángulo equilátero de lado $y$ (altura $\frac{\sqrt{3}}{2}y$):$$S = xy + \frac{\sqrt{3}}{4}y^2$$y, sustituyendo $x$:$$S(y) = y\cdot\frac{120 - 3y}{2} + \frac{\sqrt{3}}{4}y^2 = 60y - \frac{3}{2}y^2 + \frac{\sqrt{3}}{4}y^2 = 60y - \frac{6 - \sqrt{3}}{4}\,y^2, \qquad y \in (0,\ 40)$$Punto crítico.$$S'(y) = 60 - \frac{6 - \sqrt{3}}{2}\,y = 0 \;\Longrightarrow\; y_0 = \frac{120}{6 - \sqrt{3}} = \frac{120(6 + \sqrt{3})}{36 - 3} = \frac{40(6 + \sqrt{3})}{11} \approx 28{,}117$$Está en el intervalo: $y_0 < 40$ porque $6 + \sqrt{3} < 11$.

Es el máximo absoluto. $S'(y)$ es una función lineal decreciente (su pendiente es $-\frac{6 - \sqrt{3}}{2} < 0$), así que $S'(y) > 0$ si $0 < y < y_0$ y $S'(y) < 0$ si $y_0 < y < 40$. El área crece hasta $y_0$ y decrece después: en $y_0$ hay un máximo, y es absoluto en todo el intervalo $(0, 40)$. (También $S''(y) = -\frac{6 - \sqrt{3}}{2} < 0$.)

La otra distancia.$$x_0 = \frac{120 - 3y_0}{2} = 60 - \frac{60(6 + \sqrt{3})}{11} = \frac{60(5 - \sqrt{3})}{11} \approx 17{,}825$$Comprobaciones. Valla: $2(17{,}825) + 3(28{,}117) = 35{,}65 + 84{,}35 = 120$. El área máxima, en el vértice de la parábola, es$$S(y_0) = 30\,y_0 = \frac{1200(6 + \sqrt{3})}{11} \approx 843{,}5 \ \text{m}^2$$mayor que, por ejemplo, la parcela casi sin rectángulo ($y \to 40$, $S \to 400\sqrt{3} \approx 692{,}8 \ \text{m}^2$).