A cerca será colocada em volta do jardim. Logo, a medida do comprimento da cerca equivalerá à medida do comprimento do perímetro do jardim. Assim, esse comprimento é de \(k\) m.
Se o jardim tiver a forma de um triângulo equilátero, seus lados deverão medir \(\dfrac{k}{3}\) m. A área \(A_1\) do jardim medirá, então, em m², pela fórmula da área do triângulo equilátero, \(\dfrac{l^2\sqrt{3}}{4}\), em que \(l\) é a medida do lado:
$$\dfrac{\left(\dfrac{k}{3}\right)^2 \sqrt{3}}{4} = \dfrac{k^2\sqrt{3}}{36}$$
Se o jardim tiver a forma de um quadrado, seus lados deverão medir \(\dfrac{k}{4}\) m. A área \(A_2\) do jardim medirá então, em m², pela fórmula da área do quadrado, \(l^2\), em que \(l\) é a medida do lado:
$$\left(\dfrac{k}{4}\right)^2 = \dfrac{k^2}{16}$$
Se o jardim tiver a forma de um hexágono regular, seus lados deverão medir \(\dfrac{k}{6}\) m. A área \(A_3\) do jardim medirá, então, em m², pela fórmula da área do hexágono regular, \(\dfrac{6 \cdot l^2\sqrt{3}}{4}\), em que \(l\) é a medida do lado:
$$\dfrac{6 \cdot \left(\dfrac{k}{6}\right)^2 \sqrt{3}}{4} = \dfrac{k^2\sqrt{3}}{24}$$
Como mmc(36, 16, 24) = 144, tem-se:
$$A_1 = \dfrac{4 \cdot \sqrt{3} \cdot k^2}{144}$$
$$A_2 = \dfrac{9 \cdot k^2}{144}$$
$$A_3 = \dfrac{6 \cdot \sqrt{3} \cdot k^2}{144}$$
Como \(6 > 4\), \(A_3 > A_1\). Como \(6\sqrt{3}\) é aproximadamente \(10{,}39 > 9\), \(A_3 > A_2\).
Logo, o jardim deve ter a forma de um hexágono regular.