Cho các số thực dương \(x,\,\,y\) thỏa mãn \(\sqrt y \left( {y + 1} \right) - 6x - 9 = \left( {2x + 4} \right)\sqrt {2x + 3}  - 3y\). Giá trị lớn nhất của biểu thức \(M = xy + 3y - 4{x^2} - 3\) là

ĐKXĐ: \(\left\{ \begin{array}{l}y \ge 0\\2x + 3 \ge 0\end{array} \right. \Leftrightarrow \left\{ \begin{array}{l}y \ge 0\\x \ge  - \dfrac{3}{2}\end{array} \right.\).

Đặt \(2x + 3 = t\,\,\left( {t \ge 0} \right)\) ta có:

\(\begin{array}{l}\sqrt y \left( {y + 1} \right) - 6x - 9 = \left( {2x + 4} \right)\sqrt {2x + 3}  - 3y\\ \Leftrightarrow \sqrt y \left( {y + 1} \right) - 3\left( {2x + 3} \right) = \left( {2x + 4} \right)\sqrt {2x + 3}  - 3y\\ \Rightarrow \sqrt y \left( {y + 1} \right) - 3t = \sqrt t \left( {t + 1} \right) - 3y\\ \Leftrightarrow \sqrt y \left( {y + 1} \right) - \sqrt t \left( {t + 1} \right) + 3y - 3t = 0\\ \Leftrightarrow y\sqrt y  - t\sqrt t  + \left( {\sqrt y  - \sqrt t } \right) + 3\left( {y - t} \right) = 0\\ \Leftrightarrow \left( {\sqrt y  - \sqrt t } \right)\left( {y + \sqrt {yt}  + t} \right) + \left( {\sqrt y  - \sqrt t } \right) + 3\left( {\sqrt y  - \sqrt t } \right)\left( {\sqrt y  + \sqrt t } \right) = 0\\ \Leftrightarrow \left( {\sqrt y  - \sqrt t } \right)\left( {y + \sqrt {yt}  + t + 1 + 4} \right) = 0\\ \Leftrightarrow \left( {\sqrt y  - \sqrt t } \right)\left( {y + \sqrt {yt}  + t + 5} \right) = 0\\ \Leftrightarrow \sqrt y  - \sqrt t  = 0\,\,\left( {do\,\,y + \sqrt {yt}  + t + 5 > 0\,\,\forall y,\,\,t \ge 0} \right)\\ \Leftrightarrow y = t \Leftrightarrow y = 2x + 3\end{array}\)

Khi đó biểu thức \(M\) trở thành:

\(\begin{array}{l}M = x\left( {2x + 3} \right) + 3\left( {2x + 3} \right) - 4{x^2} - 3\\M = 2{x^2} + 3x + 6x + 9 - 4{x^2} - 3\\M =  - 2{x^2} + 9x + 6\\M =  - 2\left( {{x^2} - \dfrac{9}{2}x} \right) + 6\\M =  - 2\left( {{x^2} - 2.x.\dfrac{9}{4} + \dfrac{{81}}{{16}}} \right) + \dfrac{{81}}{8} + 6\\M =  - 2{\left( {x - \dfrac{9}{4}} \right)^2} + \dfrac{{129}}{8}\end{array}\)

Vì \( - 2{\left( {x - \dfrac{9}{4}} \right)^2} \le 0\,\,\forall x\) nên \( - 2{\left( {x - \dfrac{9}{4}} \right)^2} + \dfrac{{129}}{8} \le \dfrac{{129}}{8}\).

Do đó \(M \le \dfrac{{129}}{8} \Rightarrow {M_{\max }} = \dfrac{{129}}{8}\). Dấu “=” xảy ra \( \Leftrightarrow x = \dfrac{9}{4}\,\,\left( {tm} \right) \Rightarrow y = \dfrac{{15}}{2}\).

Vậy GTLN của \(M\) bằng \(\dfrac{{129}}{8}\) đạt được khi \(\left( {x;y} \right) = \left( {\dfrac{9}{4};\dfrac{{15}}{2}} \right)\).