Tìm `m` để HS `y= 1/3 (m²-1)x³ +(m-1)x² -2x +1` ĐB trên `(2;+\infty)`

Đáp án:

$\left(- \infty;  \dfrac{-1-\sqrt{11}}{2} \right] \cup \left[\dfrac{-1+\sqrt{11}}{2};  + \infty \right)$

Giải thích các bước giải:

$y=\dfrac{1}{3}(m^2-1)x^3+(m-1)x^2-2x+1$

Điều kiện để $y$ đồng điến trên $(2;+\infty)$ là:
$y'=(m^2-1)x^2+2(m-1)x-2\ge 0, \forall x\in(2;+\infty)\\ \Leftrightarrow \underset{(2;+\infty)}{\text{min}\,y'}\ge 0 $
Xét $m=1 \Rightarrow y'=-2<0\Rightarrow$ Loại
Xét $m=-1 \Rightarrow y'=-4x-2<0, \forall x\in(2;+\infty)\Rightarrow$ Loại
Xét $m^2-1<0$. Nhận thấy khi đó $\underset{x\to\infty}{\displaystyle\lim y'}=-\infty \Rightarrow$ Loại
$$\begin{array}{|c|ccccccccc|}  \hline x&-\infty&&x_0=-\dfrac{m-1}{m^2-1}&&\infty\\  \hline y''&&+&0&-&\\  \hline &&&y'(x_0)\\  y'&&\nearrow&&\searrow&\\  &-\infty&&&&-\infty\\  \hline  \end{array}$$
Xét $m^2-1>0 \Leftrightarrow \left[\begin{array}{l} m>1\\ m<-1\end{array} \right.$.

Khi đó, $y'$ là hàm số bậc 2 đối với biến $x$, với điểm cực trị duy nhất là $x_0=-\dfrac{m-1}{m^2-1}=\dfrac{-1}{m+1}$
$$\begin{array}{|c|ccccccccc|} \hline x&-\infty&&x_0=\dfrac{-1}{m+1}&&\infty\\\hline y''&&-&0&+&\\\hline &+\infty&&&&+\infty\\y'&&\searrow&&\nearrow&\\&&&-\dfrac{3m-1}{m+1}\\\hline\end{array}
$$
Ta xét 2 trường hợp:
1. Điểm cực trị $x_0>2$

$\Leftrightarrow -\dfrac{1}{m+1}>2\\ \Leftrightarrow \dfrac{-1}{m+1}-2>0\\ \Leftrightarrow \dfrac{-1-2(m+1)}{m+1}>0\\ \Leftrightarrow \dfrac{-2m-3}{m+1}>0\\ \Leftrightarrow -\dfrac{3}{2}<m<-1\\ \Rightarrow \underset{(2;+\infty)}{\text{min}\,y'} =-\dfrac{3m-1}{m+1}$

Khi đó, $\underset{(2;+\infty)}{\text{min}\,y'}\ge 0\Leftrightarrow \dfrac{3m-1}{m+1}\le 0\Leftrightarrow -1<m\le\dfrac{1}{3}$
Kết hợp điều kiện $m \in \varnothing$
2. Điểm cực trị $x_0\le2$

$\Leftrightarrow -\dfrac{1}{m+1}\le2\\ \Leftrightarrow \dfrac{-1}{m+1}-2\le0\\ \Leftrightarrow \dfrac{-1-2(m+1)}{m+1}\le0\\ \Leftrightarrow \dfrac{-2m-3}{m+1}\le0\\ \Leftrightarrow \Leftrightarrow \left[\begin{array}{l} m > -1\\ m \le -\dfrac{3}{2}\end{array} \right.$

Khi đó, 
$\underset{(2;+\infty)}{\text{min}\,y'}\ge 0 \Leftrightarrow y'(2)\ge 0\Leftrightarrow -10 + 4 m + 4 m^2\ge 0\Leftrightarrow\left[ \begin{array}{c} m\ge\dfrac{\sqrt{11}-1}{2}\\ m\le \dfrac{-1-\sqrt{11}}{2} \end{array} \right.$

Kết hợp điều kiện

$\Rightarrow \Leftrightarrow\left[ \begin{array}{c} m\ge\dfrac{\sqrt{11}-1}{2}\\ m\le \dfrac{-1-\sqrt{11}}{2} \end{array} \right.$
Vậy, tập các giá trị thoả mãn của $m$ là:

$\mathbb{D}= \left(- \infty;  \dfrac{-1-\sqrt{11}}{2} \right] \cup \left[\dfrac{-1+\sqrt{11}}{2};  + \infty \right)$