Tìm tất cả các giá trị của tham số \(m\) sao cho phương trình \({x^3} - 3{x^2} + \left( {2m - 2} \right)x + m - 3 = 0\) có ba nghiệm \({x_1}\), \({x_2}\), \({x_3}\) thỏa mãn \({x_1} <  - 1 < {x_2} < {x_3}\).

Đặt \(f\left( x \right) = {x^3} - 3{x^2} + \left( {2m - 2} \right)x + m - 3\). Ta thấy hàm số liên tục trên \(\mathbb{R}\).

Dễ thấy nếu \(x \to  - \infty \)thì \(f\left( x \right) \to  - \infty \) hay \(f\left( x \right) < 0\)

Suy ra điều kiện cần để \(f\left( x \right) = 0\) có \(3\) nghiệm thỏa \({x_1} <  - 1 < {x_2} < {x_3}\) là $f\left( { - 1} \right) > 0 \Leftrightarrow  - m - 5 > 0 \Leftrightarrow m <  - 5$.

Điều kiện đủ: với \(m <  - 5\) ta có

*) \(\mathop {\lim }\limits_{x \to  - \infty } f\left( x \right) =  - \infty \) nên tồn tại \(a <  - 1\) sao cho \(f\left( a \right) < 0\)

Mặt khác \(f\left( { - 1} \right) =  - m - 5 > 0\). Suy ra \(f\left( a \right).f\left( { - 1} \right) < 0\).

Do đó tồn tại \({x_1} \in \left( {a; - 1} \right)\) sao cho \(f\left( {{x_1}} \right) = 0\).

*) \(f\left( 0 \right) = m - 3 < 0\), \(f\left( { - 1} \right) > 0\). Suy ra \(f\left( 0 \right).f\left( { - 1} \right) < 0\).

Do đó tồn tại \({x_2} \in \left( { - 1;0} \right)\) sao cho \(f\left( {{x_2}} \right) = 0\).

*) \(\mathop {\lim }\limits_{x \to  + \infty } f\left( x \right) =  + \infty \) nên tồn tại \(b > 0\) sao cho \(f\left( b \right) > 0\)

Mặt khác \(f\left( 0 \right) < 0\). Suy ra \(f\left( 0 \right).f\left( b \right) < 0\).

Do đó tồn tại \({x_3} \in \left( {0;b} \right)\) sao cho \(f\left( {{x_3}} \right) = 0\).

Vậy \(m <  - 5\) thỏa mãn yêu cầu bài toán.