Gọi \(M\left( {{x_M};{y_M}} \right)\) là một điểm thuộc \(\left( C \right):y = {x^3} - 3{x^2} + 2\), biết tiếp tuyến của \(\left( C \right)\) tại \(M\) cắt \(\left( C \right)\) tại điểm \(N\left( {{x_N};{y_N}} \right)\) (khác \(M\)) sao cho \(P = 5x_M^2 + x_N^2\) đạt giá trị nhỏ nhất. Tính \(OM\).

Ta có \(y = {x^3} - 3{x^2} + 2\)$ \Rightarrow y' = 3{x^2} - 6x$.

Gọi \(M\left( {{x_M};{y_M}} \right)\) là một điểm thuộc \(\left( C \right):y = {x^3} - 3{x^2} + 2\), suy ra tiếp tuyến của \(\left( C \right)\) tại \(M\) có phương trình là $y = \left( {3x_M^2 - 6{x_M}} \right)\left( {x - {x_M}} \right) + x_M^3 - 3x_M^2 + 2$.

Tiếp tuyến của \(\left( C \right)\) tại \(M\) cắt \(\left( C \right)\) tại điểm \(N\left( {{x_N};{y_N}} \right)\) (khác \(M\)) nên \({x_M}\), \({x_N}\) là nghiệm của phương trình: ${x^3} - 3{x^2} + 2 = \left( {3x_M^2 - 6{x_M}} \right)\left( {x - {x_M}} \right) + x_M^3 - 3x_M^2 + 2$

$ \Leftrightarrow \left( {{x^3} - x_M^3} \right) - 3\left( {{x^2} - x_M^2} \right) - \left( {3x_M^2 - 6{x_M}} \right)\left( {x - {x_M}} \right) = 0$

$ \Leftrightarrow {\left( {x - {x_M}} \right)^2}\left( {x + 2{x_M} - 3} \right) = 0 \Leftrightarrow \left[ \begin{array}{l}x = {x_M}\\x =  - 2{x_M} + 3\end{array} \right.$ \( \Rightarrow \,{x_N} =  - 2{x_M} + 3\).

Khi đó \(P = 5x_M^2 + x_N^2 = 5x_M^2 + {\left( { - 2{x_M} + 3} \right)^2} = 9x_M^2 - 12{x_M} + 9 \ge 9{\left( {{x_M} - \dfrac{2}{3}} \right)^2} + 5\)

Vậy \(P\) đạt giá trị nhỏ nhất bằng \(5\) khi \({x_M} = \dfrac{2}{3}\). Khi đó \(M\left( {\dfrac{2}{3};\dfrac{{26}}{{27}}} \right)\)\( \Rightarrow \,OM = \dfrac{{10\sqrt {10} }}{{27}}\).