Gọi \(M\left( {{x}_{M}};{{y}_{M}} \right)\)là một điểm thuộc \((C):y={{x}^{3}}-3{{x}^{2}}+2\), biết tiếp tuyến của \((C)\) tại M cắt \((C)\) tại điểm \(N\left( {{x}_{N}};{{y}_{N}} \right)\) (khác M) sao cho \(P=5x_{M}^{2}+x_{N}^{2}\) đạt GTNN. Tính OM.

\(M\left( {{x}_{M}};{{y}_{M}} \right)\in (C):y={{x}^{3}}-3{{x}^{2}}+2\Rightarrow {{y}_{M}}=x_{M}^{3}-3x_{M}^{2}+2\)

\(y'=3{{x}^{2}}-6x\Rightarrow y'({{x}_{M}})=3x_{M}^{2}-6{{x}_{M}}\)

Phương trình tiếp tuyến của (C) tại M:  \(y=y'({{x}_{M}})(x-{{x}_{M}})+{{y}_{M}}\)

          \(\Leftrightarrow y=\left( 3x_{M}^{2}-6{{x}_{M}} \right)\left( x-{{x}_{M}} \right)+x_{M}^{3}-3x_{M}^{2}+2\Leftrightarrow y=\left( 3x_{M}^{2}-6{{x}_{M}} \right)x-2x_{M}^{3}+3x_{M}^{2}+2\) (d)

Phương trình hoành độ giao điểm của d và (C):

\(\begin{array}{l}\left( {3x_M^2 - 6{x_M}} \right)x - 2x_M^3 + 3x_M^2 + 2 = {x^3} - 3{x^2} + 2 \Leftrightarrow 3x_M^2x - 6{x_M}x - 2x_M^3 + 3x_M^2 - {x^3} + 3{x^2} = 0\\ \Leftrightarrow \left( {3x_M^2x - 2x_M^3 - {x^3}} \right) + \left( {3{x^2} - 6{x_M}x + 3x_M^2} \right) = 0 \Leftrightarrow \left( {3x_M^2x - 3x_M^3} \right) + \left( {x_M^3 - {x^3}} \right) + 3{\left( {x - {x_M}} \right)^2} = 0\\ \Leftrightarrow 3x_M^2\left( {x - {x_M}} \right) - \left( {x - {x_M}} \right)\left( {x_M^2 + x_M^{}x + {x^2}} \right) + 3{\left( {x - {x_M}} \right)^2} = 0\\ \Leftrightarrow \left( {x - {x_M}} \right)\left( {3x_M^2 - x_M^2 - x_M^{}x - {x^2} + 3x - 3{x_M}} \right) = 0\\ \Leftrightarrow \left( {x - {x_M}} \right)\left( {{x^2} + ({x_M} - 3)x - 2x_M^2 + 3{x_M}} \right) = 0\\ \Leftrightarrow {\left( {x - {x_M}} \right)^2}\left( {x + 2{x_M} - 3} \right) = 0\\ \Leftrightarrow \left[ \begin{array}{l}x = {x_M}\\x = 3 - 2{x_M} = {x_N}\end{array} \right.\end{array}\)

(Điều kiện \(3-2{{x}_{M}}\ne {{x}_{M}}\Leftrightarrow {{x}_{M}}\ne 1\))

Khi đó, \(P=5x_{M}^{2}+x_{N}^{2}=5x_{M}^{2}+{{\left( 3-2{{x}_{M}} \right)}^{2}}=9x_{M}^{2}-12{{x}_{M}}+9={{\left( 3{{x}_{M}}-2 \right)}^{2}}+5\ge 5\)

\(\Rightarrow {{P}_{\min }}=5\) khi và chỉ khi \({{x}_{M}}=\frac{2}{3}\) . Khi đó, \(M\left( \frac{2}{3};\frac{26}{27} \right)\) \(\Rightarrow OM=\frac{10\sqrt{10}}{27}\).