Cho hàm số \(y = {x^2} - 2x - 2\) có đồ thị \(\left( P \right)\), và đường thẳng \(\left( d \right)\) có phương trình \(y = x + m\). Tìm $m$ để \(\left( d \right)\) cắt \(\left( P \right)\) tại hai điểm phân biệt \(A\), \(B\) sao cho \(O{A^2} + O{B^2}\) đạt giá trị nhỏ nhất.

Phương trình hoành độ giao điểm: \({x^2} - 2x - 2 = x + m\)\( \Leftrightarrow {x^2} - 3x - 2 - m = 0\)

\(\left( d \right)\) cắt \(\left( P \right)\) tại hai điểm phân biệt \(A\), \(B\)\( \Leftrightarrow \Delta  > 0 \Leftrightarrow 17 + 4m > 0\) \( \Leftrightarrow m >  - \dfrac{{17}}{4}\).

Giả sử \(\left( * \right)\) có hai nghiệm \({x_1},{x_2}\) thì \(\left\{ \begin{array}{l}{x_1} + {x_2} =  - \dfrac{b}{a} = 3\\{x_1}{x_2} = \dfrac{c}{a} =  - m - 2\end{array} \right.\)

$A\left( {{x_1};{x_1} + m} \right)$ $ \Rightarrow \overrightarrow {OA}  = \left( {{x_1};{x_1} + m} \right)$

$B\left( {{x_2};{x_2} + m} \right)$$ \Rightarrow \overrightarrow {OB}  = \left( {{x_2};{x_2} + m} \right)$

\(O{A^2} + O{B^2} = x_1^2 + x_2^2 + {\left( {{x_1} + m} \right)^2} + {\left( {{x_2} + m} \right)^2}\)\( = 2{\left( {{x_1} + {x_2}} \right)^2} - 4{x_1}{x_2} + 2m\left( {{x_1} + {x_2}} \right) + 2{m^2}\)

\( = 18 - 4\left( { - 2 - m} \right) + 6m + 2{m^2}\)\( = 2{m^2} + 10m + 26\)\( = 2{\left( {m + \dfrac{5}{2}} \right)^2} + \dfrac{{27}}{2} \ge \dfrac{{27}}{2}\) với \(m >  - \dfrac{{17}}{4}\)

Vậy giá trị nhỏ nhất của \(O{A^2} + O{B^2}\) là \(\dfrac{{27}}{2}\) khi \(m =  - \dfrac{5}{2}\).