Tìm tham số \(m\) để phương trình \({x^2} - 5x + m - 3 = 0\) có hai nghiệm phân biệt \({x_1};{x_2}\) thỏa mãn \(x_1^2 - 2{x_1}{x_2} + 3{x_2} = 1\)

Xét phương trình \({x^2} - 5x + m - 3 = 0\)

Ta có:  \(\Delta  = {\left( { - 5} \right)^2} - 4.1.\left( {m - 3} \right)\) \( = 25 - 4m + 12 = 37 - 4m\)

Để phương trình đã cho có hai nghiệm phân biệt \({x_1};{x_2}\) thì \(\left\{ \begin{array}{l}a \ne 0\\\Delta  > 0\end{array} \right. \Leftrightarrow \left\{ \begin{array}{l}1 \ne 0\left( {ld} \right)\\37 - 4m > 0\end{array} \right. \Leftrightarrow 37 > 4m \Leftrightarrow m < \dfrac{{37}}{4}\)

Theo hệ thức Vi-et ta có: \(\left\{ \begin{array}{l}{x_1} + {x_2} = 5\\{x_1}{x_2} = m - 3\end{array} \right.\)

Vì \({x_1} + {x_2} = 5 \Rightarrow {x_2} = 5 - {x_1}\)

Ta có: \({x^2} - 5x + m - 3 = 0\)\( \Leftrightarrow m - 3 = 5x - {x^2}\)

Mà \({x_1}\) là nghiệm của phương trình \({x^2} - 5x + m - 3 = 0\) nên \(m - 3 = 5{x_1} - x_1^2\)

Ta có: \(x_1^2 - 2{x_1}{x_2} + 3{x_2} = 1\)

\(\begin{array}{l} \Leftrightarrow x_1^2 - 2.\left( {m - 3} \right) + 3\left( {5 - {x_1}} \right) = 1\\ \Leftrightarrow x_1^2 - 2\left( {5{x_1} - x_1^2} \right) + 3\left( {5 - {x_1}} \right) = 1\\ \Leftrightarrow x_1^2 - 10{x_1} + 2x_1^2 + 15 - 3{x_1} - 1 = 0\\ \Leftrightarrow 3x_1^2 - 13{x_1} + 14 = 0\\ \Leftrightarrow 3x_1^2 - 6{x_1} - 7{x_1} + 14 = 0\\ \Leftrightarrow 3{x_1}\left( {{x_1} - 2} \right) - 7\left( {{x_1} - 2} \right) = 0\\ \Leftrightarrow \left( {{x_1} - 2} \right)\left( {3{x_1} - 7} \right) = 0\\ \Leftrightarrow \left[ \begin{array}{l}{x_1} - 2 = 0\\3{x_1} - 7 = 0\end{array} \right. \Leftrightarrow \left[ \begin{array}{l}{x_1} = 2\\{x_1} = \dfrac{7}{3}\end{array} \right.\end{array}\)

Với \({x_1} = 2 \Rightarrow m - 3 = 5.2 - {2^2} \Leftrightarrow m - 3 = 6 \Leftrightarrow m = 9\) (thỏa mãn)

Với \({x_1} = \dfrac{7}{3} \Rightarrow m - 3 = 5.\dfrac{7}{3} - {\left( {\dfrac{7}{3}} \right)^2} \Leftrightarrow m - 3 = \dfrac{{56}}{9} \Leftrightarrow m = \dfrac{{83}}{9}\)  (thỏa mãn)

Vậy \(m = 9;m = \dfrac{{83}}{9}\) là các giá trị cần tìm.