Cho phương trình \(2{\log _4}\left( {2{x^2} - x + 2m - 4{m^2}} \right) + {\log _{\dfrac{1}{2}}}\left( {{x^2} + mx - 2{m^2}} \right) = 0.\)  Tìm tất cả các giá trị của tham số \(m\)  sao cho phương trình đã cho có hai nghiệm phân biệt \({x_1};{x_2}\)  thỏa mãn \(x_1^2 + x_2^2 > 1.\)

ĐK: \({x^2} + mx - 2{m^2} > 0 \Leftrightarrow \left( {x - m} \right)\left( {x + m} \right) + m\left( {x - m} \right) > 0 \Leftrightarrow \left( {x - m} \right)\left( {x + 2m} \right) > 0\)

Ta có \(2{\log _4}\left( {2{x^2} - x + 2m - 4{m^2}} \right) + {\log _{\dfrac{1}{2}}}\left( {{x^2} + mx - 2{m^2}} \right) = 0\)

\(\begin{array}{l} \Leftrightarrow {\log _2}\left( {2{x^2} - x + 2m - 4{m^2}} \right) = {\log _2}\left( {{x^2} + mx - 2{m^2}} \right)\\ \Rightarrow 2{x^2} - x + 2m - 4{m^2} = {x^2} + mx - 2{m^2}\\ \Leftrightarrow {x^2} - \left( {m + 1} \right)x - 2{m^2} + 2m = 0\,\,\left( * \right)\end{array}\)

Xét \(\Delta  = {\left( {m + 1} \right)^2} - 4\left( { - 2{m^2} + 2m} \right) = 9{m^2} - 6m + 1 = {\left( {3m - 1} \right)^2}\)

Vì phương trình có hai nghiệm phân biệt \({x_1};{x_2}\) nên \(\Delta  > 0 \Leftrightarrow {\left( {3m - 1} \right)^2} > 0 \Leftrightarrow m \ne \dfrac{1}{3}\,\,\left( 1 \right)\)

Theo hệ thức Vi-et ta có \(\left\{ \begin{array}{l}{x_1} + {x_2} = m + 1\\{x_1}.{x_2} =  - 2{m^2} + 2m\end{array} \right.\)

Ta có

\(\begin{array}{l}x_1^2 + x_2^2 > 1 \Leftrightarrow {\left( {{x_1} + {x_2}} \right)^2} - 2{x_1}{x_2} > 1\\ \Leftrightarrow {\left( {m + 1} \right)^2} - 2\left( { - 2{m^2} + 2m} \right) > 1\\ \Leftrightarrow 5{m^2} - 2m > 0 \Leftrightarrow \left[ \begin{array}{l}m > \dfrac{2}{5}\\m < 0\end{array} \right.\,\,\,\left( 2 \right)\end{array}\)

Lại có hai nghiệm của phương trình (*) là \({x_1} = \dfrac{{ - b' + \sqrt {\Delta '} }}{a} = 2m;\,\,\,{x_2} = \dfrac{{ - b' - \sqrt {\Delta '} }}{a} = 1 - m\)

Thay vào điều kiện ban đầu \(\left( {x - m} \right)\left( {x + 2m} \right) > 0\) ta được \(\left\{ \begin{array}{l}m.4m > 0\\\left( {1 - 2m} \right)\left( {1 + m} \right) > 0\end{array} \right. \Leftrightarrow \left\{ \begin{array}{l}m \ne 0\\ - 1 < m < \dfrac{1}{2}\end{array} \right.\left( 3 \right)\)

Kết hợp (1); (2); (3) ta được \(\left[ \begin{array}{l} - 1 < m < 0\\\dfrac{2}{5} < m < \dfrac{1}{2}\end{array} \right.\)