Cho phương trình $2{\log _4}\left( {2{x^2} - x + 2m - 4{m^2}} \right) + {\log _{\dfrac{1}{2}}}\left( {{x^2} + mx - 2{m^2}} \right) = 0.$  Tìm tất cả các giá trị của tham số $m$  sao cho phương trình đã cho có hai nghiệm phân biệt ${x_1};{x_2}$  thỏa mãn $x_1^2 + x_2^2 > 1.$

ĐK: ${x^2} + mx - 2{m^2} > 0 \Leftrightarrow \left( {x - m} \right)\left( {x + m} \right) + m\left( {x - m} \right) > 0 \Leftrightarrow \left( {x - m} \right)\left( {x + 2m} \right) > 0$

Ta có $2{\log _4}\left( {2{x^2} - x + 2m - 4{m^2}} \right) + {\log _{\dfrac{1}{2}}}\left( {{x^2} + mx - 2{m^2}} \right) = 0$

$\begin{array}{l} \Leftrightarrow {\log _2}\left( {2{x^2} - x + 2m - 4{m^2}} \right) = {\log _2}\left( {{x^2} + mx - 2{m^2}} \right)\\ \Rightarrow 2{x^2} - x + 2m - 4{m^2} = {x^2} + mx - 2{m^2}\\ \Leftrightarrow {x^2} - \left( {m + 1} \right)x - 2{m^2} + 2m = 0\,\,\left( * \right)\end{array}$

Xét $\Delta  = {\left( {m + 1} \right)^2} - 4\left( { - 2{m^2} + 2m} \right) = 9{m^2} - 6m + 1 = {\left( {3m - 1} \right)^2}$

Vì phương trình có hai nghiệm phân biệt ${x_1};{x_2}$ nên $\Delta  > 0 \Leftrightarrow {\left( {3m - 1} \right)^2} > 0 \Leftrightarrow m \ne \dfrac{1}{3}\,\,\left( 1 \right)$

Theo hệ thức Vi-et ta có $\left\{ \begin{array}{l}{x_1} + {x_2} = m + 1\\{x_1}.{x_2} =  - 2{m^2} + 2m\end{array} \right.$

Ta có

$\begin{array}{l}x_1^2 + x_2^2 > 1 \Leftrightarrow {\left( {{x_1} + {x_2}} \right)^2} - 2{x_1}{x_2} > 1\\ \Leftrightarrow {\left( {m + 1} \right)^2} - 2\left( { - 2{m^2} + 2m} \right) > 1\\ \Leftrightarrow 5{m^2} - 2m > 0 \Leftrightarrow \left[ \begin{array}{l}m > \dfrac{2}{5}\\m < 0\end{array} \right.\,\,\,\left( 2 \right)\end{array}$

Lại có hai nghiệm của phương trình (*) là ${x_1} = \dfrac{{ - b' + \sqrt {\Delta '} }}{a} = 2m;\,\,\,{x_2} = \dfrac{{ - b' - \sqrt {\Delta '} }}{a} = 1 - m$

Thay vào điều kiện ban đầu $\left( {x - m} \right)\left( {x + 2m} \right) > 0$ ta được $\left\{ \begin{array}{l}m.4m > 0\\\left( {1 - 2m} \right)\left( {1 + m} \right) > 0\end{array} \right. \Leftrightarrow \left\{ \begin{array}{l}m \ne 0\\ - 1 < m < \dfrac{1}{2}\end{array} \right.\left( 3 \right)$

Kết hợp (1); (2); (3) ta được $\left[ \begin{array}{l} - 1 < m < 0\\\dfrac{2}{5} < m < \dfrac{1}{2}\end{array} \right.$