Giải phương trình \(3{\sin ^2}2x - \sin 2x\cos 2x - 4{\cos ^2}2x = 2\) ta được:

Trường hợp 1: \(\cos 2x = 0 \Leftrightarrow 2x = \dfrac{\pi }{2} + k\pi  \Leftrightarrow x = \dfrac{\pi }{4} + \dfrac{{k\pi }}{2}\,\,\left( {k \in Z} \right)\). Khi đó \({\sin ^2}2x = 1\)

Thay vào phương trình ta có: \(3.1 - 0 - 4.0 = 2 \Leftrightarrow 3 = 2\) (Vô lý)

\( \Rightarrow x = \dfrac{\pi }{4} + \dfrac{{k\pi }}{2}\,\,\left( {k \in Z} \right)\) không là nghiệm của phương trình.

Trường hợp 2: \(\cos 2x \ne 0 \Leftrightarrow x \ne \dfrac{\pi }{4} + \dfrac{{k\pi }}{2}\,\,\left( {k \in Z} \right)\).

Chia cả 2 vế của phương trình cho \({\cos ^2}2x\) ta được:

\(3\dfrac{{{{\sin }^2}2x}}{{{{\cos }^2}2x}} - \dfrac{{\sin 2x}}{{\cos 2x}} - 4 = \dfrac{2}{{{{\cos }^2}2x}}\)\( \Leftrightarrow 3{\tan ^2}2x - \tan 2x - 4 = 2\left( {1 + {{\tan }^2}2x} \right)\)\( \Leftrightarrow {\tan ^2}2x - \tan 2x - 6 = 0\)

Đặt \(\tan 2x = t\). Khi đó phương trình trở thành

${t^2} - t - 6 = 0 \Leftrightarrow \left[ \begin{array}{l}t = 3\\t =  - 2\end{array} \right.$$ \Leftrightarrow \left[ \begin{array}{l}\tan 2x = 3\\\tan 2x =  - 2\end{array} \right.$$ \Leftrightarrow \left[ \begin{array}{l}2x = \arctan 3 + k\pi \\2x = \arctan \left( { - 2} \right) + k\pi \end{array} \right.$$ \Leftrightarrow \left[ \begin{array}{l}x = \dfrac{1}{2}\arctan 3 + \dfrac{{k\pi }}{2}\\x = \dfrac{1}{2}\arctan \left( { - 2} \right) + \dfrac{{k\pi }}{2}\end{array} \right.\,\,\,\left( {k \in Z} \right)$