Phương trình đường tròn (C) ngoại tiếp tam giác ABC có 3 cạnh nằm trên 3 đường thẳng \(3y = x, y = x + 2, y = 8 - x\) là:

+ Tìm tọa độ các đỉnh A,B,C của tam giác bằng cách lần lượt giải các hệ phương trình:

+) \(\left\{ \begin{array}{l}3y = x\\y = x + 2\end{array} \right. \Leftrightarrow \left\{ \begin{array}{l}x = 3y\\2y =  - 2\end{array} \right. \Leftrightarrow \left\{ \begin{array}{l}y =  - 1\\x =  - 3\end{array} \right. \Rightarrow A\left( { - 3; - 1} \right).\)

+) \(\left\{ \begin{array}{l}3y = x\\y = 8 - x\end{array} \right. \Leftrightarrow \left\{ \begin{array}{l}x = 3y\\4y = 8\end{array} \right. \Leftrightarrow \left\{ \begin{array}{l}y = 2\\x = 6\end{array} \right. \Rightarrow B\left( {6;2} \right).\)

+) \(\left\{ \begin{array}{l}y = 8 - x\\y = x + 2\end{array} \right. \Leftrightarrow \left\{ \begin{array}{l}y = x + 2\\0 = 6 - 2x\end{array} \right. \Leftrightarrow \left\{ \begin{array}{l}x = 3\\y = 5\end{array} \right. \Rightarrow C\left( {3;5} \right).\)

Đáp án A: \({x^2} + {y^2} - 3x - y + 20 = 0\). Ta thay \(A\left( { - 3; - 1} \right)\) vào phương trình có \({\left( { - 3} \right)^2} + {\left( { - 1} \right)^2} - 3\left( { - 3} \right) - \left( { - 1} \right) + 20 = 0\) là mệnh đề sai. Loại A

Đáp án B: \({x^2} + {y^2} - 3x - y - 20 = 0\). Ta thay \(A\left( { - 3; - 1} \right)\) vào phương trình có \({\left( { - 3} \right)^2} + {\left( { - 1} \right)^2} - 3\left( { - 3} \right) - \left( { - 1} \right) - 20 = 0\) là mệnh đề đúng.

Ta thay \(B\left( {6;2} \right)\) vào phương trình có \({6^2} + {2^2} - 3.6 - 2 - 20 = 0\) là mệnh đề đúng

Ta thay \(C\left( {3;5} \right)\) vào phương trình có \({3^2} + {5^2} - 3.3 - 5 - 20 = 0\) là mệnh đề đúng.