Trong không gian với hệ tọa độ \(Oxyz,\) cho các điểm \(A\left( -\,1;1;1 \right),\,\,B\left( 1;0;1 \right).\) Mặt phẳng \(\left( P \right)\) đi qua \(A,\,\,B\) và \(\left( P \right)\) cách điểm \(O\) một khoảng lớn nhất. Phương trình của mặt phẳng \(\left( P \right)\) là

Gọi phương trình mặt phẳng \(\left( P \right)\) là \(ax+by+cz+d=0\) với \({{a}^{2}}+{{b}^{2}}+{{c}^{2}}\ne 0.\)

Vì \(\left( P \right)\) đi qua hai điểm \(A\left( -\,1;1;1 \right),\,\,B\left( 1;0;1 \right)\) suy ra\(\left\{ \begin{array}{l}
- \,a + b + c + d = 0\\
a + c + d = 0
\end{array} \right. \Leftrightarrow \left\{ \begin{array}{l}
b = 2a\\
d = - \,a - c
\end{array} \right..\)

Khi đó, phương trình mặt phẳng \(\left( P \right)\) là \(ax+2ay+cz-a-c=0.\)

Khoảng cách từ điểm \(O\) đến mặt phẳng \(\left( P \right)\) là \(d\left( O;\left( P \right) \right)=\frac{\left| a+c \right|}{\sqrt{5{{a}^{2}}+{{c}^{2}}}}\)

Ta có \({{\left( a+c \right)}^{2}}={{\left( \frac{1}{\sqrt{5}}.a\sqrt{5}+c \right)}^{2}}\le \left( {{\left( \frac{1}{\sqrt{5}} \right)}^{2}}+{{1}^{2}} \right)\left( 5{{a}^{2}}+{{c}^{2}} \right)\)

     \(\Leftrightarrow \frac{{{\left( a+c \right)}^{2}}}{5{{a}^{2}}+{{c}^{2}}}\le \frac{6}{5}\Leftrightarrow \frac{\left| a+c \right|}{\sqrt{5{{a}^{2}}+{{c}^{2}}}}\le \frac{\sqrt{30}}{5}.\)

Dấu bằng xảy ra khi và chỉ khi \(c=5a\)\(\Rightarrow d=-\,6a.\)

Vậy \(\left( P \right):x+2y+5z-6=0.\)