Trong không gian Oxyz, cho mặt phẳng \(\left( P \right):\,\,mx - 3y - \left( {2m - 3} \right)z - 9 = 0\) (m là tham số thực) và mặt cầu \(\left( S \right):\,\,{\left( {x - 1} \right)^2} + {\left( {y - 1} \right)^2} + {z^2} = 16\). Biết rằng (P) cắt (S) theo giao tuyến là đường tròn có bán kính nhỏ nhất, khi đó khoảng cách từ điểm \(A\left( { - 1;2;3} \right)\) đến \(\left( P \right)\) bằng

Mặt cầu (S) có tâm \(I\left( {1;1;0} \right)\), bán kính \(R = 4\).

Để (P) cắt (S) theo giao tuyến là đường tròn có bán kính nhỏ nhất thì \(d\left( {I;\left( P \right)} \right)\) phải lớn nhất.

Ta có:

\(d\left( {I,\left( P \right)} \right) = \dfrac{{\left| {m - 12} \right|}}{{\sqrt {{m^2} + {{\left( {2m - 3} \right)}^2} + 9} }} \)\(= \dfrac{{\left| {m - 12} \right|}}{{\sqrt {5{m^2} - 12m + 18} }} = \sqrt {\dfrac{{{{\left( {m - 12} \right)}^2}}}{{5{m^2} - 12m + 18}}} \)

Xét hàm số \(f\left( m \right) = \dfrac{{{{\left( {m - 12} \right)}^2}}}{{5{m^2} - 12m + 18}}\).

\(\begin{array}{l}f'\left( m \right) = \dfrac{{2\left( {m - 12} \right)\left( {5{m^2} - 12m + 18} \right) - \left( {10m - 12} \right){{\left( {m - 12} \right)}^2}}}{{{{\left( {5{m^2} - 12m + 18} \right)}^2}}}\\ = \dfrac{{\left( {m - 12} \right).\left( {10{m^2} - 24m + 36 - 10{m^2} + 132m - 144} \right)}}{{{{\left( {5{m^2} - 12m + 18} \right)}^2}}}\\ = \dfrac{{\left( {m - 12} \right)\left( {108m - 108} \right)}}{{{{\left( {5{m^2} - 12m + 18} \right)}^2}}}\\ = \dfrac{{108\left( {m - 12} \right)\left( {m - 1} \right)}}{{{{\left( {5{m^2} - 12m + 18} \right)}^2}}}\\f'\left( m \right) = 0 \Leftrightarrow \left[ \begin{array}{l}m = 1\\m = 12\end{array} \right.\\f\left( 1 \right) = 11;f\left( {12} \right) = 0\end{array}\)

=> \(\max f\left( m \right) = f\left( 1 \right) = 11\).

\( \Rightarrow d{\left( {I;\left( P \right)} \right)_{\max }} = \sqrt {11}  \Leftrightarrow m = 1\).

Khi đó phương trình mặt phẳng \(\left( P \right)\) là: \(x - 3y + z - 9 = 0\).

Vậy \(d\left( {A,\left( P \right)} \right) = \dfrac{{\left| { - 1 - 6 + 3 - 9} \right|}}{{\sqrt {{1^2} + {{\left( { - 3} \right)}^2} + {1^2}} }}\)\( = \dfrac{{13\sqrt {11} }}{{11}}\).