Cho hình chóp $S.ABC$ có đáy $ABC$ là tam giác đều cạnh bằng $a$. Biết tam giác $SBA$ vuông tại $B$, tam giác $SCA$ vuông tại $C$ và khoảng cách giữa hai đường thẳng $AC$ và $SB$ bằng $\dfrac{{3a}}{{\sqrt {13} }}$. Tính thể tích khối chóp $S.ABC$.

Gọi O là trung điểm của BC.

Ta gắn hệ trục tọa độ Oxyz như hình vẽ. Trong đó:

$A\left( {\dfrac{{a\sqrt 3 }}{2};0;0} \right),\,B\left( {0;\dfrac{a}{2};0} \right),\,C\left( {0; - \dfrac{a}{2};0} \right)$

Gọi $\left( P \right)$ là mặt phẳng vuông góc với AB tại B, $\left( Q \right)$ là mặt phẳng vuông góc với AC tại C. Gọi giao tuyến của $\left( P \right)$ và $\left( Q \right)$ là đường thẳng $d$.

Do $SB \bot AB,\,\,SC \bot AC$ nên $S \in d$.

$\overrightarrow {AB}  = \left( { - \dfrac{{a\sqrt 3 }}{2};\dfrac{a}{2};0} \right),\,\,\overrightarrow {AC}  = \left( { - \dfrac{{a\sqrt 3 }}{2}; - \dfrac{a}{2};0} \right)$

Mặt phẳng $\left( P \right)$ đi qua $B\left( {0;\dfrac{a}{2};0} \right)$, nhận $\overrightarrow {{n_1}}  = \left( {\sqrt 3 ; - 1;0} \right)$ là 1 VTPT, có phương trình là: $\sqrt 3 x - y + \dfrac{a}{2} = 0$.

Mặt phẳng $\left( Q \right)$ đi qua $C\left( {0; - \dfrac{a}{2};0} \right)$, nhận $\overrightarrow {{n_2}}  = \left( {\sqrt 3 ;1;0} \right)$ là 1 VTPT, có phương trình là: $\sqrt 3 x + y + \dfrac{a}{2} = 0$.

$d$ là giao của $\left( P \right)$ và $\left( Q \right) \Rightarrow d:\left\{ \begin{array}{l}\sqrt 3 x - y + \dfrac{a}{2} = 0\\\sqrt 3 x + y + \dfrac{a}{2} = 0\end{array} \right.$,   $\left[ {\overrightarrow {{n_1}} ;\overrightarrow {{n_2}} } \right] = \left( {0;0;2\sqrt 3 } \right)$

$\Rightarrow d$ đi qua $I\left( { - \dfrac{a}{{2\sqrt 3 }};0;0} \right)$có 1 VTCP $\overrightarrow u  = \left( {0;0;1} \right)$, có phương trình tham số là: $\left\{ \begin{array}{l}x =  - \dfrac{a}{{2\sqrt 3 }}\\y = 0\\z = t\end{array} \right.$

Giả sử $S\left( { - \dfrac{a}{{2\sqrt 3 }};0;t} \right)$. Ta có: $\begin{array}{l}\overrightarrow {SB}  = \left( {\dfrac{a}{{2\sqrt 3 }};\dfrac{a}{2}; - t} \right);\,\,\\\overrightarrow {CA}  = \left( {\dfrac{{a\sqrt 3 }}{2};\dfrac{a}{2};0} \right)\end{array}$$\Rightarrow \left[ {\overrightarrow {SB} ;\overrightarrow {CA} } \right] = \left( {\dfrac{{at}}{2};\dfrac{{a\sqrt 3 t}}{2}; - \dfrac{{{a^2}\sqrt 3 }}{6}} \right)$$\Rightarrow \left| {\left[ {\overrightarrow {SB} ;\overrightarrow {CA} } \right]} \right| = \sqrt {\dfrac{{{a^2}{t^2}}}{4} + \dfrac{{3{a^2}{t^2}}}{4} + \dfrac{{{a^2}}}{{12}}}  = \sqrt {{a^2}{t^2} + \dfrac{{{a^2}}}{{12}}}$

Ta có: $\overrightarrow {CB}  = \left( {0;a;0} \right)$$\Rightarrow \left[ {\overrightarrow {SB} ;\overrightarrow {CA} } \right].\overrightarrow {CB}  = 0 + \dfrac{{a\sqrt 3 t}}{2}.a + 0 = \dfrac{{{a^2}\sqrt 3 t}}{2}$

$d(SB;AC) = \dfrac{{\left| {\left[ {\overrightarrow {SB} ;\overrightarrow {CA} } \right].\overrightarrow {CB} } \right|}}{{\left| {\left[ {\overrightarrow {SB} ;\overrightarrow {CA} } \right]} \right|}} = \dfrac{{\left| {\dfrac{{{a^2}\sqrt 3 t}}{2}} \right|}}{{\sqrt {{a^2}{t^2} + \dfrac{{{a^2}}}{{12}}} }}$

$\begin{array}{l} \Rightarrow \dfrac{{\left| {\dfrac{{{a^2}\sqrt 3 t}}{2}} \right|}}{{\sqrt {{a^2}{t^2} + \dfrac{{{a^2}}}{{12}}} }} = \dfrac{{3a}}{{\sqrt {13} }} \Leftrightarrow \dfrac{{3{a^4}{t^2}}}{{4{a^2}{t^2} + \dfrac{1}{3}{a^2}}} = \dfrac{{9{a^2}}}{{13}}\\ \Leftrightarrow 39{a^2}{t^2} = 36{a^2}{t^2} + 3{a^2} \Leftrightarrow {t^2} = {a^2} \Leftrightarrow t = a\end{array}$

$\Rightarrow S\left( { - \dfrac{a}{{2\sqrt 3 }};0;a} \right)$$\Rightarrow h = d\left( {S;\left( {Oxy} \right)} \right) = a$

Diện tích tam giác đều ABC là: $S = \dfrac{{{a^2}\sqrt 3 }}{4}$$\Rightarrow {V_{S.ABC}} = \dfrac{1}{3}.h.S = \dfrac{1}{3}.a.\dfrac{{{a^2}\sqrt 3 }}{4} = \dfrac{{{a^3}\sqrt 3 }}{{12}}$.