Phương pháp giải:

- Gọi $N$ là trung điểm của $BC$, chứng minh $d\left( {AB;SM} \right) = d\left( {AB;\left( {SMN} \right)} \right) = d\left( {A;\left( {SMN} \right)} \right)$.

- Trong $\left( {ABCD} \right)$ dựng hình bình hành $ABNH$, trong $\left( {SAH} \right)$ kẻ $AK \bot SH\,\,\left( {K \in SH} \right)$, chứng minh $AK \bot \left( {SMN} \right)$.

- Xác định $\angle \left( {SC;\left( {ABC} \right)} \right)$ là góc giữa $SC$ và hình chiếu của $SC$ lên $\left( {ABC} \right)$, sử dụng định lí Pytago và tỉ số lượng giác của góc nhọn trong tam giác vuông tính $SA$.

- Áp dụng HTL trong tam giác vuông: $AK = \dfrac{{SA.AH}}{{\sqrt {S{A^2} + A{H^2}} }}$ tính $AK$.

Lời giải chi tiết:

Gọi $N$ là trung điểm của $BC$, suy ra $MN\parallel AB$ ($MN$ là đường trung bình của $\Delta ABC$).

$\Rightarrow AB\parallel \left( {SMN} \right) \Rightarrow d\left( {AB;SM} \right) = d\left( {AB;\left( {SMN} \right)} \right) = d\left( {A;\left( {SMN} \right)} \right)$.

Trong $\left( {ABCD} \right)$ dựng hình bình hành $ABNH$, ta có $AH\parallel BN$. Mà $BN \bot MN \Rightarrow AH \bot MN$.

Trong $\left( {SAH} \right)$ kẻ $AK \bot SH\,\,\left( {K \in SH} \right)$ ta có:

$\begin{array}{l}\left\{ \begin{array}{l}MN \bot AH\\MN \bot SA\end{array} \right. \Rightarrow MN \bot \left( {SAH} \right) \Rightarrow MN \bot AK\\\left\{ \begin{array}{l}AK \bot MN\\AK \bot SH\end{array} \right. \Rightarrow AK \bot \left( {SMN} \right) \Rightarrow d\left( {A;\left( {SMN} \right)} \right) = AK\\ \Rightarrow d\left( {AB;SM} \right) = AK\end{array}$

Vì $ABNH$ là hình bình hành nên $AH = BN = \dfrac{1}{2}BC = \dfrac{{a\sqrt 3 }}{2}$.

Ta có: $SA \bot \left( {ABC} \right) \Rightarrow AC$ là hình chiếu của $SC$ lên $\left( {ABC} \right)$, do đó $\angle \left( {SC;\left( {ABC} \right)} \right) = \angle \left( {SC;AC} \right) = \angle SCA = {30^0}$.

Tam giác $ABC$ vuông tại $B$ nên $AC = \sqrt {A{B^2} + B{C^2}}  = \sqrt {2{a^2} + 3{a^2}}  = a\sqrt 5$.

Xét tam giác vuông $SAC$ có: $SA = AC.\tan {30^0} = a\sqrt 5 .\dfrac{{\sqrt 3 }}{3} = \dfrac{{a\sqrt {15} }}{3}$.

Áp dụng hệ thức lượng trong tam giác vuông $SAH$ có: $AK = \dfrac{{SA.AH}}{{\sqrt {S{A^2} + A{H^2}} }} = \dfrac{{\dfrac{{a\sqrt {15} }}{3}.\dfrac{{a\sqrt 3 }}{2}}}{{\sqrt {\dfrac{{5{a^2}}}{3} + \dfrac{{3{a^2}}}{4}} }} = \dfrac{{a\sqrt {435} }}{{29}}$.

Chọn B.