Phương pháp giải:

+) Trong (ABCD)  kẻ $AF \bot MD$.

+) Chứng minh góc giữa hai mặt phẳng cần tìm là góc SFA.

+) Tính các cạnh AF, SF và tính $\cos \widehat {SFA}$.

Lời giải chi tiết:

Trong (ABCD)  kẻ $AF \bot MD$. Lại có: $SA \bot \left( {ABCD} \right) \Rightarrow SA \bot MD$

$\Rightarrow MD \bot \left( {SAF} \right) \Rightarrow MD \bot SF$

Ta có: $\left. \begin{array}{l}\left( {SDM} \right) \cap \left( {ABCD} \right) = MD\\SF \bot MD\\AF \bot MD\end{array} \right\} \Rightarrow \widehat {\left( {\left( {SDM} \right);\left( {ABCD} \right)} \right)} = \widehat {\left( {SF;AF} \right)} = \widehat {SFA}$

Xét tam giác vuông CMD có: $MD = \sqrt {C{D^2} + M{C^2}}  = \sqrt {{a^2} + {{\left( {\dfrac{3}{2}a} \right)}^2}}  = \dfrac{{a\sqrt {13} }}{2}$

Ta có: ${S_{\Delta AMD}} = \dfrac{1}{2}.3a.a = \dfrac{3}{2}{a^2} = \dfrac{1}{2}AF.MD \Rightarrow AF = \dfrac{{2{S_{\Delta ADM}}}}{{MD}} = \dfrac{{3{a^2}}}{{\dfrac{{a\sqrt {13} }}{2}}} = \dfrac{{6a}}{{\sqrt {13} }}$

Vì $SA \bot \left( {ABCD} \right) \Rightarrow SA \bot AF$. Suy ra tam giác SAF vuông tại A

$\begin{array}{l} \Rightarrow SF = \sqrt {A{F^2} + S{A^2}}  = \sqrt {{a^2} + \dfrac{{36}}{{13}}{a^2}}  = \dfrac{{7a}}{{\sqrt {13} }}\\ \Rightarrow cos\widehat {SFA} = \dfrac{{AF}}{{SF}} = \dfrac{{6a}}{{\sqrt {13} }}\dfrac{{\sqrt {13} }}{{7a}} = \dfrac{6}{7}\end{array}$

Chọn B.