Phương pháp giải:

Công thức tính thể tích khối nón $V=\frac{1}{3}\pi {{R}^{2}}h$

Trong đó: $h$ là chiều cao của hình nón

                 $R$ là bán kính đường tròn đáy.

Lời giải chi tiết:

Gọi I là tâm đường tròn nội tiếp tam giác ABC cũng là tâm đường tròn đáy của hình nón.

Gọi E là trung điểm của AC khi đó ta có: $BE=\sqrt{A{{B}^{2}}-A{{E}^{2}}}=\sqrt{100{{a}^{2}}-36{{a}^{2}}}=8a$.

$\Rightarrow {{S}_{ABC}}=\frac{1}{2}AC.BE=\frac{1}{2}.12a.8a=48{{a}^{2}}$

Ta có: $p=\frac{AB+BC+CA}{2}=16a\Rightarrow r=\frac{{{S}_{ABC}}}{p}=3a$

Dựng $IM\bot AB\Rightarrow \left\{ \begin{align}  & AB\bot IM \\  & AB\bot SI\,\,\left( SI\bot \left( ABC \right) \right) \\ \end{align} \right.\Rightarrow AB\bot (SIM)\Rightarrow AB\bot SM$

$\left. \begin{align}  & \left( SAB \right)\cap \left( ABC \right)=AB \\ & \left( SAB \right)\supset SM\bot AB \\ & \left( ABC \right)\supset IM\bot AB \\\end{align} \right\}\Rightarrow \widehat{\left( \left( SAB \right);\left( ABC \right) \right)}=\widehat{\left( SM;MI \right)}=\widehat{SMI}={{45}^{0}}$

Mặt khác ta có:

 $\begin{align}  & IM=r=3a\Rightarrow SI=IM\tan 45=3a \\  & V=\frac{1}{3}SI.\pi .{{r}^{2}}=9\pi {{a}^{3}} \\ \end{align}$

Chọn A.