Phương pháp giải:

Tham số hóa điểmC, C’.

Lập thể tích cần tìm theo m.

Tìm giá trị lớn nhất của thể tích.

Lời giải chi tiết:

ABCD là hình chữ nhật nên $C\left( {m;m;0} \right)$.

$CC'//AA' \Rightarrow C'\left( {m;m;\frac{n}{2}} \right)$

$\begin{array}{l}\overrightarrow {A'B}  = \left( {m;0; - n} \right),\overrightarrow {A'D}  = \left( {0;m; - n} \right)\\\overrightarrow {A'M}  = \left( {m;m; - \frac{n}{2}} \right)\\ \Rightarrow \left[ {\overrightarrow {A'B} ,\overrightarrow {A'D} } \right] = \left( {mn;mn;{m^2}} \right)\\ =  > V = \frac{1}{4}{m^2}n = \frac{1}{4}{m^2}\left( {5 - m} \right)\\ =  - \frac{1}{4}{m^3} + \frac{5}{4}{m^2} = f\left( m \right)\end{array}$

$\begin{array}{l}f'\left( m \right) =  - \frac{3}{4}{m^2} + \frac{5}{2}m = 0\\ \Leftrightarrow \left[ \begin{array}{l}m = 0\left( L \right)\\m = \frac{{10}}{3}\left( {TM} \right)\end{array} \right.\end{array}$

Bảng biến thiên:

$\Rightarrow V = f{\left( m \right)_{\max }} = f\left( {\frac{{10}}{3}} \right) = \frac{{125}}{{27}}$