Phương pháp giải:

Tính số phần tử của không gian mẫu.

Gọi A là biến cố: “3 quyển được lấy ra có ít nhất một quyển sách là toán”, suy ra $\overline{A}:$ “3 quyển sách lấy ra không có quyển sách toán”.

Tính số kết quả thuận lợi cho biến cố $\overline{A}\Rightarrow \left| A \right|=\left| \Omega  \right|-\left| \overline{A} \right|.$

Suy ra xác suất của biến cố A: $P\left( A \right)=\frac{\left| A \right|}{\left| \Omega  \right|}.$ 

Lời giải chi tiết:

Số cách lấy ba quyển sách bất kì là $C_{9}^{3}=84\Rightarrow \left| \Omega  \right|=84$

Gọi A là biến cố: “3 quyển được lấy ra có ít nhất một quyển sách là toán”, suy ra $\overline{A}:$ “3 quyển sách lấy ra không có quyển sách toán” $\Rightarrow \left| \overline{A} \right|=C_{5}^{3}=10\Rightarrow \left| A \right|=84-10=74$

$\Rightarrow P\left( A \right)=\frac{\left| A \right|}{\left| \Omega  \right|}=\frac{74}{84}=\frac{37}{42}.$

Chọn C.