Phương pháp giải:

Tính số phần tử của không gian mẫu.

Gọi A là biến cố: “3 quyển được lấy ra có ít nhất một quyển sách là toán”, suy ra \(\overline{A}:\) “3 quyển sách lấy ra không có quyển sách toán”.

Tính số kết quả thuận lợi cho biến cố \(\overline{A}\Rightarrow \left| A \right|=\left| \Omega  \right|-\left| \overline{A} \right|.\)

Suy ra xác suất của biến cố A: \(P\left( A \right)=\frac{\left| A \right|}{\left| \Omega  \right|}.\) 

Lời giải chi tiết:

Số cách lấy ba quyển sách bất kì là \(C_{9}^{3}=84\Rightarrow \left| \Omega  \right|=84\)

Gọi A là biến cố: “3 quyển được lấy ra có ít nhất một quyển sách là toán”, suy ra \(\overline{A}:\) “3 quyển sách lấy ra không có quyển sách toán” \(\Rightarrow \left| \overline{A} \right|=C_{5}^{3}=10\Rightarrow \left| A \right|=84-10=74\)

\(\Rightarrow P\left( A \right)=\frac{\left| A \right|}{\left| \Omega  \right|}=\frac{74}{84}=\frac{37}{42}.\)

Chọn C.