Phương pháp giải:

Sử dụng phương pháp tích phân từng phần. Đặt:

$\begin{array}{l}u = x - 1,dv = \cos xdx\\\int\limits_a^b {udv}  = \left. {\left( {uv} \right)} \right|_a^b - \int\limits_a^b {vdu} \end{array}$

Lời giải chi tiết:

$\begin{array}{l}\int_0^{\frac{\pi }{2}} {(x - 1)} \cos xdx = \int\limits_0^{\frac{\pi }{2}} {\left( {x - 1} \right)d\left( {\sin x} \right)} \\ = \left. {\left[ {\left( {x - 1} \right)\sin x} \right]} \right|_0^{\frac{\pi }{2}} - \int\limits_0^{\frac{\pi }{2}} {\sin xdx} \\ = \frac{\pi }{2} - 1 - 1 = \frac{{\pi  - 4}}{2} \Rightarrow a = 4,b = 2\\ \Rightarrow {a^2} + b = 20\end{array}$