Phương pháp giải:

Sử dụng công thức \(\sin 3a=3\sin a-4{{\sin }^{3}}a,\,\,\cos 3a=4{{\cos }^{3}}a-3\cos a\).

Lời giải chi tiết:

\(\eqalign{
& P = {{{{\sin }^2}3a} \over {{{\sin }^2}a}} - {{c{\rm{o}}{{\rm{s}}^{\rm{2}}}3a} \over {c{\rm{o}}{{\rm{s}}^{\rm{2}}}a}} \cr
& = {\left( {{{3\sin a - 4{{\sin }^3}a} \over {\sin a}}} \right)^2} - {\left( {{{4{{\cos }^3}a - 3\cos a} \over {\cos a}}} \right)^2} \cr
& = {\left( {3 - 4{{\sin }^2}a} \right)^2} - {\left( {4{{\cos }^2}a - 3} \right)^2} \cr
& = \left( {3 - 4{{\sin }^2}a - 4{{\cos }^2}a + 3} \right)\left( {3 - 4{{\sin }^2}a + 4{{\cos }^2}a - 3} \right) \cr
& = 4\left( {6 - 4\left( {{{\sin }^2}a + {{\cos }^2}a} \right)} \right)\left( {{{\cos }^2}a - {{\sin }^2}a} \right) \cr
& = 4\left( {6 - 4} \right)\cos 2a = 8\cos 2a \cr} \)

Chọn A.