Phương pháp giải:

+) Tìm điều kiện của \(a,\,\,b\) để biểu thức \(M\) xác định.

+) Quy đồng mẫu và biến đổi các biểu thức, từ đó rút gọn biểu thức đã cho.

Lời giải chi tiết:

a) Rút gọn \(M.\)

\(\begin{array}{l}M = \left( {\frac{{\sqrt a  + 1}}{{\sqrt {ab}  + 1}} + \frac{{\sqrt {ab}  + \sqrt a }}{{\sqrt {ab}  - 1}} - 1} \right):\left( {\frac{{\sqrt a  + 1}}{{\sqrt {ab}  + 1}} - \frac{{\sqrt {ab}  + \sqrt a }}{{\sqrt {ab}  - 1}} + 1} \right)\\ = \left( {\frac{{\left( {\sqrt a  + 1} \right)\left( {\sqrt {ab}  - 1} \right) + \left( {\sqrt {ab}  + \sqrt a } \right)\left( {\sqrt {ab}  + 1} \right) - \left( {\sqrt {ab}  + 1} \right)\left( {\sqrt {ab}  - 1} \right)}}{{\left( {\sqrt {ab}  + 1} \right)\left( {\sqrt {ab}  - 1} \right)}}} \right)\\\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,:\left( {\frac{{\left( {\sqrt a  + 1} \right)\left( {\sqrt {ab}  - 1} \right) - \left( {\sqrt {ab}  + \sqrt a } \right)\left( {\sqrt {ab}  + 1} \right) + \left( {\sqrt {ab}  + 1} \right)\left( {\sqrt {ab}  - 1} \right)}}{{\left( {\sqrt {ab}  + 1} \right)\left( {\sqrt {ab}  - 1} \right)}}} \right)\\ = \frac{{a\sqrt b  - \sqrt a  + \sqrt {ab}  - 1 + ab + \sqrt {ab}  + a\sqrt b  + \sqrt a  - ab + 1}}{{\left( {\sqrt {ab}  + 1} \right)\left( {\sqrt {ab}  - 1} \right)}}.\frac{{\left( {\sqrt {ab}  + 1} \right)\left( {\sqrt {ab}  - 1} \right)}}{{a\sqrt b  - \sqrt a  + \sqrt {ab}  - 1 - ab - \sqrt {ab}  - a\sqrt b  - \sqrt a  + ab - 1}}\\ = \frac{{2a\sqrt b  + 2\sqrt {ab} }}{{ - 2\sqrt a  - 2}} = \frac{{ - \sqrt {ab} \left( {\sqrt a  + 1} \right)}}{{\sqrt a  + 1}} =  - \sqrt {ab} .\end{array}\)

b. Tìm giá trị của \(M\) nếu \(a = 2 - \sqrt 3 ;\,\,\,\,b = \frac{{\sqrt 3  - 1}}{{1 + \sqrt 3 }}.\)

\(a = 2 - \sqrt 3 ;\,\,\,\,b = \frac{{\sqrt 3  - 1}}{{1 + \sqrt 3 }} = \frac{{{{\left( {\sqrt 3  - 1} \right)}^2}}}{{\left( {\sqrt 3  + 1} \right)\left( {\sqrt 3  - 1} \right)}} = 2 - \sqrt 3 \)

Khi đó ta có:  \(M =  - \sqrt {{{\left( {2 - \sqrt 3 } \right)}^2}}  =  - \left| {2 - \sqrt 3 } \right| =  - 2 + \sqrt 3 .\)