\(\left( 1 \right) \Leftrightarrow {\left( {x - 1} \right)^2} - m \le 0 \Leftrightarrow {\left( {x - 1} \right)^2} \le m\)

Do \({\left( {x - 1} \right)^2} \ge 0,\forall x\) nên để bpt trên có nghiệm thì \(m \ge 0\).

Khi đó \( - \sqrt m \le x - 1 \le \sqrt m \) \( \Leftrightarrow 1 - \sqrt m \le x \le 1 + \sqrt m \)

Tập nghiệm của \(\left( 1 \right)\) là \({S_1} = \left[ {1 - \sqrt m ;1 + \sqrt m } \right]\).

\(\left( 2 \right) \Leftrightarrow {x^2} - 2mx - x + {m^2} + m \le 0\) \( \Leftrightarrow \left( {{x^2} - 2mx + {m^2}} \right) - \left( {x - m} \right) \le 0\)

\( \Leftrightarrow {\left( {x - m} \right)^2} - \left( {x - m} \right) \le 0\) \( \Leftrightarrow \left( {x - m} \right)\left( {x - m - 1} \right) \le 0\) \( \Leftrightarrow m \le x \le m + 1\)

Tập nghiệm của \(\left( 2 \right)\) là \({S_2} = \left[ {m;m + 1} \right]\)

Để hệ đã cho có nghiệm thì \({S_1} \cap {S_2} \ne \emptyset \)

\( \Leftrightarrow \left[ {1 - \sqrt m ;1 + \sqrt m } \right] \cap \left[ {m;m + 1} \right] \ne \emptyset \,\,\left( * \right)\)

Cách 1:

\(\left( * \right) \Leftrightarrow \left\{ \begin{array}{l}m \le 1 + \sqrt m \\1 - \sqrt m \le m + 1\end{array} \right.\) \( \Leftrightarrow \left\{ \begin{array}{l}m - 1 \le \sqrt m \,\,\left( 3 \right)\\m + \sqrt m \ge 0\,\,\left( 4 \right)\end{array} \right.\)

\(\left( 3 \right) \Leftrightarrow \left[ \begin{array}{l}m - 1 < 0\\\left\{ \begin{array}{l}m - 1 \ge 0\\{m^2} - 2m + 1 \le m\end{array} \right.\end{array} \right.\) \( \Leftrightarrow \left[ \begin{array}{l}m < 1\\\left\{ \begin{array}{l}m \ge 1\\{m^2} - 3m + 1 \le 0\end{array} \right.\end{array} \right.\) \( \Leftrightarrow \left[ \begin{array}{l}m < 1\\\left\{ \begin{array}{l}m \ge 1\\\dfrac{{3 - \sqrt 5 }}{2} \le m \le \dfrac{{3 + \sqrt 5 }}{2}\end{array} \right.\end{array} \right.\) \( \Leftrightarrow \left[ \begin{array}{l}m < 1\\1 \le m \le \dfrac{{3 + \sqrt 5 }}{2}\end{array} \right.\) \( \Leftrightarrow m \le \dfrac{{3 + \sqrt 5 }}{2}\)

\(\left( 4 \right)\) luôn đúng vì \(m \ge 0\) nên \(m + \sqrt m \ge 0\).

Vậy \(0 \le m \le \dfrac{{3 + \sqrt 5 }}{2}\).