√(х²-6х+9) - так что-ли?

Выделяй полный квадрат под корнем, и все...

√(х²-6х+9)=√(х-3)²=|х-3|.

Отсюда ответ:

х-3 при х∈[3;+∞);

3-x при х∈(-∞;3].