0,66(6) означает, что 6 повторяется бесконечно. То есть это 0,666666....

По факту это 2/3

0,66(6) * (1-0,1) = 0,66(6) - 0,06(6) = 0,6

0,9*0,66(6) = 0,6

0,66(6) = 0,6 / 0,9 = 2/3