Сначала переведем 40 в двоичную для этого будем делить пока не останется единица  

 40 /2

-40 ---20/2

   0     -20---10/2

             0    -10---5/2

                       0   -4---2/2

                              1   -2---1

                                     0

После этого с правой стороны получаем число по остаткам от деления

Получилось число  101000 в двоичной системе 

52 так легко не перервести, поэтому сначала переведем в десятичную,а

для этого будем умножать 

2*8(0)степени+5*2(1)степени=2+40=42(в десятичной)    

Теперь опять в двоичную переводим

 42/2

-42---21/2

   0   -20 ---10/2

           1    -10---5/2

                    0   -4---2/2

                           1   -2 ---1

                                  0

Получилось 101010

А теперь сравниваем с  ответами : подходит 3) 101000<101001<101010