Ответ:

Осталось 37 плиток.

1) Если укладывать в ряд по 7 плиток, то для квадратной

площадки плиток не хватит, значит плиток меньше 49.

2)При укладывании по 5 плиток в ряд остаётся один неполный ряд, значит больше 25 плюс 1-4 плиток

3) при  укладывании по 6 плиток тоже остаётся неполный ряд, в котором на 3 плиток меньше, чем в неполном  ряду при укладывании по 5,значит 36 плиток плюс 1 (тут допускаем что  при укладывании по 5 осталось 4 плитки в неполном ряду 4-3=1)

как то так...надеюсь, что верно...можно через деление с остатком попробовать....