допустим было х двухрублёвых монет и y пятирублёвых.

2х+5y=28

2x=28-5y

x=(28-5y)/2

дальше просто подставляем возможные значения для у и считаем х, но учитываем,что по смыслу задачи и х и y это натуральные числа (обязательно целые и положительные)

y=1   x=23/2 =11,5  - не может быть

y=2   x=18/2=9 (т.е. 2 пятирублёвые и 9 двухрублёвых)

y=3   х=13/2  -   не может быть

y=4     x=4 (т.е. может быть 4 пятирублёвых и 4 двухрублёвых)

y=5    x=3/2  - не может

y=6     x=-1...  дальше нет смысла проверять, будут получаться отрицательные значения

Ответ: 2 или 4