У нас есть системка, состоящая из x+y=25 и  5x+20y=245, где x-кол-во купюр по 5 руб. , y-20 руб. соответственно. Решаем их и получаем x=17, y=8

17 банкнот по 5 рублей и 8 банкнот по 20 рублей
8 * 20 = 160 рублей
17 * 5 = 85 рублей
160 +85 = 245 рублей
17 + 8 = 25 банкнот