пусть х стоит тетрадь, книга  стоит 5х , известно, что за неё заплатилина 80 руб больше, составим и решим уравнение:
5х-х=80
4х=80
х=20 (руб.)
5х=5*20=100 (руб.)
3*20+2*100=260 (руб.) - заплатили всего

----------------------------------------------------------- 

5-1=4 части которые на 80 руб. больше

80:4=20 руб. цена одной части или цена тетради

5*20=100 руб. цена одной книги

3*20=60 руб. стоимость 3 тетрадей

2*100=200 руб. стоимость 2 книг

60+200=260 руб. стоят 3 тетради и 2 книги