Для удобства сразу заменю все дроби на десятичные 

1/5 =0,2

3/10=0,3

3/4= 0,75

Пусть вся книга Х страниц.....

Первый день прочитано 0,2х +16 

остаток после прочитанного за день  х-(0,2х+16)=0,8х-16

Второй день прочитано 0,3(0,8х-16)+20 = 0,24х-4,8+20

остаток после прочитанного за два дня (0,8х-16)-(0,24х-4,8+20)=0,56х-31,2

Третий день прочитано 0,75(0,56х-31,2)+30=0,42х+6,6

Итого Х= (0,2х+16) + (0,24х-4,8+20) + (0,42х+6,6)

Х=270 стр.