Если бы было 10 кошек, то скормили бы только 5*10=50 галет.

56-50=6 галет - "лишних", они достались собакам, так как собаки получали на 1 галету больше, то собак было 6, а кошек 10-6=4.

Ответ: всего было 6 собак и 4 кошки.