Обозначим шестиместные лодки за х, а четырехместные за у. Всего лодок было (х+у), что по условию задачи 10. В шестиместной лодке людей было 6х, а в четырехместной - 4у. Всего на лодках было (6х+4у), что по условию 46.
Система:
х+у=10
6х+4у=46
Выражаем из 1 х: 
х=10-у
Подставляем во второе уравнение системы.
6(10-у)+4у=46
60 - 6у+4у=46
2у=14
у=7
х=10-7=3
Ответ шестиместных лодок было 3, а четырех местных было 7.