Число 11 простое значит у него есть всего 2 делителя, а значит и 2 целых значения x при которых значение выражения целое: 11 и 1. x-3=11 => x=14, x-3=1 => x=4. Подставляем находим значение выражения.