Если в условии нет ошибок, то можно допустить такое решение:

х - первое число;

у - второе число,

по условию  разность их квадратов 15, получаем уравнение:

х² - у² = 15

(х-у)·(х+у)=15

1)  (х-у)·(х+у)=3·5

 {х-у=3

{x+y=5

Сложим

х-у+x+y=3+5

2х=8

х=8:2

х=4

у=5-4=1

х=4;  у=1  - первый ответ.

2)  (х-у)·(х+у)=1 · 15

 {х-у=1

{x+y=15

Сложим

х-у+x+y=1+15

2х=16

х=16:2

х=8

у=8-1=7

х=8;  у=7  - второй ответ.