если одно число - х, тогда второе будет 3-х, а так как сумма их квадратов равна 5, получится вот такое уравнение x²+(3-x)²=5 решаем

x²+9-6x+x²-5=0;  2x²-6x+4=0;  x²-3x+2=0 D=1 x1=(3+1)/2=2 и x2=(3-1)/2=1

если первое число 1, то второе 2 и наоборот. Значит, задуманные числа 1 и 2