Условие: квадрат суммы равен $C$: $(A+B{)}^2=C$.
Решение: извлекаем корень:
$$A+B=\pm \sqrt{C}.$$ Отсюда общее выражение для $B$:
$$B=\pm \sqrt{C}-A.$$
Если нужно, чтобы было $5$ (то есть $C=5$), то
$$A+B=\pm \sqrt{5},B=\pm \sqrt{5}-A.$$ Примеры: $A=B=\frac{\sqrt{5}}{2}$ или $A=1,B=\sqrt{5}-1$.
Замечания: целых или рациональных решений при $C=5$ нет, так как $\sqrt{5}$ иррационально, а сумма рациональных чисел рациональна.