Пусть сторона квадрата равна $a$. Возьмём координаты $A=(0,0),B=(a,0),C=(a,a),D=(0,a)$. Тогда $P=(x,0)$, $Q=(a-x,a)$ при $0\le x\le a$.
Длины:
$$PB=a-x,BQ=\sqrt{(a-(a-x){)}^2+(0-a{)}^2}=\sqrt{x^2+a^2}.$$ Суммарная длина
$$L(x)=PB+BQ=a-x+\sqrt{a^2+x^2}.$$ Производная
$$L^{\prime }(x)=-1+\frac{x}{\sqrt{a^2+x^2}}<0\text{для всех}0\le x\le a,$$ поскольку $\frac{x}{\sqrt{a^2+x^2}}<1$. Значит $L$ монотонно убывает на отрезке, минимум достигается при $x=a$.
Итог: оптимальное положение — $x=a$ (т.е. $P=B,Q=D$), минимальная длина
$$L_{\min }=a\sqrt{2}.$$ (При выборе стороны $a=1$ получается $x=1$ и $L_{\min }=\sqrt{2}$.)