Да, существует. Примером такого четырёхугольника может быть ромб, у которого все стороны равны, но углы не прямые. Диагонали ромба будут равными и перпендикулярными, но сам четырёхугольник не будет прямоугольным.