Для раскрытия скобок нужно умножить каждый член внутри скобок на каждый член второй скобки и сложить полученные произведения.

(xh + xf + 1)² + (xf + 1)² + hf + f² =
= xh xh + xh xf + xh 1 + xf xh + xf xf + xf 1 + 1 xh + 1 xf + 1 1 + xf xf + 2 xf + 1 + hf + f² =
= x²h² + 2x²hf + x²f² + 2xf + f² + hf + f*f