Для доказательства данного тождества, рассмотрим левую и правую части уравнения:

Левая часть: $a+b$^2 - 2ab + a^2 - n^2

Раскроем скобки в квадрате суммы:
= a^2 + 2ab + b^2 - 2ab + a^2 - n^2
= 2a^2 + b^2 - n^2

Правая часть: a*2a = 2a^2

Таким образом, левая и правая части уравнения не совпадают. Доказать данное тождество невозможно.