Кратко: неверный шаг — деление на $A$ (или умножение на $A^{-1}$). Из $A^2=0$ следует, что $A$ сингулярна, поэтому обратной матрицы обычно не существует.
Типичная неверная «доказательная» схема и её ошибка:
- Ошибка: из $A^2=0$ делают вывод $A=A\cdot I=A\cdot (A\cdot A^{-1})=(A\cdot A)\cdot A^{-1}=0\cdot A^{-1}=0$.
- Почему это неверно: шаг «ввести $A^{-1}$» допускает существование обратной матрицы. Но из $A^2=0$ следует $\det (A{)}^2=\det (A^2)=\det (0)=0$, значит $\det (A)=0$ и $A$ не обратима. Потому деление на $A$ недопустимо.
Контрпримеры (нетривиальные матрицы с $A^2=0$):
1) Простая $2\times 2$:
$$A=\left(\begin{array}{cc}0& 1\\ 0& 0\end{array}\right),A^2=\left(\begin{array}{cc}0& 1\\ 0& 0\end{array}\right)\left(\begin{array}{cc}0& 1\\ 0& 0\end{array}\right)=\left(\begin{array}{cc}0& 0\\ 0& 0\end{array}\right).$$
2) Общий способ: пусть $u,v$ — столбцовые векторы, причём $v^{T}u=0$. Тогда
$$A=u{v}^T\Rightarrow A^2=u(v^{T}u)v^T=u\cdot 0\cdot v^T=0,$$ и при этом обычно $A\ne 0$ (например, $u=e_1,v=e_2$ даёт матрицу $E_{12}$ из примера 1).
Вывод: утверждение «из $A^2=0$ следует $A=0$» ложно; неверный шаг — использование обратимости $A$, которой нет.