Утверждение «если матрица $A$ умножается на матрицу $B$, и $AB=0$, то либо $A=0$, либо $B=0$» в общем неверно. Недочёты: в типичных «доказательствах» делают неявный шаг «сократить» или «разделить на $A$», то есть предполагают обратимость $A$ (или $B$); для матриц это допустимо только при соответствующей обратимости (или полном ранге).
Контрпример (прямой): пусть
$$A=\left(\begin{array}{cc}1& 0\\ 0& 0\end{array}\right),B=\left(\begin{array}{cc}0& 0\\ 1& 0\end{array}\right).$$ Тогда $A\ne 0$, $B\ne 0$, но
$$AB=\left(\begin{array}{cc}1& 0\\ 0& 0\end{array}\right)\left(\begin{array}{cc}0& 0\\ 1& 0\end{array}\right)=\left(\begin{array}{cc}0& 0\\ 0& 0\end{array}\right).$$
Корректные утверждения (теоремы) и доказательства (кратко):
Пусть $A$ — матрица размера $m\times n$, $B$ — матрица размера $n\times p$ над полем. Тогда из $AB=0$ следует $\mathrm{Im}(B)\subseteq \ker (A)$ (композиция линейных отображений равна нулю).
1) Если $\ker (A)=\{0\}$ (эквивалентно $\mathrm{rank}A=n$, то есть $A$ имеет полные столбцы/инъективна), то из $\mathrm{Im}(B)\subseteq \{0\}$ следует $\mathrm{Im}(B)=\{0\}$, значит $B=0$.
2) Если $\mathrm{Im}(B)={\mathbb{F}}^n$ (то есть $\mathrm{rank}B=n$, $B$ сюръективна или имеет полные строки), то $\ker (A)={\mathbb{F}}^n$, значит $A=0$.
Частные случаи: если $A$ квадратна и обратима, то из $AB=0$ получаем $B=0$ (левая отмена через $A^{-1}$). Если $B$ обратима, то $A=0$.
Комментарий: для матриц размера $\ge 2$ над полем обычно существуют «делители нуля» (неzero матрицы с нулевым произведением), поэтому исходное универсальное утверждение неверно.