Обычно двоеточие перед системой уравнений ставится, чтобы обозначить, что следующие строки являются самой системой уравнений. Например:

[ \begin{cases}
2x + y = 5 \
x - 3y = 8
\end{cases} ]

В этом случае двоеточие перед системой уравнений показывает, что у нас есть два уравнения, которые решаются одновременно.