В математическом языке - составное предложение, главное и дополнительное. В главном предложении "В математическом языке есть свой алфавит." в качестве сказуемого выступает глагол "есть", подлежащим является существительное "алфавит", определением к сказуемому выступает частица "свой", выраженная в существительной форме.