Выбор между JavaFX и C# WPF зависит от ваших личных предпочтений и опыта работы соответствующей технологией. Обе технологии позволяют создавать функциональные и красивые пользовательские интерфейсы для математического GUI-бота.

Если у вас больше опыта работы с языком программирования Java, то, возможно, вам будет удобнее использовать JavaFX. С другой стороны, если вы предпочитаете работать с языком C# и платформой .NET, то вам стоит выбрать C# WPF.

Обе технологии имеют свои преимущества и недостатки, но обе подходят для создания математического GUI-бота. Важно также учитывать требования к производительности, возможности расширения и поддержки каждой из технологий при принятии окончательного решения.