Да, можно вычитать числа разного вида, в том числе целые числа и корни.
Для того чтобы вычесть 5 - √10, сначала вычтем целую часть:

5 - 0 = 5

Теперь вычтем корни:

√10 ≈ 3.16

5 - 3.16 ≈ 1.84

Итак, 5 - √10 ≈ 1.84