Для того чтобы вектор m был перпендикулярен вектору n, их скалярное произведение должно быть равно 0:

mn = (a + kb)(5a - 4b) = 0

(2 + ksqrt(3))(10 - 4*sqrt(3)) = 0

Раскроем скобки и приравняем полученное выражение к нулю:

20 - 8sqrt(3) + 10k - 4k*sqrt(3) = 0

(10k - 8sqrt(3)) - (4k*sqrt(3) + 20) = 0

10к-8sqrt(3)-4k*sqrt(3)=20

10k - 12sqrt(3) = 20

10k = 12sqrt(3) + 20

k = (12sqrt(3) + 20) / 10

k = (6sqrt(3) + 10) / 5

k = 6/5 * sqrt(3) + 2

Ответ: k = 6/5 * sqrt(3) + 2.