Для того чтобы вектор 2a + ab был перпендикулярен вектору b-a, их скалярное произведение должно равняться нулю.

Сначала найдем вектор b-a:
b - a = (4; 3; 0) - (1; -1; 3) = (4-1; 3+1; 0-3) = (3; 4; -3)

Теперь найдем вектор 2a + ab:
2a + ab = 2(1; -1; 3) + a(4; 3; 0) = (2; -2; 6) + (4; 3; 0) = (2+4; -2+3; 6+0) = (6; 1; 6)

Теперь найдем скалярное произведение векторов b-a и 2a + ab:
(3; 4; -3) (6; 1; 6) = 36 + 41 + (-3)6 = 18 + 4 - 18 = 4

Скалярное произведение равно 4, значит вектор 2a + ab не перпендикулярен вектору b-a при любых значениях a.