Для того чтобы векторы AB и AC были перпендикулярны, их скалярное произведение должно быть равно нулю.

Вектор AB = B - A = (α+5; -2-3; 0+1) = (α+5; -5; 1)
Вектор AC = C - A = (6+5; 4-3; 1+1) = (11; 1; 2)

Теперь найдем скалярное произведение векторов AB и AC:
(α+5)11 + (-5)1 + 1*2 = 0

11α + 55 - 5 + 2 = 0
11α + 52 = 0

11α = -52
α = -52/11

При значении α = -52/11 векторы AB и AC будут перпендикулярны.