Для нахождения косинуса меньшего угла треугольника АВС воспользуемся формулой косинуса:

cos(α) = (b^2 + c^2 - a^2) / 2bc,

где α - угол напротив стороны а, а b и c - длины сторон треугольника.

Для нашего треугольника АВС:
a = |BC| = √((x_C - x_B)^2 + (y_C - y_B)^2) = √((12 - 5)^2 + (-2 + 7)^2) = √(49 + 25) = √74,
b = |AC| = √((x_C - x_A)^2 + (y_C - y_A)^2) = √((12 - 4)^2 + (-2 - 0)^2) = √(64 + 4) = √68,
c = |AB| = √((x_B - x_A)^2 + (y_B - y_A)^2) = √((5 - 4)^2 + (-7 - 0)^2) = √(1 + 49) = √50.

Подставляем значения в формулу для косинуса:
cos(α) = (68 + 50 - 74) / (2 √68 √50) = 44 / (2 √3400) = 44 / (2 58.309) = 0.377.

Ответ: cos(α) ≈ 0.377.