Из условия задачи имеем:
cos угла А = AC / AB = 12 / AB
cos угла ACB = VC / AB

Из тригонометрических формул следует:
cos угла ACB = cos(угла А - угла ACB) = cos угла А cos угла ACB + sin угла А sin угла ACB

Подставляем известные значения:
0.3 = 0.6 VC / AB + 0.8 sqrt(1 - (VC / AB)^2)

Учитывая, что AB = 12 / cos угла А, получаем:
0.3 = 0.6 VC / 12 + 0.8 sqrt(1 - (VC / 12)^2)
0.3 = 0.05 VC + 0.8 sqrt(1 - (VC / 12)^2)

Далее решаем это уравнение численно или методом подбора, чтобы найти значение VC.