Для начала найдем векторное произведение векторов a и b:
a x b = det(i, j, k; 0, 2, -1; -1, 2, -3) = i(2(-3) - (-1)2) - j(0(-3) - (-1)(-1)) + k(02 - 2*(-1))
a x b = 4i + j + 2k

Теперь найдем координаты вектора c, перпендикулярного к векторам a и b:
c = λ(a x b) = λ(4i + j + 2k), где λ - коэффициент

Так как вектор c образует тупой угол с осью OY, то его проекция на ось OY должна быть отрицательной:
c = (-λ)j

Также, из условия |c| = sqrt(7) мы получаем:
|-λ| = sqrt(7)
λ = -sqrt(7)

Таким образом, координаты вектора c равны:
c = -sqrt(7)(4i + j + 2k)
c = -4sqrt(7)i - sqrt(7)j - 2sqrt(7)k

Проверим, образует ли вектор c тупой угол с осью OY:
cos(угол) = (c • OY) / |c||OY|
cos(угол) = 0 / √(7)1
cos(угол) = 0

Угол между вектором c и осью OY равен 90 градусов, т.е. c действительно перпендикулярен к оси OY.