Выражение под корнем должно быть неотрицательным, то есть:

5х^2 - 6х + 1 >= 0

Далее найдем корни уравнения квадратного трехчлена:

D = (-6)^2 - 451 = 36 - 20 = 16

x1,2 = (6 +/- √16)/(2*5) = (6 +/- 4)/10

x1 = 10/10 = 1

x2 = 2/10 = 0.2

Таким образом, выражение √5х^2-6х+1 имеет смысл при значениях x из интервала (0.2, 1).