Для начала подставим значение а=√5+3 в выражение:

а^2 - 2а√5 - 3 = (√5+3)^2 - 2(√5+3)√5 - 3

Раскроем квадрат:

(√5+3)^2 = (√5)^2 + 2(√5)(3) + (3)^2 = 5 + 2√15 + 9 = 14 + 2√15

Теперь подставим это значение в выражение:

14 + 2√15 - 2(√5+3)√5 - 3 = 14 + 2√15 - 2(√5√5) - 23√5 - 3 = 14 + 2√15 - 2*5 - 6√5 - 3 = 14 + 2√15 - 10 - 6√5 - 3 = 1 - 4√5

Итак, значение выражения а^2 - 2а√5 - 3 при а=√5+3 равно 1 - 4√5.