Сначала решим систему уравнений:

1) а + в + с = 5
2) ав + вс + ас = 5

Перепишем первое уравнение: с = 5 - а - в

Подставим это значение во второе уравнение:

а(5 - а - в) + в(5 - а - в) + а(5 - а - в) = 5

5а - а² - ав + 5в - в² - ав + 5а - а² - ав = 5

Теперь объединим все члены:

10а + 10в - 2а² - 2в² - 2ав = 5

Перенесем все члены в левую часть уравнения:

2а² + 2в² + 2ав - 10а - 10в + 5 = 0

Разделим уравнение на 2:

а² + в² + ав - 5а - 5в + 5/2 = 0

Теперь можем найти сумму a² + b² + c². Для этого выразим c через a и b из первого уравнения:

c = 5 - a - b

Теперь можем выразить сумму квадратов через a и b:

a² + b² + c² = a² + b² + (5 - a - b)² = a² + b² + 25 - 10a + 2ab - 10b + a² + b²

Теперь сложим все члены:

2(a² + b²) - 10(a + b) + 25

Теперь, зная что a + b = 5, подставим это значение:

2(a² + b²) - 10*5 + 25 = 2(a² + b²) - 50 + 25 = 2(a² + b²) - 25

Таким образом, сумма a² + b² + c² равна 2(a² + b²) - 25.