Для начала найдем радиус окружности, проведем медиану AD из вершины A к стороне BC. Так как треугольник ABC равносторонний, то медиана AD является высотой и также является медианой к стороне BC, то есть перпендикулярна BC. Медиана AD также является радиусом окружности, проходящей через точку O.

Найдем высоту треугольника ABC, используя формулу для высоты в равностороннем треугольнике: h = (a√3)/2, где a = 5. Таким образом, h = (5√3)/2.

Теперь найдем радиус окружности, проведя медиану AD к стороне BC. Медиана AD является высотой треугольника и также радиусом окружности. Так как треугольник вписанный в окружность, то радиус окружности будет равен половине высоты: r = h/2 = (5*√3)/4.

Теперь найдем площадь треугольника AOC. Так как треугольник является прямоугольным, то его площадь равна S = (1/2)ACr = (1/2)6(5√3)/4 = 15√3/2.

Итак, площадь треугольника AOC равна 15√3/2.