Для начала найдем длины сторон треугольника.

AB = √[(6 - 5)^2 + (-5 - (-3))^2] = √[1 + 4] = √5
BC = √[(6 - 5)^2 + (-5 - (-5))^2] = 1
AC = √[(5 - 6)^2 + (-3 - (-5))^2] = √[1 + 4] = √5

Теперь найдем полупериметр треугольника:
p = (AB + BC + AC)/2
p = (√5 + 1 + √5)/2
p = (2√5 + 1)/2

Далее найдем радиус описанной окружности по формуле:
R = ABC/(4S), где ABC - произведение длин сторон треугольника, S - площадь треугольника

S = √[p (p - AB) (p - BC) (p - AC)] = √[((2√5 + 1)/2) ((2√5 + 1)/2 - √5) ((2√5 + 1)/2 - 1) ((2√5 + 1)/2 - √5)]
S = √[(2√5 + 1)/2 (2√5 - 1)/2 1/2 1/2] = √[(4 5 - 1)/4 * 1/4] = √[19/16]

ABC = AB BC AC = √5 1 √5 = 5
R = 5/(4 √[19/16]) = 5/(4 √19/4) = 5/(√19) = 5√19/19

Итак, радиус окружности, описанной вокруг прямоугольного треугольника с вершинами в точках А(5; -3) и В(6; -5), равен 5√19/19.