Обозначим собственную скорость катера как V, время движения по течению реки как t1 и время движения против течения реки как t2.

Так как скорость течения реки равна 5 км/ч, то скорость катера по течению будет V+5 км/ч, а против течения V-5 км/ч.

Составим систему уравнений на основании условий задачи:

28 = (V+5)t1
12 = (V-5)t2
t1 + t2 = 5

Решим данную систему уравнений.

Из первого уравнения получаем, что t1 = 28/(V+5), из второго - что t2 = 12/(V-5). Подставим найденные значения t1 и t2 в третье уравнение:

28/(V+5) + 12/(V-5) = 5
Умножим обе части уравнения на (V+5)(V-5) для избавления от знаменателей:
28(V-5) + 12(V+5) = 5(V+5)(V-5)
28V - 140 + 12V + 60 = 5(V^2 - 25)
40V - 80 = 5V^2 - 125
5V^2 - 40V - 45 = 0

Решив квадратное уравнение получаем V1=-5 км/ч (не подходит), V2=9 км/ч.

Итак, собственная скорость катера равна 9 км/ч.