Пусть скорость течения реки равна v км/ч.
Тогда скорость катера против течения равна 12 - v км/ч, а по течению - 12 + v км/ч.

Расстояние, которое катер пройдет за 5 ч против течения, равно (12 - v) 5 = 60 - 5v км.
Расстояние, которое катер пройдет за 3 ч по течению, равно (12 + v) 3 = 36 + 3v км.

Условие задачи гласит, что эти расстояния равны:
60 - 5v = 36 + 3v.

60 - 5v = 36 + 3v
60 - 36 = 3v + 5v
24 = 8v
v = 3 км/ч.

Ответ: скорость течения реки равна 3 км/ч.