Обозначим скорость катера $V$ км/ч. Тогда скорость катера против течения реки будет равна $V-3$ км/ч, а по течению - $V+3$ км/ч.

Рассмотрим первый участок пути, когда катер проходит 12 км против течения реки. Время на этот участок пути равно:

$$t_1=\frac{12}{V-3}$$

Рассмотрим второй участок пути, когда катер проходит 5 км по течению реки. Время на этот участок пути равно:

$$t_2=\frac{5}{V+3}$$

Так как оба участка пути заняли столько же времени, сколько катер бы потратил на преодоление расстояния 18 км по озеру, то:

$$t_1+t_2=\frac{12}{V-3}+\frac{5}{V+3}=\frac{18}{V}$$

Умножаем уравнение на $V(V-3)(V+3)$ и получаем:

$$18V(V+3)+5V(V-3)=12V(V-3)(V+3)$$

$$18V^2+54V+5V^2-15V=12V^3-36V^2$$

$$23V^2+39V=12V^3$$

$$12V^3-23V^2-39V=0$$

$$V(12V^2-23V-39)=0$$

$$V=0$$ (т.к. ( V > 0 )) либо

$$12V^2-23V-39=0$$

Решив квадратное уровнение, находим два корня: $V_1\approx 3,36$ и $V_2\approx -2,61$. Т.к. скорость не может быть отрицательной, то собственная скорость катера равна приближенно 3,36 км/ч.