Обозначим количество окуней, пойманных Колей за К, Петей за П и Вовой за В.

Тогда у нас есть два уравнения:
1) К = (1/3)П
2) К = (1/5)В
3) К + П + В = 63

Заменим значение К из первого и второго уравнений в третье:
(1/3)П + П + (1/5)В = 63
Умножим обе части уравнения на 15:
5П + 15П + 3В = 945
20П + 3В = 945

Теперь подставим значения П и В из возможных комбинаций чисел:
1) П = 15, В = 75
2) П = 30, В = 60
3) П = 45, В = 45
4) П = 60, В = 30
5) П = 75, В = 15

Только комбинация 45, 45 удовлетворяет условию, поэтому Петя и Вова поймали по 45 окуней, а Коля - 15 окуней.