Сначала найдем это квадратное число, представим его в виде произведения простых чисел: a^2 = p1^k1 p2^k2 p3^k3 * ...
где все p - простые числа, k - степени.

Так как произведение трех чисел, меньшее из которых 40, равно квадрату натурального числа, то самое большое из них - квадратный корень этого произведения.
Разложим это произведение на простые множители и возьмем из них квадратный корень.

40 p1^k1 p2^k2 p3^k3 ... = x^2
8 5 p1^k1 p2^k2 p3^k3 * ... = x^2

Теперь разложим все на простые множители:
8 = 2^3
5 = 5
X = 3 5 p1^k1 p2^k2 p3^k3 * ...

x = 2 5 p1^k1 p2^k2 p3^k3 * ...

x = 10 p1^k1 p2^k2 p3^k3 ...

Таким образом, минимальное значение самого большого из выписанных чисел равно 10.