Предположим, что число (a²+b²)/(ab+1) целое. Рассмотрим выражение (a²+b²)/(ab+1) в виде суммы:

(a² + b²) / (ab + 1) = k, где k - целое число.

Умножим обе части на ab + 1:

a² + b² = k(ab + 1).

Разложим левую часть на множители:

a² + b² = a² + 2ab + b² - ab = (a + b)² - ab.

Подставляем это выражение в уравнение:

(a + b)² - ab = k(ab + 1).

Раскрываем скобки:

a² + 2ab + b² - ab = k(ab + 1).

Теперь выразим ab через a+b:

(ab)² = (a + b)² - a² - b² = 2ab.

Подставляем это в уравнение:

a² + 2ab + b² - (a + b)² = k(ab + 1).

Выражаем сначала сумму квадратов:

a² + 2ab + b² - a² - 2ab - b² = k(ab + 1).

Упрощаем:

0 = k(ab + 1).

Отсюда видно, что k = 0, что противоречит условию, что k целое.

Следовательно, предположение о том, что (a²+b²)/(ab+1) целое, должно быть ложным.