Для удобства восприятия воспользуемся символами:
a = $5x^2/x-3$^2
b = $x^2-6x+9$ / 5x^2

Теперь подставим a и b в выражение:

a • b - x^2 = $(5x^2/x-3{)}^2$ • $(x^2-6x+9)/5x^2$ - x^2

Раскроем скобки сначала в a, а затем в b:

a = $5x^2/x-3$^2 = $(5x-3x)/x$^2 = $2x$^2 = 4x^2

b = $x^2+6x+9$ / 5x^2 = $x+3$^2 / $5x$^2 = $x+3$^2 / 25x^2

Теперь подставим полученные значения обратно в выражение:

$4x^2$ • $(x+3{)}^2/25x^2$ - x^2

Упростим дробь:

$4x^2•(x+3{)}^2$ / 25x^2 - x^2

Раскроем скобки:

$4x^2•(x^2+6x+9)$ / 25x^2 - x^2

4x^4 + 24x^3 + 36x^2 / 25x^2 - x^2

Упростим дробь:

$4x^4+24x^3+36x^2-25x^4$ / 25x^2

-x^4 + 24x^3 + 36x^2 / 25x^2

Таким образом, результат выражения равен:

-x^4 + 24x^3 + 36x^2 / 25x^2