Для преобразования данного выражения раскроем скобки и упростим:

(x-8)^2 - 2x*(6-x)

(x-8)(x-8) - 2x(6-x)

= xx - 8x - 8x + 64 - 2x6 + 2x*x

= x^2 - 16x + 64 - 12x + 2x^2

= 3x^2 - 28x + 64

Таким образом, после преобразования выражения (x-8)^2 - 2x*(6-x) получим 3x^2 - 28x + 64.