Сначала раскроем скобки:

5a (a - 4b) - (a - 2b) =
5a^2 - 20ab - a + 2b

Теперь возведем все во вторую степень:

(5a^2 - 20ab - a + 2b)^2 =
(5a^2 - 20ab - a + 2b)(5a^2 - 20ab - a + 2b) =
25a^4 - 100a^3b - 5a^3 + 20a^2b - 100a^3b + 400a^2b^2 + 20a^2 - 80ab + 2ab - 80ab + 320b^2 - 5a + 20b - a + 2b =
25a^4 - 205a^3 - 5a^2 + 40ab + 400a^2b^2 + 20a^2 - 160ab + 2ab + 320b^2 - 6a + 22b

Итак, упрощенное выражение равно 25a^4 - 205a^3 - 5a^2 + 40ab + 400a^2b^2 + 20a^2 - 160ab + 2ab + 320b^2 - 6a + 22b.