Для этого нужно раскрыть скобки.

(а-b)(2a-b) = а2а - аb - b2а + bb
= 2а^2 - аb - 2ab + b^2
= 2а^2 - 3ab + b^2

Итак, итоговый многочлен равен 2а^2 - 3ab + b^2.