а) a²b²*(a²+3ab-b²)

Раскроем скобки:
a²b² a² = a^4b²
a²b² 3ab = 3a³b³
a²b² * -b² = -a²b^4

Теперь сложим полученные результаты:
a^4b^2 + 3a^3b^3 - a^2b^4

б) -m(m-2) + 5m²(1-3m)

Раскроем скобки:
-m m = -m^2
-m -2 = 2m

5m² 1 = 5m²
5m² -3m = -15m^3

Теперь сложим полученные результаты:
-m^2 + 2m + 5m² - 15m^3

Ответ:
a) a^4b^2 + 3a^3b^3 - a^2b^4
б) -m^2 + 2m + 5m² - 15m^3