Упростим:

(2 * b + b^2)^2 + b^2 * (5 - b) * (5 + b) - 4 * b * (b^2 - 3);

Применим формулы сокращенного умножения.

4 * b^2 + 4 * b^3 + b^4 + b^2 * (25 - b^2) - 4 * b^3 + 12 * b;

4 * b^2 + b^4 + 25 * b^2 - b^4 + 12 * b;

4 * b^2 + 25 * b^2 + 12 * b;

29 * b^2 + 12 * b.