16ab - 2(-4a - b)²

Первым делаем раскрытие скобок внутри второго слагаемого:
16ab - 2((4a + b)(4a + b))

Раскрываем скобки внутри скобок:
16ab - 2(16a² + 8ab + b²)

Умножаем коэффициент -2 на каждый элемент внутри скобок:
16ab - 32a² - 16ab - 2b²

Теперь выражение преобразуется:
16ab - 32a² - 16ab - 2b²

16ab - 16ab они компенсируют друг друга:

Таким образом, ответ: -32a² - 2b².