ответ
(-3+b)^2
Объяснение
не уверен,но похоже в условии ошибка.Скорее всего в конце (b-a),если это так,то ответ выше.
Если все правильно в условии,то ответ такой:
-27+b^2-2ab+12a
