3a(2a+1-4a(-a+(-a(3a-(3a(в квадрате)-5а-4)

-3а (2а +1 -4а(-а+1))   - 2а( а-(-5-а(3а-2)))  - 2а(3а²-5а-4) =
= -3а( 2а +1 +4а² -4а)  - 2а (а - (-5 -3а² +2а))  - 2а(3а² -5а -4) =
= -3а( 4а² -2а +1)   - 2а(а +5+3а² -2а) - 2а(3а² -5а-4) =
= -12а³  + 6а² -3а   - 2а(3а² - а +5)  - 2а(3а² -5а-4) =
= -12а³ + 6а² - 3а   - 6а³ +2а² -10а    - 6а³ +10а² +8а=
= (-12а³ -6а³ -6а³)  + (6а² +2а² +10а²) + (-3а -10а +8а) =
= -24а³  + 18а²  - 5а 
можно вынести общий множитель :
= -а(24а² -18а +5)