
Используем теорему Виета:

Рассмотрим функцию 
Графиком данной функции является парабола. Так как коэффициент перед квадратом положительный, то у параболы ветви направленны вверх, следовательно наименьшее значение функции будет в вершине.
ищем координаты вершины:

В итоге, при a=-3 сумма квадратов корней уравнения будет наименьшей.
ответ: -3