Зависит от того, что называть качеством, но скорее уменьшение.
Уменьшение приводит к потере информации: каждый пиксель нового изображения соответствует нескольким пикселям исходного, поэтому не может передать мелкие детали, от чего появляется размытие. В самом экстремальном случае - когда всё сжимается в один пиксель - все детали исходного изображения будут потеряны.
Увеличение приводит к тому, что в новом изображении необходимо задать цвет пикселей, которых не было на исходном рисунке. Если пользоваться наивными алгоритмами - например, просто добавлять пиксели усреднённого цвета - будет возникать размытие чётких границ, при этом градиенты будут переданы неплохо. Современные графические редакторы используют более сложные приёмы, вплоть до использования нейронных сетей для "придумывания" недостающих пикселей, поэтому качество страдает не так сильно.
