Злая мачеха,отправив падчерицу за водой,дала ей 2 кувшина ёмкость 5и3 литров.Велела принести 3 литра воды.

В общем случае, трассировка - один из отладки программ врукопашную: состояние программы контролируется на определённом отрезке времени её выполнения путём анализа значений переменных. трассировка в том или ином виде при отладке программ сложнее школьного дз практически неизбежна.
в простейшем случае, трассировка - вывод значений переменных на экран (например, в окно консоли) , либо расчёт их на бумажке для каждого шага.
в более продвинутом варианте используются точки останова, окно наблюдения, выполнение по шагам и, если есть, контекстный интерпретатор выражений.
есть также специальная "трассирующая консоль" - интерфейс вывода информации из программы в отладчик, если таковой присутствует.
почти любой современный отладчик показывает состояние програмm при её останове, что делает трассировку процессом легко доступным

Function Square(x1, y1, x2, y2, x3, y3: real): real;
begin 
    Square := abs((x2 - x1) * (y3 - y1) - (x3 - x1) * (y2 - y1)) / 2;
end;

var 
  x1, y1, x2, y2, x3, y3, s1, s2: real;

begin 
  write('Задайте первый треугольник(x1,y1,x2,y2,x3,y3): '); 
  readln(x1, y1, x2, y2, x3, y3); 
  s1 := Square(x1, y1, x2, y2, x3, y3); 
  write('Задайте второй треугольник(x1,y1,x2,y2,x3,y3): '); 
  readln(x1, y1, x2, y2, x3, y3); 
  s2 := Square(x1, y1, x2, y2, x3, y3); 
  if s1 > s2 then writeln('Площадь первого треугольника больше') 
  else if s1 < s2 then writeln('Площадь второго треугольника больше') 
  else writeln('Площади треугольников равны');
end.

p.s. проверять существуют ли такие треугольники не нужно, т.к. они уже заданы и нам нужно определить площадь большего.