Уравнения движения x1=5-2t+t^2 x2=5-t+2t^2
Vx=?

Честно говоря, маловато данных для решения задачи.
Если брать классическую молекулярно-кинетическую теорию и термодинамику, то очевидно, что работа по модулю будет равна 200 дж. (Q = 500 Дж, U = 300 Дж, А = Q - U = 500 Дж - 300 Дж = + или - 200 Дж) .
В вопросе ничего не сказано о возможности диссипации энергии (система неизолирована) , вэ том случае необходимы дополнительные условия ля решения задачи и расчета оттока энергии на потери. Тогда в общем случае работа совершенная газом может быть и не равна 200 Дж.
Если в задаче речь идет о сильно неравновесной системе, то это задача вообще может иметь несколько решений, реализующихся с различной вероятностью.

1. Второй закон ньютона в жидкости выглядит так:

Здесь ma = 0 т.к. грузик находится в равновесии в воде (его держит динамометр); T - сила, с которой динамометр действует на грузик (по третьему закону ньютона равна силе, с которой груз растягивает пружину).
2. Составим уравнения для воздуха, воды и неизвестной жидкости:



Здесь x - плотность неизвестной жидкости, р = 1000 кг/м³ - плотность воды. T1= 11 Н,  T2 = 10 Н, T3 = 9,5 Н

В этих уравнения три неизвестных: m - масса грузика; V - его объём; x - плотность жидкости.
Массу и объём выразим из первых двух уравнений.
Вычтем из первого второе уравнение:


Из первого уравнения очевидно:

Подставляем результаты в третье:

Выражаем x:

Подставляем циферки и имеем: x = 1500 кг/м³