Так
сократите выражение
формулы !
10 класс ​

b2 = ac                        (1)2b = a+c-4                  (2)(b-1)2 = a(c-5)            (3)Из (3):   b2 -2b +1 = ac - 5a            ac -a - c + 4 + 1 = ac - 5a             4a + 5 = c       Подставим с в (1) и (2):{b2 = a(4a+5)                {b2 = 4a2 + 5a      (4){2b = a+4a+5-4              {2b = 5a + 1      -->    b = (5a+1)/2    Подставим b в (4):(4):       (5а+1)2 /4 = 4а2 + 5а              25a2 + 10a + 1 = 16a2 + 20a               9a2 - 10a + 1 = 0               D=64           a = 1   либо     а=1/91) а=1,   b=3,   c=9.2) a=1/9,   b= (5/9 +1)/2 = 7/9          c= 4*1/9 +5 = 49/9         

Было х руб, за 1 игрушку он заплатил x/5 руб, осталось 4x/5.
За 2 игрушку 3/7*4x/5 = 12x/35 руб, осталось
4x/5 - 12x/35 = 16x/35.
За 3 игрушку 3/5*16x/35 = 48x/175 руб, осталось
16x/35 - 48x/175 = 32x/175 = 1,92 руб.
x = 1,92*175/32 = 10,5 руб.
1 игрушка стоила 10,5/5 = 2,1 руб, осталось 10,5 - 2,1 = 8,4 руб.
2 игрушка стоила 8,4*3/7 = 3,6 руб, осталось 8,4 - 3,6 = 4,8 руб.
3 игрушка стоила 4,8*3/5 = 2,88 руб, осталось 4,8 - 2,88 = 1,92.
Задача, видимо, дореволюционная. На это указывает слово "ряд" вместо "магазин" и цены - тогда они такими и были.