х- пятирублевых
у- десятирублевых
составим систему
5х+10у=75
10х+5у=90
для удобства решения умножим первое уравнение на 2 и вычтим из него второе уравнение получим
10х+20у=150
15у=60
у=4
5х+40=75
5х=35
х=7
ответ у мальчика было 7 пятирублевых и 4 десятирублевых купюр