Повествование ведётся поочерёдно от имени двух художников — Дедова и Рябинина, контрастно противопоставленных друг другу.
Дедов, молодой инженер, получив небольшое наследство, оставляет службу, чтобы целиком посвятить себя живописи.
Он упорно работает, пишет и пишет пейзажи и совершенно счастлив, если ему удаётся запечатлеть на картине эффектную игру света. Кому и зачем будет нужен написанный им пейзаж — такого вопроса он себе не задаёт.
Товарищ Дедова по Петербургской академии художеств Рябинин, напротив, все время мучается вопросом, нужна ли кому-нибудь его живопись, да и вообще — искусство?
Дедов и Рябинин часто возвращаются вместе после занятий в академии. Путь их лежит мимо пристани, загромождённой частями различных металлических конструкций и механизмов, и Дедов часто объясняет товарищу их назначение. Как-то он обращает внимание Рябинина на огромный котёл с разошедшимся швом. Заходит разговор о том, как его чинить. Дедов объясняет, как делаются заклёпки: человек садится в котёл и держит заклёпку изнутри клещами, напирая на них грудью, а снаружи что есть силы мастер колотит по заклёпке молотом. «Ведь это все равно что по груди бить», — волнуется Рябинин. «Все равно», — соглашается Дедов, объясняя, что рабочие эти быстро глохнут (за что и прозваны глухарями), долго не живут и получают гроши, потому что для этой работы «ни навыка, ни искусства не требуется».
Рябинин просит Дедова показать ему такого глухаря. Дедов соглашается свести его на завод, приводит в котельное отделение, и Рябинин сам влезает в огромный котёл посмотреть, как работает глухарь. Вылезает он оттуда совершенно бледный.
Через несколько дней он решает писать глухаря. Дедов решения приятеля не одобряет — зачем умножать безобразное?
Рябинин меж тем исступлённо работает. Чем ближе к концу подвигается картина, тем страшнее кажется художнику то, что он создал. Измождённый, скорчившийся в углу котла человек болезненно действует на Рябинина. Окажет ли он такое же действие на публику? «Убей их спокойствие, как ты убил моё», — заклинает художник своё создание.
Наконец картина Рябинина выставлена и куплена. По традиции, живущей среди художников, Рябинин должен устроить пирушку для товарищей. Все поздравляют его с успехом. Кажется, впереди у него блестящее будущее. Скоро — окончание академии, он бесспорный кандидат на золотую медаль, дающую право на четырёхлетнее совершенствование за границей.
Ночью после пирушки Рябинину становится плохо. В бреду ему кажется, что он снова на том заводе, где видел глухаря, что он сам что-то вроде глухаря и все его знакомые колотят по нему молотами, палками, кулаками, так что он физически чувствует, как страшный удар обрушивается на его череп.
Рябинин теряет сознание. Лежащего без памяти, его обнаруживает квартирная хозяйка. Дедов отвозит Рябинина в больницу и навещает его. Рябинин постепенно выздоравливает. Медаль упущена — Рябинин не успел представить конкурсную работу. Дедов же свою медаль получил и искренне сочувствует Рябинину — как пейзажист, он с ним не конкурировал. На вопрос Дедова, намерен ли Рябинин участвовать в конкурсе на будущий год, Рябинин отвечает отрицательно.
Дедов уезжает за границу — совершенствоваться в живописи. Рябинин же бросает живопись и поступает в учительскую семинарию.
