Рассказ ведется от первого лица. Рассказчик по имени Мисаил Полознев вместе с отцом-архитектором и сестрой Клеопатрой живет в провинциальном городе. Их мать умерла. Отец воспитывал детей в строгости и, когда они стали взрослыми людьми, продолжает требовать полного подчинения. Это ему удается с Клеопатрой, но Мисаил вышел из подчинения.
Он меняет одну работу за другой, не умея ужиться с начальниками и не желая заниматься скучным канцелярским трудом. Он не может и не хочет раствориться в скуке и пошлости провинциальной жизни. Мечтает о настоящем деле. Это злит отца, пугает сестру. Часто герой посещает любительские спектакли в богатом помещичьем доме Ажогиных.
Собирается местное общество, приходят две девушки: дочь инженера Маша Должникова и Анюта Благово — дочь товарища председателя суда. Анюта тайно влюблена в Мисаила. Через отца она помогает ему поступить на работу к инженеру Должикову на строительство железной дороги. Должиков — надменный, неумный человек и к тому же изрядный хам.
Разговаривая, он как бы постоянно забывает, что перед ним сын городского архитектора, унижает, как обычного безработного. Вступив в должность телеграфиста, Мисаил встречает Ивана Чепракова, сына генеральши, приятеля детства. Он спившийся человек, который не понимает смысла в своей работе и целыми днями ничего не делает.
Между прочим они вспоминают, что Мисаила прозвали в детстве — «Маленькая польза».
Все вместе: Должиков, Ажогины, отец Мисаила, Чепраков — они представляют картину провинциальной интеллигенции, разложившейся, ворующей, растерявшей начатки образования. Мисаил все это видит и не может с этим примириться. Его тянет к простым людям, рабочим и мужикам. Он идет работать маляром под началом подрядчика Андрея Иванова.
Это странный человек, немного философ. Его любимая фраза: «Тля ест траву, ржа — железо, а лжа — душу». Стоило Мисаилу стать рабочим, как «благородная» часть города отворачивается от него. Даже Анюта Благово сказала, чтобы он не здоровался с ней на глазах у всех.
Отец проклинает сына Теперь Мисаил живет в городском предместье у своей няни Карповны и ее приемного сына мясника Прокофия. Последний — как бы Мисаил наоборот. Он из мужиков, но тянется в «благородные». Говорит он так: «Я вам, мамаша, могу снисхождение сделать… В сей земной жизни буду вас питать на старости лет в юдоли, а когда помрете, на свой счет схороню».
Мисаил и Прокофий не любят друг друга, А вот маляры относятся к Мисаилу с почтением: нравится, что он не пьет и не курит и ведет степенную жизнь.
Мисаила часто посещают сестра и брат Анюты доктор Владимир Благово. Он влюблен в Клеопатру, и она любит его. Но он женат, встречаются они тайно.
Между доктором и Мисаилом идут разговоры о смысле существования, о прогрессе и т. п. Мисаил думает, что каждый человек обязан заниматься физическим трудом, никто не имеет права пользоваться плодами чужого труда. В его словах проскальзывают идеи Толстого. Доктор же поклонник европейского прогресса и противник личного самосовершенствования.
В то же время это уставший от жизни и изолгавшийся человек, живущий двойной жизнью.
Кто-то иногда присылает Мисаилу чаю, лимонов, печенья и жареных рябчиков, вероятно, чтобы облегчить ему тяжесть жизни. Наконец «благородные» примиряются с его поступком, даже начинают открыто его уважать. К нему приходит Маша Должикова и жалуется на скуку, называет его «самым интересным человеком в городе» и просит бывать в их доме.
В гостях все просят рассказать о малярах; видно, что жизнь простого люда кажется чем-то экзотическим, неизведанным. И опять споры о смысле жизни, о прогрессе. В отличие от «общества» отец Мисаила не может простить ему ухода из дома. Он обращается к губернатору с просьбой оказать влияние на сына, который, по его мнению, порочит честь дворянина.
Губернатор ничего не может сделать и только оказывается в неловком положении, вызвав Мисаила на беседу.
В жизни героя вновь серьезная перемена. Маша Должикова и он влюблены друг в друга и становятся мужем и женой. Поселяются в имении Дубечня, которое инженер Должиков купил у генеральши Чепраковой, с азартом начинают заниматься сельским хозяйством.
Эта работа увлекает Мисаила. Поначалу она нравится и Маше. Она выписывает книги по сельскому хозяйству, строит в деревне школу и пытается наладить контакт с мужиками. Но это ей плохо удается. Мужики стараются их обманывать, пьют, работают нехотя и не стесняясь грубят Маше: «Пошла бы сама и возила!» Они явно принимают Мисаила и Машу за дураков и ненастоящих хозяев.
Маша очень быстро разочаровалась в мужиках и деревенской жизни. Мисаил смотрит, на все глубже. Он видит, что при всей развращенности в мужиках сохранилась душевная чистота.
Они хотят справедливости и обозлены тем, что должны работать на праздных людей. В том, что они ежедневно трудятся и не имеют времени на скуку, — их преимущество перед «благородными». Но Маша не хочет этого понимать.
Выясняется, что она не столько любила Мисаила, сколько хотела свободы и самостоятельности. Она птица другого полета. Однажды она уезжает и не возвращается. Мисаил получает письмо, где она пишет, что едет с отцом в Америку и просит развода.
Мисаил тяжело переживает; с потерей Маши как бы кончается все светлое в его жизни и наступают серые будни, начинается просто «жизнь» без надежд и идеалов.
«Жизнь» осложняется тем, что сестра Мисаила ушла от отца и живет с братом. Она беременна от доктора и больна чахоткой. Мисаил просит отца позаботиться о ней, но тот прогоняет сына и не желает простить дочь.
Прокофий, сын няни, тоже требует, чтобы Мисаил с беременной сестрой покинул его дом, ибо — «за такую юдоль люди не похвалят ни нас, ни вас». А вот Редька — жалеет Мисаила и сестру и осуждает доктора: «Ваше высокоблагородие, не будет вам царства небесного!» Доктор шутливо парирует: «Что же делать, надо быть кому-нибудь и в аду».
Последняя глава рассказа — своеобразный эпилог. Рассказчик «постарел, стал молчалив, суров»; он работает подрядчиком вместо Редьки. В доме отца не бывает. Его жена живет за границей. Сестра умерла, оставив дочь.
Вместе с малюткой Мисаил по праздникам ходит на могилу сестры и иногда встречает там Анюту Благово. Она, видимо, по-прежнему любит Мисаила и по-прежнему скрывает это. Лаская маленькую дочь Клеопатры, племянницу Мисаила, она дает волю чувствам, но — едва входят в город, становится строга и холодна, словно между ней и девочкой ничего не было.