Роман начинается обращением к читателю от последнего архивариуса-летописца.
Далее следует рассказ о том, как глуповцы устроились на жительство. Раньше они были головотяпами, так как имели привычку тяпать головами обо все, что попадается на пути. Однажды они решили призвать на царство умного правителя.
Долго блуждали, наконец увидели на берегу реки человека, который макал в воду пряники и закусывал. Обратились к нему с просьбой «володеть» ими. Он согласился, сказав: «Я глуп, а вы еще глупее». Открывает галерею жизнеописаний глуповских градоначальников Дементий Варламович Брудастый, который, как только прискакал в город, на самой границе высек уйму ямщиков. В его голове вместо мозга действует органный механизм, умеющий наигрывать лишь два слова: «Разорю!» и «Не потерплю!», который затем сломался, и его пытался починить часовых и органных дел мастер Байбаков.
Затем голову отослали в Санкт-Петербург, мастеру Винтергальтеру. Тот починил голову и отправил обратно в Глупов, но мальчик-посыльный ее потерял. Когда народ уже начал волноваться, капитан-исправник привез градоначальника точно такого же на вид, как Брудастый.
Градоначальник закричал: «Разорю!», и все тут же притихли. Но тут подъехали дрожки, в которых сидел точно такой же градоначальник. В Глупове было установилось двоевластие, но из губернии прибыл посыльный, посадил обоих градоначальников в особые сосуды, наполненные спиртом, и увез для освидетельствования.
В городе началась борьба за власть. Бесчинства и беспорядки прекратил новый градоначальник Семен Константинович Двоекуров.
Двоекуров совершил очень многое. Он вымостил улицы: Дворянскую и Большую, собрал недоимки, покровительствовал наукам и ходатайствовал об учреждении в Глупове академии. Но главная его заслуга состояла в том, что он ввел в употребление горчицу и лавровый лист.
Все свои цели он достигал тем, что бесконечно сек глуповцев.
После смерти Двоекурова градоначальником стал Василиск Семенович Бородавкин, который поразил всех административной расторопностью. Миколадзе и Беневоленский испытывали особую страсть к изданию законов. Например, даже издали закон о печении пирогов.
При Грустилове появились различные прорицатели и колдуны.
Последним градоправителем Глупова стал Угрюм-Бурчеев. Это был диктатор-реакционер, который установил в Глупове тоталитарный режим. Он всегда ходил в сапогах и только по прямой линии, спал на голой земле, а в морозы — на сеновале.
Придумал проект, по которому дома должны были строиться только по прямой линии, окнами в палисадник, а жители — ходить строем на работу. Угрюм-Бурчеев решил преградить течение реки, повернуть ее вспять. В итоге он распорядился записывать всех глуповцев в особые книги, то есть составлять на них досье.
Наконец, глуповцев поразило неслыханное зрелище: север потемнел и покрылся тучами, начался смерч, дождь. Неисповедимый ужас охватил жителей. Обращаясь к толпе, Угрюм-Бурчеев произнес: «Придет», но договорить не успел — раздался треск, и градоначальник исчез.
История прекратила свое течение.