Нестабильность заработка и положения Бунина в редакции «Орловского вестника» из-за сложности его отношений с редактором газеты Б.П. Шелеховым – человеком придирчивым, грубым и вспыльчивым вынуждали юношу искать в Орле другую работу. 10 июля 1892 года Бунин получил работу в Управлении Орловско-Витебской железной дороги. 23 июля он писал из Орла родным:
«Как видите – я поступил на службу, жив и здоров и уже с неделю хожу на службу. Окунулся с головой в канцелярщину. Начальник – формалист и т.д. Но мы с ним ладим. Сперва я переписывал бумаги, почерк ему мой нравится, давали даже подшивать бумаги. (Вот когда я тебя вспомнил, милый Женичка!), теперь возведён в новую должность: веду входящий журнал… Чувствую себя и работаю хорошо. Прихожу, сию минуту же сажусь за работу, отзвоню себе и пойду. Веду себя со всеми отдалённо – тут ведь не редакция. Жалованья мне назначили 30 рубл.».
Здание, в котором находилось Управление Орловско-Витебской железной дороги, сохранилось (ул.Пушкина, 37).
Из-за осложнившихся отношений с Варей Пащенко Бунин в августе 1892 года оставил службу в Орле и уехал в Полтаву к брату Юлию Алексеевичу, который помог ему устроиться на работу в Полтавскую земскую управу библиотекарем.