8 января 1878 года открылось движение поездов на участке Мерефа — Белополье. В этот день в Сумы прибыл первый поезд. Одна из газет того времени так описала это событие: «Протяжный гудок разорвал утреннюю тишину и далеким эхом отозвался за околицей города. На вокзале собралось много людей. Наиболее смелые изъявили желание прокатиться на «чугунке».
Потребность в железной дороге через Харьковскую губернию, в состав которой входили современные Сумы, возникла во второй половине ХIХ века в связи с тем, что здесь производилась большая часть российского сахара.
В 1875 году Министерство путей сообщения утвердило план строительства участка Мерефа-Ворожба и признало его неотложным.
Работы продолжались до января 1878 года. Общая длинна дороги составила 227,7 версты, а ее стоимость — 8,6 млн. рублей.
Впрочем, железная дорога пришла в Сумы непросто. В целях экономии государство в то время не решалось на прокладку железной дороги через самые крупные города и слободы, так как земли вокруг них стоили дороже, чем на периферии.
В то же время местные предприниматели были заинтересованы в том, чтобы железная дорога проходила поближе к их предприятиям. Поэтому каждое земство старалось «перетянуть маршрут будущей дороги в свою пользу.
Так, Ахтырскому земству, обращавшемуся в губернские органы и Министерство путей сообщения, удалось лишь «подтянуть» железнодорожную ветку к районному центру от станции Каменка до станции Кириловка (20 км от Ахтырки). А Сумское земство добилось перенесения маршрута на несколько десятков километров к городу. За это сумские предприниматели внесли в строительство немалые деньги. Они шли в основном на выкуп полевых земель, через которые прокладывали железную дорогу. К примеру, сумской сахарозаводчик Иван Харитоненко вложил 500000 рублей, благодаря чему железная дорога прошла как раз возле его Павловского рафинадного завода, обеспечив предпринимателю комфортные условия для ведения дела.