Нинішня Вільхівка бере свій початок від Вільхового хутора, що існував ще в у кінці XVIII століття. У 1923-му в Вільхові було організовано сільськогосподарську артіль «Хлібороб».
Основна забудова села Вільхівка розпочалася у 1970 році: зводилися житлові будинки, прокладалися дороги, було споруджено тваринницький комплекс. На місці річки Роганка створили водоймище. Площа його дзеркала перевищує 100 гектарів. У 1973-му відчинила двері перед школярами нова школа. З часом село було повністю газифіковане.
У жовтні 1992 року рішенням Харківської обласної ради народних депутатів Сороківська сільська рада була перейменована у Вільхівську сільську раду. До її складу, окрім Вільхівки (136 гектарів, 1222 мешканців), входять села Сороківка (75 гектарів, 141 мешканець), Степанки (114 гектарів, 133 мешканця), Верхня Роганка (56 гектарів, 141 мешканець).