Ржавец основан во второй половине 1760-х годов хутор Ржавчик (позднее Ржавец) титулярным советником Сергеем Мокеевичем Ильинским.
К середине 19 века Ржавцом стали владеть князья Волконские.
1877 г. Стараниями княгини Софьи Николаевны Волконской была построена каменная Николаевская церковь, которую посещали прихожане из Рындинки, Выползовки, Ржавца в 465 душ (в 30-е годы разрушена).
В эти же годы существовала княжеская школа.
До 1918 года действовала церковно-приходская школа в доме батюшки.
До 1918 года действовал княжеский кирпичный завод.
1943 год – образована новая братская могила, куда перенесены тела погибших из Шипов, Кураковки, Косьминки, Выползовки.