Ансамбль було створено як акомпануючий гурт солістки філармонії, народної артистки України Галини Мурзай. До його складу увійшло 12 музикантів (домра, балалайка, баяни, пізніше — соло-гітара і бас-гітара). Його першим керівником був Анатолій Олександрович Борисов. Спочатку ансамбль називався «Комишинка» — за назвою невеликої інструментальної п’єси, яку склав А.А. Борисов, що слугувала своєрідною «візитівкою» колективу. Період роботи колективу з народною артисткою України Галиною Мурзай є одним з найяскравіших у творчій біографії ансамблю. Пісні Галини Миколаївни залишали  незабутні враження в серцях глядачів, їй аплодували стоячи переповнені зали країн колишнього Радянського Союзу, Латинської Америки, Японії, Ісландії, Чехословаччини, Франції. Галина Мурзай не тільки для Луганщини, а й для всієї країни стала символом народної пісні, яка розкривала все різноманіття традицій ліричної щирості та запальних веселощів, властивих народному музикуванню.

У 1980 році колектив очолив Віктор Іванович Фалалєєв, випускник Київської консерваторії ім. П.І. Чайковського (клас професора, народного артиста України Н. Різоля). Талановитий музикант, баяніст-віртуоз, композитор і аранжувальник Віктор Фалалєєв за невеликий термін зумів вивести колектив на новий професійний рівень. Під його керівництвом ансамбль змінив назву на «Київську Русь», оновив репертуарний багаж, прикрасивши його складними композиціями, що вимагали від музикантів високої виконавської культури. Це дозволило колективу 2008 року стати самостійним концертним ансамблем.

Для жителів Луганщини колектив був не просто символом духовності, він зумів об’єднати цілу плеяду творчих, талановитих виконавців. За різних років з ансамблем виступали народний артист СРСР Дмитро Гнатюк, народні артисти України Джульєтта Якубович, Тарас Штонда, Фемі Мустафаєв, Юрій Кириченко, Володимир Самарцев, Володимир Савченко, Віра Андріяненко, заслужені артистки України Людмила Манасян і Людмила Колесникова, інші видатні співаки та музиканти.

Ансамбль — лауреат багатьох конкурсів і фестивалів. Серед них — міжнародний конкурс ім. «Молодої гвардії», фестивалі ім. І. Паторжинського, «Золоте Яблуко» (м. Краснодар), «Ялта-2000», «Ялта-2004», «Слов’янський базар» (м. Вітебськ). Колектив був частим гостем на фестивалі «Дні української культури» в Москві й «Прокоф’євська весна» в Донецьку.

Зараз «Київська Русь» по праву вважається одним із провідних та найбільш запитуваних колективів філармонії, які беруть участь у найвідповідальніших заходах Луганської Народної Республіки. У творчій скарбничці колективу —  понад 70 сольних програм, присвячених пам’яті видатних діячів культури і мистецтва, державним, професійним святам, пам’ятним датам, програми, що розкривають все різноманіття музичної душі ансамблю.

При порівняно невеликому складі музикантів (чотири домри, балалайка, баян, бас-гітара, клавішні й ударні) «Київська Русь» часом звучить як оркестр, радуючи барвистою палітрою й тонкою нюансировкою.

До основного складу ансамблю входять заслужений артист України Олексій Фарсіков (балалайка), заслужений артист ЛНР Сергій Баранцов (баян, клавішні), Ірина Фарсікова (домра), Тамара Лазутіна (домра), Лілія Красікова (домра), Олена Дядіщева (домра), Владислав Потупало (ударні), Олексій Тихонов (бас-гітара). Беззмінним лідером та ідейним натхненником колективу є заслужений діяч мистецтв України, кавалер ордена «За заслуги» Віктор Фалалєєв, а прикрасою колективу — лауреат міжнародних конкурсів Наталія Олефіренко (вокал).

Колектив радо відгукується на будь-яку можливість зустрічі зі слухачем. «Київська Русь» багато гастролює територією Луганської Народної Республіки та Російської Федерації, постійно вдосконалює свою майстерність. 2016 рік став для ансамблю дуже насиченим у творчому плані.

Серпень 2016 р. — гастролі містами Криму (Ялта, Севастополь, Євпаторія).

Вересень 2016 р. — у рамках федеральної програми «Великі гастролі» разом з іншими артистами філармонії гастролі в Липецьку, Тулі й Воронежі.

Травень 2017 р. — великий тур по п’яти містах РФ (Бєлгород, Курськ, Брянськ, Орел, Воронеж).

Квітень, травень 2020 р. — запис телеверсій концертних програм за участю провідних вокалістів філармонії «У кожній пісні я знову оживу» (присвячено творчості Арно Бабаджаняна) та «Пурпурові вітрила» в рамках культурологічного проєкту «#Мистецтво вдома».