Родился 17 марта 1921 года в Ставропольском крае, по разным сведениям — в Прикумске или рядом с ним, в селе Архангельское.
В 1939 году поступил в МИФЛИ. В 1941 году ушёл на фронт, был литсотрудником газеты «Партизанская правда». Член КПСС с 1945 года.
После войны продолжил учёбу и в 1950 году окончил филологический факультет МГУ. В 1953 году защитил кандидатскую диссертацию на тему «Советский послевоенный очерк». Член правления СП РСФСР (1975—1990). До 1981 года вёл в Литературном институте семинар прозы.
Стал известен благодаря повести «Один из нас» (1962), написанной в русле военной прозы 60-х годов. В персонажах повести узнаются поэты, погибшие на войне: Павел Коган, Михаил Кульчицкий, Николай Майоров, причём автор сам сообщает, кто именно послужил прототипом. С этой повестью сюжетно связаны также романы «Последняя война» и «Утро».
Скончался в Москве 6 декабря 1991 года (также указывается день смерти — 1 декабря[2]). Похоронен на Донском кладбище Москвы [3].
Ставропольским краевым отделением Союза писателей России совместно с администрацией Будённовска учреждена литературная премия имени Василия Рослякова.