С юных лет, будучи назначен правителем Таш-Кургана, принимал участие в нескольких походах, предпринимавшихся для подавления восстаний отдельных афганских племён.
После вступления в 1864 году на престол Шир-Али-хана участвовал в составе войск своего отца Афзул-хана и дяди Азим-хана в борьбе с ещё одним своим дядей, могущественным эмиром Шир-Али. Завоевал в 1866 году Кабул, где утвердился его отец.
После смерти отца в 1867 году и изгнания Азим-хана Шир-Али-ханом бежал в Бухару, но не встретил особого сочувствия от бухарского эмира и вернулся в Балх, продолжая войну против Шир-Али. Будучи разбит наголову под Газни, бежал на границу Индии, но затем, не доверяя англичанам, вскоре через Персию прибыл в Мешхед, оттуда в Хиву и далее, через Бухару, явился в Самарканд к генералу Абрамову. В автобиографии он с особым удовольствием вспоминает время, проведённое у русских (с 1870 по 1880 годы), оттеняя встреченную им сердечность со стороны русских властей.
В 1878 году началась 2-я англо-афганская война. Живя в изгнании в Самарканде, Абдур-Рахман внимательно следил за всеми перипетиями этой войны, поджидая удобного случая для того, чтобы заявить свои права на престол. Якуб-хан был свергнут британо-индийским правительством и отправлен в Индию. Страна, не имевшая эмира, занятая иностранными войсками, раздираемая междоусобицами, стала погружаться в анархию. С другой стороны, положение англо-индийских войск было тяжёлым — началась народная партизанская война против них, угрожавшая затянуть войну на продолжительное время. В такой обстановке Абдур-Рахман решил снова попытать счастья в борьбе за престол.