Происходил из дворянского рода польского происхождения. Родился 26 мая (7 июня) 1832 года[1][2], — был младшим в семье действительного статского советника Антона Фёдоровича Арцимовича (1789—1857); в семье, кроме него, были Флора (1818—1892), Виктор (1820—1893), Пелагея (1822—1863), Анна (1826—1902) и Адам (1829—1893).
Образование получил в Императорской Александровском лицее[3], по окончании которого в 1853 году поступил на службу в Министерство внутренних дел, а в следующем году перешёл в канцелярию Морского министерства. В 1857 году перемещён попечителем калужских богоугодных заведений.
В 1859 году определён в департамент Министерства юстиции и вскоре назначен тульским губернским уголовных дел стряпчим. В 1863—1865 годах — товарищ председателя Тульской, а в 1865—1866 — Псковской палаты гражданского суда. С 1866 года — член Псковского, а с 1867 — Воронежского окружных судов. В период 1869—1877 годов он был товарищем председателя Владимирского окружного суда.
В 1877 году А. А. Арцимович назначен товарищем обер-прокурора Уголовного кассационного департамента Сената. С 1890 года — член консультации при Министерстве юстиции. В июне 1895 года назначен сенатором, заседал в Уголовном кассационном департаменте Сената. Характеризуя состав этого департамента, сенатор А. Ф. Кони отмечал, что в нём была многочисленная группа сенаторов, состоявшая из малодушных трусов: