Представитель рода Строгановых. Старший сын Аникея Фёдоровича Строганова (1488—1570) и Софии Андреевны Бакулевой (1509—1567). Братья — Григорий и Семён, а остальные братья (Дмитрий, Кирилл, Михаил Большой, Семён, Михаил Меньшой, Фёдор Большой и Фёдор Меньшой) умерли в детском возрасте.
В 1559 году Яков Строганов вместе с отцом, матерью и братьями переселился из Сольвычегодска в Пермь Великую.
В марте 1568 года прошению Якова Строганова царь Иван Васильевич Грозный пожаловал ему во владение обширные земельные угодья на левой стороне реки Чусовая и Камы вниз до Ласвинского бора на 20 вёрст (4 129 217 десятин). Царское правительство разрешило Якову Строганову построить городки на реке Чусовой. Новые владения Якова Аникеевича были освобождены от податей и повинностей на 10 лет.
В 1570 году Яков Строганов построил Нижний Чусовской городок, Сылвенский и Яйвенский острожки. В августе 1572 года в ответ на убийство под городками Канкар и Кергедан черемисами и башкирами 87 русских «торговых людей» царское правительство приказало Якову и Григорию Строгановым, «выбрав охочих людей, ходить на них войною и приводить под высокую руку Царскую». Повстанцы предприняли поход на владения братьев Якова и Григория Строгановых, убили 487 человек, многих взяли в плен, сожгли и ограбили несколько деревень и починков. Братья собрали отряд «охочих казаков», который при поддержке остяков и вогуличей напал на мятежников. «Тех изменников скоро повоевали, жилища их разорили, многих убили, а оставшихся — мирными учинили».
Вскоре после смерти отца между Григорием и Яковом Аникеевичами, с одной стороны, и младшим их братом Семеном, жившим в Сольвычегодске, с другой, возникла вражда, причины которой остаются неизвестными. Дело дошло до царского суда, которым Семен Строганов в 1573 году был признан виновным и старшим братьям «выдан головой».
В 1573 году сибирский хан Кучум, опасавшийся усиления братьев Строгановых, организовал военный набег на их владения. Большой отряд из сибирских татар, остяков и вогуличей под предводительством царевича Маметкула 2 июня напал на чусовский городок Кангор, но не смог им овладеть. Однако противник умертвил многих из покорившихся русским туземцев в окрестностях. Яков и Григорий Строгановы отправили из Чусовского городка большой отряд против Маметкула, который отступил за Урал. Строгановы стали преследовать татар, по дороге они напали на поселения тех остяков и вогуличей, которые или присоединлись к отряду Маметкула, или так или иначе помогали последнему. Многие жители были убиты, «жен и детей в полон побрали, жилища в пепел обратили».