Хуан де Гарай исследовал реку Парану и основал города Санта-Фе и Буэнос-Айрес (на современном месте).
Хуан де Гарай родился около 1528 года. По одной версии это произошло в декабре 1527 года, по другой — в январе 1529 года.
Место его рождения спорно; одни источники (Пауль Гроуссак) в качестве родины называют Хунта-де-Вильяльба-де-Лосу в провинции Бургос, другие (Мендибуру и Энрике де Гандиа) называют город Ордуния в Бискае (из которого после пожара Хуан де Гарай в семилетнем возрасте переехал в Хунта-де-Вильяльба-де-Лосу). И тот и другой город относились к баскской зоне Кастилии, и его именуют «кастильцем Бискайи».
Его родителями были Клементе Лопес Очандиано и Каталина де Зарате. Воспитывался братом матери лиценциатом Педро Ортис де Зарате (или просто Педро Зарате), пока его мать не вышла замуж за Мартина де Гарая, который дал ему фамилию, хотя Хуан де Гарай сохранил герб Очандиано. По одной версии семья Хуана де Гарая происходила от дома Маркуина (Marquina). Другие, например Гарсия Карраффа, основываясь на гербе Хуан де Гарая, показывают его происхождение с Гараями де Тудела (Наварра), известными с XIII века.
В 1543 году Бласко Нуньес Вела был назначен вице-королём Перу. 3 ноября на тридцати кораблях он отплыл из Санлукара-де-Баррамеды. В свиту Бласко Нуньеса Велы входил Педро Ортис де Зарате (и сопровождавшие его Хуан де Гарай и Лусия де Луйандо).
Его дядя Педро Ортис де Зарате, а также Диего де Сепеда, Лисон де Техеда и Хуан Альварес составляли «Аудиенсию Лимы», которая должна была помогать вице-королю в управлении. Из-за болезни Педро Ортис де Сарате вошёл в «Аудиенсию» лишь 10 сентября 1546. К этому времени Бласко Нуньес Вела вошёл в конфликт с местными конкистадорами, а также с «Аудиенсией», что привело к гражданской войне вице-короля со сторонниками Гонсало Писарро, в которой Хуан де Гарай принял активное участие.