Отсчёт европейских образцов архитектуры Австрии следует вести от архитектурных сооружений Древнего Рима. Известно, что римляне ещё при жизни императора Октавиана Августа захватили большую часть земель современной Австрии и построили здесь несколько крепостей для римских гарнизонов. Среди них:
Первоначальная застройка была типичной, четырёхугольной с форумом в центре. Строительными материалами служили местный камень и кирпич. Кроме обычной застройки возводили также языческие храмы, цирки, бани (термы), театры, а крепости имели ворота. У Вены сохранились руины римского акведука.
В конце V в. н. э. римские гарнизоны покинули эти земли, перешедшие к варварским племенам германцев и славян.
Около 803 г. н. э. Карл Великий разбил воинов авар и создал на этой территории Восточную марку (герцогство). Началась ощутимая волна христианизации её жителей и строительство примитивных христианских церквей, упрощённых по планам и архитектурными формами.
Здания раннего средневековья создавали преимущественно из дерева, поэтому они не сохранились. Каменными были христианские церкви. Земли Австрии колонизировали германские племена, преимущественно бавары, поэтому культура развивалась в подавляющей стилистике юго-немецкого искусства. Но значительные торговые связи с Ломбардией вызывали всё возрастающее влияние искусства северной Италии. Свой небольшой вклад внесла и славянская составляющая. Развитие получил первый значительный европейский стиль — романский. Среди значительных сооружений эпохи романского стиля:
Австрийские христиане-воины участвовали в крестовых походах. Накопленные от военных грабежей или торговли деньги шли на строительство крепостей, храмов, монастырей, замков.