Армяне поселились в Австрии с 17 века. В 1683 году, под Веной, в победоносной битве против турок участвовал польско-армянский отряд, который выступил в помощь австрийцам, в составе войска польского, на стороне короля Яна Собовского. Небольшая армянская община была основана в 18 веке.

Нынешняя община была сформирована в основном после Геноцида армян и 1950-х годов, а затем, за последние два десятилетия была расширена за счет армян, переехавших из Армении и других стран бывшего СССР. Насегодня, число армян около 7000, которые проживают, в основном в Вене, хотя небольшие общины есть также в Граце, Зальцбурге и Инсбруке.