Né le 11 septembre 1935 à Paide en Estonie, Arvo entre à l'École secondaire de musique de Tallinn et apprend notamment à jouer du hautbois (1954). Au Conservatoire de Tallinn (1957), il devient l'élève de Heino Eller (1887-1970). 

De 1958 à 1967, il travaille comme ingénieur du son et compositeur de musiques de film à la radio-télévision estonienne. 

En 1962, Arvo Pärt remporte le Premier Prix des jeunes compositeurs d'Union Soviétique avec Notre Jardin, composé en 1959. 

Emigré à Vienne en 1980, il obtient la nationalité autrichienne. De 1982 à 2008 il s'établit comme compositeur indépendant à Berlin (-Ouest).

Après une période sérielle qui va jusqu'en 1968, et une période transitoire (troisième symphonie), mais aussi de doute et de stérilité artistique, Arvo Pärt inaugure en 1976 une période inspirée par son étude du Moyen-Âge. Il appelle cette nouvelle technique-modèle tintinnabuli qu'il définit ainsi : 

Ici je suis seul avec le silence. J'ai découvert qu'il est suffisant quand une note simple est admirablement jouée. Cette note, ou un battement silencieux, ou un moment de silence, me soulagent. Je travaille avec très peu d'éléments - une seule voix, deux voix. Je construis avec les matériaux les plus primitifs - avec la triade, avec une tonalité spécifique. Les trois notes de la triade sont comme des cloches. Et c' est pourquoi je l'appelle « tintinnabuli ».

En podcast: Spiegel im Spiegel, par le Duo Buczkowski-Wilgos (violon/guitare, LCFE).