Tonu Kaljuste si è laureato presso il conservatorio della sua città natale, Tallinn (Estonia) nel 1976, perfezionandosi in seguito al Conservatorio di Leningrado. Ha creato il coro Estonian Philharmonic Chamber Choir nel 1981, un complesso che ha portato alla conquista dell'ambito Grand Prix al concorso corale Takarazuka in Giappone nel 1991. Nel 1994 è stato nominato direttore principale del mitico Swedish Radio Choir e nel 1998 del Netherlands Chamber Choir. Altri impegni con il Coro della Radio Finlandese, il Vancouver Chamber Choir e il World Youth Choir lo confermano come uno di più carismatici e dinamici direttori d'oggi. Oltre ai moltissimi impegni con l'orchestra da lui fondata, la Tallinn Chamber Orchestra, lavoro regolarmente con l'Orchestra della Radio Svedese, l'Orchestra Nazionale dell'Estonia, in Germania, Olanda ed in Inghilterra.

E' stato Direttore Artistico dei festivals Tallinn '88 e Tallinn '91, nonché del festival di canto internazionale "Bridge of Song". Nel 1991 e 1996 ha ricevuto il prestigioso riconoscimento estone "Premio Annuale della Cultura" e nel 1998 è stato eletto "Musicista dell'Anno" dalla Eesti Radio (radio statale estone). Nello stesso anno ha  ricevuto l'ABC Music Award e l'anno successivo è stato eletto membro dell'Accademia Reale di Musica della Svezia. Altri riconoscimenti includono il Premio Robert Edler (Svezia) e la Medaglia Maria dal governo estone.

Nel campo discografico Tonu Kaljuste ha ricevuto i rinconscimenti più prestigiosi compreso un Grammy Award nomination, Cannes Classical Award, Edison Prize e la Diapason d'Or de l'Annee. Le sue incisioni della musica di Arvo Paert (per la ECM) lo confermano il più autorevole interprete di quest'autore sulla scena mondiale. Ha inoltre inciso musiche di Rachmaninov, Tuur, Schnittke, Gorecki, Tormis ed Eller per le etichette Virgin, Caprice, Composer's Voice e ECM.