Dzimis Jaunlaicenes pagastā. Viņa tēvs - tautskolotājs - kopš 1907. gada strādājis Lazdonas skolā. Papildus skolotāja pienākumiem vadījis arī draudzes kori un bijis ērģelnieks. Tādējādi pirmo saskarsmi ar mūziku un dziesmu H. Mednis guvis jau bērnībā. 1920. gadā H. Mednis devies uz Rīgu un iestājies Rīgas 1. ģimnāzijā, kā arī apguvis mūzikas teoriju un klavierspēli pie profesora Alfrēda Kalniņa. Īslaicīgi studējis matemātiku un astronomiju Latvijas Universitātes Dabaszinātņu fakultātes Matemātikas nodaļā (1924–1925). Mūziku mācījies Vīgneru Ernesta vadītajā Fonoloģijas institūtā, bet 32 gadu vecumā iestājies Latvijas Konservatorijā, kur padziļināti apguvis kompozīciju, diriģēšanu un ērģeļspēli (1938–1949).
Pirmās diriģenta gaitas aizsācis jau 19 gadu vecumā, kad pēc tēva nāves pārcēlies uz dzīvi Madonas apriņķī un pārņēmis tēva vadīto Lazdonas draudzes kori (1925–1940). Vēlāk uzņēmies diriģēt Madonas aizsargu pulka vīru kori, Madonas ģimnāzijas zēnu kori, kā arī Latvijas Skautu izlases kori.
Virsdiriģenta godā H. Mednis nokļūst 25 gadu vecumā, kad viņam uzticēts darbs ar kopkori Mārcienas dziesmu dienās, bet pirmie panākumi dziesmu svētkos gūti 1938. gadā, kad viņa vadītais Lazdonas pagasta koris IX Dziesmu svētku dziesmu karos lauku koru grupā ieņēmis 1. vietu.
Jāzepa Vītola “Gaismas pils” kļuvusi par Haralda Medņa likteņdziesmu. Pirmā bija 1938.gadā, kad ar šo dziesmu skolotājs, ērģelnieks un diriģents triumfēja devīto svētku dziesmu karā ar Lazdonas draudzes kori. Otro “Gaismas pils” kulmināciju diriģents piedzīvojis 1980.gada dziesmu svētkos, kad dziesmu dziedāja trīs reizes.
Bijis izcils pedagogs, strādājis Latvijas Konservatorijas Kordiriģēšanas nodaļā.
Apbalvots ar Triju Zvaigžņu ordeņa Zelta Goda zīmi (1935), Atzinības krusta kavalieris (1938), LPSR Nopelniem bagātais mākslas darbinieks (1956), LPSR Tautas skatuves mākslinieks (1977), Jāņa Cimzes prēmijas laureāts (1990), Triju Zvaigžņu ordeņa virsnieks (1994), Lielās mūzikas balvas ‘98 laureāts.
Madonas novada pašvaldības iīsteno projektu "Haralda Medņa dzimtas mājas "Dzintari" atjaunošana" Praulienas pagastā (Madonas novads).