Название происходит от турецкого наименования «Замковая площадь» (тур. Kale Meydanı). Согласно другому мнению название Калемегдан происходит от двух турецких слов «Kale» («крепость») и «Megdan» («битва»). Турки называли Калемегдан Фикир-байыр (fikir bayır), «холм размышления». Теперь довольно часто Калемегданом называют саму Белградскую крепость. Парк делится на Малый Калемегдан и Большой Калемегдан.