Vujovic lahir di Budva, yaitu sebuah kota kecil berpenduduk 14 ribu orang di wilayah SR Montenegro yang saat itu masih menjadi bagian dari Yugoslavia. Vujovic meniti karir sepakbola profesionalnya di usia 17 tahun dengan bergabung bersama klub lokal setempat, FK Mogren Budva, di tahun 1999. Di musim perdananya tersebut ia hanya bermain sebanyak 2 kali. Kemudian, selesai musim 2000, Mogren Budva degradasi. Di kasta kedua liga Yugoslavia itulah ia justru mulai mendapat kesempatan bermain reguler di tim utama. 

Dengan penampilan yang impresif sebagai bek tengah, bakatnya tercium oleh klub dari Beograd, Serbia, yaitu FK Beograd. Ia pun langsung menjadi andalan utama di klub ibukota tersebut dengan tampil 39 kali dan mencetak 3 gol.