Türk bir ailenin oğlu olarak Avusturya'da dünyaya gelen Veli Kavlak, futbol yaşantısına 1995'te Post SV Wien takımında başladı. Burada sadece iki gün kalan Kavlak, antrenmanlara katılıp, Austria Wien takımının gençleriyle yaptığı bir maçtan sonra SK Rapid Wien antrenörleri tarafından keşfedildi ve bu takımın altyapısına geçti. Burada çeşitli altyapı takımlarında forma giydi. 2003'te U-19 takımına geçti. Ocak 2005'te ise A takıma yükseldi.

2004 yılında altyapının forveti olan Kavlak, A takım ile antrenmanlara çıkmaya başladı. 2004-05 sezonunun son maçlarından SV Salzburg karşılaşmasında ikinci yarı Florian Sturm'un yerine oynadı. İlk maçına çıktığında sadece 16,5 yaşındaydı. Böylece Andreas Ivanschitz'ten sonra takımda forma giyen en genç isim oldu. Sezonun son maçında ise 90 dakika forma giydi. Sezon sonunda kariyerinde ilk kez lig şampiyonluğu yaşadı. Avusturya Kupası'nda da ilk kez forma giyen Kavlak, kupada Rapid Wien II formasını giydi.

2005-06 sezonunda ligde 14 kez şans buldu. Sezonun son maçında SV Ried'i 6-0 yenerlerken, Kavlak takımının ilk iki golüne imza attı. Bunlar, Kavlak'ın ligde bulduğu ilk goller oldu. İlk kez Avrupa kupalarında forma giyen Kavlak, Şampiyonlar Ligi ön elemesinde bir maçta forma giydi. Rapid Wien, 3 ön eleme turunu geçip, gruplara kaldı ancak hiç puan alamadı. Kavlak, grup maçlarında forma şansı elde edemedi.

2006-07 sezonunda Kavlak, 29 maçta 3 gol ile takımda aktif bir futbolcu haline geldi. Sezona kötü başlayan Rapid Wien, son hafta aldığı mağlubiyetle lig dördüncüsü olarak UEFA Kupası'na katılma şansını kaybetti. 2007-08 sezonunda da Kavlak, etkili oyununa devam etti. Sezona sancılı başlayan Wien, sezon sonlarına doğru performansını arttırdı. 27. hafta ikinciliğe yükselen Wien, 31. hafta liderliğe çıkıp, sezon sonuna kadar yerini kaybetmeyerek lig şampiyonu oldu. Kavlak, UEFA Kupası'nda da ilk kez forma giydi. 4 maçta oynayan Kavlak, FC Dinamo Tiflis'e gol atarak Avrupa arenasındaki ilk golünü kaydetti. Rapid Wien, ön eleme turunu atlasa da ilk turu geçemedi.

2008-09 sezonunda Rapid Wien, ligi ikinci olarak bitirdi. Veli, 29 maçta 4 gol atarak en gollü sezonunu geçirmiş oldu. UEFA Şampiyonlar Ligi ön elemelerinde 2 maçta da forma giyen Kavlak, takımının Kıbrıs ekibi Anorthosis Famagusta'ya elenmesini engelleyemedi.

2009-10 sezonunu lig üçüncü olarak bitiren Rapid Wien'de Kavlak 24 maçta forma giydi ve 2 gol attı. UEFA Avrupa Ligi'nde 7 maç yapan Kavlak, Rapid Wien'in tek galibiyeti olan Hamburg maçında bir asist yaptı.

Kavlak, 2010-11 sezonunda da Rapid Wien forması giydi. Kariyerinde ilk kez kırmızı kart aldığı bu sezonda takımının değişmez ilk 11 oyuncularından biri olmaya devam etti. Avrupa'da 10 maça çıkan Kavlak, sezon içindeki tek golünü Beşiktaş'a karşı kaydetti.

23 Mayıs 2011 tarihinde Beşiktaş, Veli Kavlak ile transfer görüşmelerini başladığını borsaya bildirdi. 27 Mayıs'ta ise 750 bin euro karşılığında transfer edildi.

Veli Kavlak, Avusturya U-16 formasını 2, U-17 formasını ise 18 kez giydi. U-17'de ayrıca 7 gol kaydetti.

2005'te Avusturya U-19 forması giymeye başladı. 2006'da Polonya'da düzenlenen Avrupa 19 Yaş Altı Futbol Şampiyonası'nda Avusturya kadrosunda yer aldı. Yarı finale yükselen Avusturya, o senenin şampiyonu İspanya U-19'a elendi. Kavlak, 4 maçta da ilk 11'de forma giyip, 3'ünde 90 dakika forma giydi.

2006'da Avusturya U-20 forması giymeye başladı. 2006'da U-19 olarak Dünya Kupası'na katılmayı hak eden kadroda yer alan Kavlak, 2007'de Kanada'da düzenlenen FIFA 20 Yaş Altı Dünya Kupası'nda da Avusturya kadrosunda yer aldı. İlk iki grup maçında 90 dakika forma giyen Kavlak, son grup maçında dinlendirildi. Takım, yarı finale kadar çıktı ancak yarı finalde Çek Cumhuriyeti U-20'ye elendiler. Üçüncülük maçını da kaybeden ekip dördüncü oldu. Kavlak, grup maçlarından sonraki bütün maçlarda oyundan alınmadan oynadı.

21 Ağustos 2007'de oynanan bir hazırlık maçıyla Avusturya U-21 forması giymeye başladı. U-21 Avrupa Şampiyonası elemelerinde 8 maçın 5'inde 90 dakika oynayan Kavlak, takımının eleme grubu birincisi olmasında yardımcı oldu. Play-off'lar Finlandiya ile iki maç yapan Avusturya, ikinci maç 90. dakika gol yedi ve maç uzatmalara gitti. Penaltılara giden maçta Kavlak, penaltısını gole çevirse de kaybedip, turnuvaya katılamadılar. U-21 formasında tek golünü Litvanya'ya bir hazırlık maçında attı.

24 Mart 2007'de ilk kez Avusturya Milli Futbol Takımı formasını giydi. Gana ile oynanan hazırlık maçında 72. dakikada Roland Linz'in yerine oyuna girdi. 2010 Dünya Kupası elemelerinde de iki maçta milli takım forması giydi.