嗣业是京兆高陵人，身长七尺，也就是2.1米，膂力绝众，天生就是练武的好胚子，在盛唐崇尚军功的氛围下，从军入伍、建功边塞，成为他顺理成章的选择。年轻的李嗣业每次战役都奋不顾身、冲锋在前，很快升为昭武校尉，天宝初年，应募安西，在西域为大唐效力。当时，军中推广陌刀，这简直是为李嗣业准备的兵器，他很快脱颖而出，成为赫赫有名的陌刀将。
天宝六年，李嗣业跟随当时的安西都知兵马使高仙芝出征小勃律国，在唐军的必经之地连云堡，吐蕃军队依山旁水，修筑工事，严阵以待。高仙芝任命李嗣业和田珍为左右陌刀将，下了一道命令，“中午以前必须攻占连云堡，不然都得死”。战斗开始了，李嗣业身先士卒，从最险峻的地方爬上山头，陌刀挥舞，敌人鬼哭狼嚎，死尸遍地，掉下悬崖、淹死水中的有十之七八，唐军一举拿下了连云堡。然后乘胜前进，直捣小勃律国，俘虏了小勃律王和他的妻子吐蕃公主，唐军夺回了克什米尔以西和以北的军事霸权，“拂菻、大食诸胡七十二国皆震慑降附”，回军之后，李嗣业因功升为疏勒镇守使，捍卫着大唐帝国的边疆地区。