短叶黄杉现仅分布广西西南部的龙州、靖西、大新、那坡等地，向北延伸至凌云、乐业、环江、南丹及贵州南部的荔波喀斯特山地。荔波是该种自然分布的北界，分布于海拔600～1250m喀斯特峰丛疏林中，多见于山上部至顶部及山脊，生境干旱，为喀斯特山地重要森林组成树种。
