Yucca rupicola forma colônias de rosetas, sem troncos acima do solo, mas produzindo um caudex ramificado sob a superfície. As folhas são estreitamente lanceoladas, levemente suculentas, torcidas, com até 60 cm de comprimento, mas cerca de 4 cm de largura no ponto mais largo. As flores são pendentes (caídas), em forma de sino, brancas ou esverdeadas. A fruta é uma cápsula seca com até 6 cm de comprimento.