Le petit houx est un sous-arbrisseau de 30 à 90 cm, vivace par un rhizome et persistant.
Très rameux, ses tiges sont striées de vert foncé; ses cladodes sont petits, alternes, sessiles, de forme ovale lancéolée, rigides et piquants.
Les feuilles sont réduites à de toutes petites écailles brunâtres et non chlorophylliennes.
Les fleurs, de type 3, sont verdâtres et violacées, solitaires ou géminées, apparaissant au centre d’une minuscule bractée située sous le cladode; fleurs mâles à 3 étamines; fleurs femelles à 3 carpelles soudés.
Le fruit est une baie globuleuse rouge