Das Scheidenwollgras wächst aufrecht auf eine Höhe von bis zu 60 cm. Die von ihm gebildeten lockeren bis dichten Horste können dichte Rasen bilden. Die Stängel sind oben mit glatten, graugrünen und stumpf dreikantigen Blättern versehen. Die unteren Blätter sind rosabraun.
Die Blüten sind aufrechte Ährchen, die in der Blütezeit von März bis Mai ca. 3 cm erreichen, sie sind bis zu hundertblütig. in seltenen Fällen kommt es von Juli bis September zu einer zweiten Blüte. Die Früchte tragen Blütenhüllfäden, die später mit ihnen abfallen. Vorher stellen sie den typischen weißen Wollschopf dar.