Småbladet elm er et stort, løvfældende træ med en højt hvælvet og bredt udhængende krone. Stammen er tyk med oprette hovedgrene, der er tæt forgrenede. Barken er først gulbrun på lyssiden og grøn på undersiden. Senere bliver den bleggrå med mørke revner, og til sidst får den dybe furer og høje kamme. Knopperne er spredte, ægformede og blanke med en brunlig spids og svag behåring. Bladene er 3-10 cm lange, mere eller mindre elliptiske og meget skæve ved grunden. Bladranden er rundtakket eller dobbelt tandet. Oversiden er klart grøn og blank, mens undersiden er lysegrøn med små, hvide hårtotter ved ribbevinklerne, men ellers næsten glat. Blomsterne er samlet i små hoveder. De enkelte blomster mangler kronblade, men standen ser rød ud på grund af støvdragernes farve. De springer ud før løvspring. Frugterne er nødder med vinge rundt langs hele kanten. De modner godt og spirer villigt i Danmark. Rodnettet består af dybtgående og vidtrækkende hovedrødder med fint forgrenede, højtliggende siderødder. Træet sætter mange rodskud. Højde x bredde og årlig tilvækst: 30 x 15 m (40 x 30 cm/år).