魏晋南北朝时期玉剑饰呈现衰落趋势，剑饰范围更小，数量也较少。从考古发现的实物来看，大概有两类:一类为汉代风格的延续，以江苏南京中华门外西晋墓出土的玉剑饰为代表，作品为长条形，表面饰凸起的勾连云纹，一端为小兽面。另一类为辽宁省北票县北燕冯素弗墓出土的玉剑首，表面凸起，有多层次的云水纹，同汉代流行的玉剑首风格不同。