继发性和原发性骨髓纤维化的区别，在于继发骨髓纤维化应存在原发病的病理变化，例如转移性骨癌的原发部位及骨髓等受癌细胞浸润组织的活检及涂片检查，亦应有与原发肿瘤相同的癌细胞；全身播散性结核引起的骨髓纤维化，在肺、淋巴结、脾脏骨等应有干酪样坏死的结核病理表现。除骨髓纤维化硬化外还见到破骨及成骨是符合继发性骨髓纤维化的表现。另原发性骨髓纤维化在肝脏等髓外造血器官组织中往往表现有3个系列造血细胞的全面造血，而继发性骨髓纤维化大多表现为1个系列的髓外造血。