在中国，公元前两千多年就出现了最筒单的粉碎工具——杵臼。杵臼进一步演变为公元前200～前100年的脚踏碓。这些工具运用了杠杆原理，初步具备了破碎机械的雏形，不过，它们的粉碎动作仍是间歇的。
最早采用连续粉碎动作的破碎机械是公元前四世纪由公输班发明的畜力磨，另一种采用连续粉碎动作的破碎机械是辊碾，它的出现时期稍晚于磨。公元二百年之后，中国杜预等在脚踏碓和畜力磨的基础上研制出了以水力为原动力的连机水碓、连二水磨、水转连磨等，把生产效率提高到一个新的水平。这些机械除用于谷物加工外，还扩展到其他物料的粉碎作业上。
近代的破碎机械是在蒸汽机和电动机等动力机械逐渐完善和推广之后相继创造出来的。1806年出现了用蒸汽机驱动的辊式破碎机；1858年，美国的布莱克发明了破碎岩石的颚式破碎机；1878年美国发展了具有连续破碎动作的旋回破碎机，其生产效率高于作间歇破碎动作的颚式破碎机；1895年，美国的威廉发明能耗较低的冲击式破碎机。
与此同时，粉磨机械也有了相应的发展，19世纪初期出现了用途广泛的球磨机；1870年在球磨机的基础上，发展出排料粒度均匀的棒磨机；1908年又创制出不用研磨介质的自磨机。二十世纪30～50年代，美国和德国相继研制出辊碗磨煤机、辊盘磨煤机等立轴式中速磨煤机。
这些破碎机械的出现，大大提高了粉碎作业的功效。但是，由于各种物料的粉碎特性互有差异，不同行业对产品的粒度要求也彼此不同，于是又先后创制出按不同工作原理进行粉碎作业的多种破碎机械，如轮碾机、振动磨、涡轮粉碎机、气流粉碎机、风扇磨煤机、砂磨机、胶体磨等。
到了70年代初期，已制造出每小时产量为5000吨、最大给料直径达2000毫米的大型旋回破碎机,和可将物料磨细到粒度小于0.01微米的胶体磨。
用机械粉碎固体物料的主要方法有五种，即挤压、弯曲、劈裂、研磨和冲击。前四种都是使用静力，最后一种则应用动能。在绝大多数破碎机械中，物料常在两种以上粉碎方法的作用下被粉碎，例如，在旋回破碎机中，主要应用挤压、劈裂和弯曲；在球磨机中，主要应用冲击和研磨。
随着科技的发展，破碎机械发展至今，已取得了长足的进步。尤其是进入90年代以后，破碎机械产销量增长迅速，加入破碎机械生产的企业不断增加，使破碎机械制造企业多达万余家，能够生产0.5~30t振动破碎机、4~24t静碾破碎机和16~30t轮胎破碎机等规格品种较为完备齐全的系列产品，基本形成能够自主开发与生产的完整破碎机制造体系，其技术水平与国际先进水平之间的差距正逐步缩小。这种高速增长的局面，势必将破碎机械配套件行业推向一个新的发展时期。