义和团运动以后不过十几年，鲁南沂水、莒县一带又出现了类似的民间组织，就是大刀会，起因是苛捐杂税繁重，农民自发组织起来，念咒、练刀、自称刀枪不入，他们习武自卫、抗捐抗税，势力迅速壮大，与官府、驻军冲突不断。
​
1933年，大刀会围攻乡公所、抗拒驻军清乡，省主席韩复榘认定其为“匪乱”，决定武力镇压。

​当年6月，韩复榘假意招安，诱骗大刀会首领派代表进城谈判，随后将谈判代表秘密杀害，和谈破裂。

7月2日，韩复榘派八十一师向大刀会据守的黄石山发起总攻，以迫击炮、机枪猛攻，攻破山寨后大肆屠杀，周边村庄亦遭血洗，屠杀极其惨烈，老幼妇孺皆遭残害，史称黄石山惨案。

事后，韩复榘对外通电宣称“击毙四千余人、匪患肃清”，实际上周围十几个村子几乎被屠灭，大量平民死于非命。