建立政权、巩固政权都必须依靠革命的武装力量，中共大冶县委从大革命失败的痛苦教训中深深地认识到了这一点。因此，自它正式建立以后，除了动员大批革命青年参加主力红军外，还自上而下地建立了许多地方武装组织。1928年8月，大冶县委就集中全县20余人，10多支手枪成立了手枪队（又称游击队），规定其任务是打击豪绅地主，保卫人民利益。手枪队直属县委领导，驻扎在南山头，余立金、刘全三、李德胜先后任队长。1929年秋，大冶县委又组织了一个手枪队，谢福安任队长，驻在金公祠。1929年2月，地下共产党员侯中英策动小箕铺民团起义后，将其带出的人员与大冶、阳新两县游击队合并，成立大阳游击队，有200余人，160支长短枪，驻扎南山头，活动于大（冶）阳（新）鄂（城）边境。刘仁八起乂胜利后，中共大冶县委和中共大冶中心县委将参加起义的部分人员和大阳游击队合编成中国工农红军第十二军，这是一支地方武装部队，开始只有100余人，编为一个大队，后扩充至两个纵队，一个教导大队，拥有千余人，700余支长短枪。这支地方武装

在配合主力红军作战和打击地主的反动武装中发挥了极其重要的作用。1929年秋，大冶中心县委将收缴到的30支短枪分给大冶、阳新、通山、鄂城、圻水，组成大冶中心县委手枪队，先后由刘全三、马先胜任队长，活动在鄂（城）大（冶）阳（新）通（山）圻（水）边境各地。1929年12月，“大冶兵暴”成功以后，红军扩编，原大冶县地方武装绝大部分编入红五军第五纵队。这时，大冶县委为了保卫大冶的红色政权，又成立了大冶县赤卫大队，刘振山为该大队负责人，有队员200余人，枪200支。1930年春赤卫大队改为赤卫军独立营，刘汉业任营长，阮耕兼政委。下辖四、五、六、七、八、九、十及龙山、黄汉9个区赤卫队。1931年夏，大冶县赤卫军编为赤卫军团，县成立团部，各区成立纵队部。其组织法规定：以12人为一分队，3个分队为1中队，3个中队为1大队，3个大队为1支队，3个支队为1纵队（每区不论多少支队只成立1个纵队）。1931年春，由于形势变化，县苏维埃机关全部转移，鄂东南苏维埃政府军事部命令，在大（冶）阳（新）鄂（城）3县中心区成立二个组织。大冶县将游击队集中起来，有60余人，22支步枪，编为独立红四营；受大阳鄂中心区指挥部指挥。后来发展到1200多支枪，两挺重机枪，编为4个连，九连担任果城、黄汉两区工作，十连担任唯一、大成两区工作，十一连担任升启、高才、振亚3区工作，十二连担任龙泉区工作。1931年春，为了打击国民党反动军队和地主武装对苏区的反革命“围剿”，大冶县在成立县、区、乡、赤卫军、赤卫队的基础上，抽调骨干和有军事经验的青年，成立红色游击队，有400多人枪。这是一支精干的地方武装。在这以前，（即1930年冬）为了补充红军成立了红军补充营，柯文杨任营长，陈公安任政委，这是一支脱产性质的红色武装。

1931年冬，大阳县设立后，在大阳成立了一支游击队，直属大阳县苏维埃政府军事部指挥。全队30余人，13支枪。大阳县撤销后，丸免游击队改为振亚区游击队。

土地革命战争时期，大冶县（包括大阳县）先后建立的这些地方武装，在党的领导下，开展游击战争，惩治土豪劣绅，打击民团，粉碎国民党反动派对苏区的多次“围剿”中发挥了重要作用，是大冶县土地革命战争中一股不可替代的革命中坚力量。