农民协会与红枪会的根本不同，还在于它基本上是一个贫苦农民为主体的组织，一个拥有激进的口号，切实的策略和知识分子领导的以佃农和雇农为主的团体。诚然，知识分子只有脱下长衫，收起学生腔，与农民打成一片才可能发动农民运动（彭湃、毛泽东等人都有类似的经验），但即使跟农民有了共同语言，穿戴与农民一样了，信服他们的农民依然不会把他们当作自己的一员，对于农民来说，这些让他们感到亲切的读书人还是些了不起的大人物，是可以拯救他们出苦难的能人和超人。在农民中间很容易发展出对这些知识分子的崇拜。一个知识分子高高在上，民众众星拱月式的农民团体当然不见得什么新鲜，但问题是这个团体不仅有当时世界最时髦的理论支撑，而且一直力求保持自己穷人团体的形像，领导的知识分子往往着意去发展那些最穷的农民作为农会的干部，而不是那些文化素质较高的其他人，反过来，越是穷苦的农民对农会的依赖就越强烈，参加活动也更踊跃。还在基本上属于和平发展时期的广东农民运动，就已经显现出这种征兆，第三届的广州农民运动讲习所，基本上都是广东学员，总共128人中，其中有乡村学生29人、工人4人、小商人1人、军人2人、自耕农20人、佃农72人。佃农占56.25%，居绝对优势地位。这个统计数字似乎可以说明农会这个乡村新结构的性质和发展趋势。这一点，也是引起地方精英普遍恐慌和敌视的原因之一，像红枪会这样的组织，或早或晚都有变为富人工具的可能，而农会却没有这种可能，或者大体上没有这种可能。
显然，农民协会要想生存和发展，绝不可能在某些"好军阀"的庇护下，靠给农民做好事维持下去，军阀和豪绅不允许，领导农运的共产党人也不允许，因为他们在当时中国的使命就是革命。尽管当时的共产党人主要精力集中在国共合作上，对农民和农村并没有给以应有的重视，但少数参与农民运动的人和生存下来的农民协会自己都意识到了组织自己的武装和打出鲜明的反抗军阀旗帜的必要和紧迫性。海陆丰的农民协会很自然地就开始组织农民武装--农民自卫军，与政府（陈炯明治下的）的冲突日益增加，显然，陈炯明对彭湃的忍耐也到了最大限度。
但是，在这个时候，由于国共合作，获得了新生的国民党显出蓬勃的上升势头，它的身体似乎还没有从军阀的躯壳中脱出来，就已经获得了取代军阀统治的使命。国民党拥有军队和政府（虽然完全忠于它的党军正在成长中），它的使命就是要对旧军阀的统治取而代之。这种取代至少在当时并不为人所看好，因为国民党的军事力量相对于它的北方和东方的对手来说，实在是太弱，而且本来就已经很弱的力量，还基本上是由各有怀抱的二流军阀组成的。就连国民党自己对此也没有更多的信心，不然的话，孙中山就不会抱重病之躯北上去和他的老对头段祺瑞周旋了。但是，有一点是当时大多数军阀政客所难以估量的，就是经过国共合作，国民党的确获得了前所未有的生机，尽管从内部还是从外部看它都显得一团糟，但却以一种非常规的规模与速度在扩张着自己的势力。如果说国民革命军的东征和南讨在某种程度上为农民运动提供了反抗军阀的合法性，而农民协会的支持，也为国民党统一广东根据地提供了最大的便利。1926年，国民革命军开始北伐，农民运动于是迎来了它大发展的高潮，在北伐军的进军途中，各地农民协会纷纷成立，基本上由共产党人组织发动的农民运动一浪高过一浪，在两湖和江西的农村几乎成了农民协会的天下，甚至北方的农民运动也呈现高涨的趋势。
在1923年初海丰农民协会刚成立的时候，当地"粮业维持会"的绅粮们将几个抗拒加租的农民送上法庭，彭湃还只是率领六千农民前去"请愿"，用庭外示威的方式迫使法庭放了被押农民。当时一位农会领袖鼓动说："现在地主已联合起来，谓彼附城各田主共有10万余（石）租，每石租银1元，有10余万专来与我农会打官司，众农友不要为其所怕。不说他们有10万租，即万万租也是不怕的，因为租者谷也，谷是放在我们农民的家里，不是放在他们的家里，若地主与我们认真的干起来，我们就一致不交租，所以10万租是在我们农民手上，不是在地主手上。我们把5万租来作食料，5万租与地主对抗是有余的，那时地主那里有租呢！众农友不要怕（众大鼓掌）！"可见当时斗争的指导思想就是利用合法手段进行经济斗争，甚至也要与地主一样，用钱来打官司。斗争胜利后，彭湃说："今天得到胜利的力量，是农会能指导六七千的耕田佬团结在一块地方，有一致的行动。集中六七千人的力量，为一个大力量，使官僚不得不怕，不得不放出农友来！我们在今日得到这个经验，大家应该自今日起，更加团结，加紧扩大我们的势力，否则今日的大胜利，会变成将来的大失败！"这时中国农民运动的领导人，还是按照当时合法的工人运动的思路来进行的，斥诸的无非是团结的力量，经济和法律的手段以及示威的压力。
然而，这样美好的场景并没有延续多久，几个月后，当地的豪绅们就伙同政府对农民协会发动了武装袭击，海丰县的县警察与县署地方部队300余人于1923年7月4日连夜包围了县农民协会，抓走农会干部25人。尔后，豪绅武装和土匪袭击农会的事件时有发生。在这种生存的压力面前，广东农会开始武装起来，纷纷成立农民自卫军，1924年7月，国民党广州政府在共产党人的鼓动下，也赋予了农民协会自我武装的权力，并特别规定了农民自卫军的旗帜，旗为青天白日满地红旗上加一犁，旗上还可加一黄带，上书某省某县某区某乡农民协会字样。农民自卫军的成立，加上左派武装大元帅府铁甲卫队的不时支持（有时直接出面打击豪绅武装），广东农民运动才算站住了脚，并在国民党统一广东的战争中积极发挥作用，扰乱敌后，侦察带路，提供担架和后勤服务，特别是在两次东征讨陈的战役中，由于农民协会的作用，陈炯明在他的家乡成了聋子和瞎子，东征军则如有神助，很快就以少胜多彻底打垮了陈家军。这一时期应该算是国民党政府和军队与农民协会的蜜月。
但是蜜月毕竟难以持久，好梦也不会太长。此时的国民党，即使是大部分左派，对农民运动也是怀有一种矛盾的复杂心态，他们当然希望农民运动可以协助北伐军作战，也明白这种协助对于兵力明显弱小的北伐军意味着什么，从这个意义上讲，他们希望农民运动有发展。但是国民党从来就是一个大杂烩，不仅原来的军队中不少是旧习不改的军阀，而在进军过程中，还不断地招降纳叛，吸收各地的军阀加盟，而且在军事上对这些军阀日益依赖，所以政治上自然难免要迁就。这些军阀几乎都与地方精英，尤其是风头正健的武化精英有着千丝万缕的联系，而农民运动却正在而且日益严重地侵剥着地方精英的权力和利益，所以，为了保住与旧军阀的同盟，他们又希望对农民运动加以限制。显然，当时的左派（除了与共产党特别接近的激进人士之外）包括握有重兵的蒋介石都有类似的心态。
早在北伐之前，广东革命政府就对农民协会的权限作了规定，农民协会没有直接的行政权，但可以就农民相关的事务行使控告、警告和代理权，不过不能越级进行；农民协会对于横暴的官吏有请求罢免的特权，但罢免须经过全体大会3/4通过，并报一个特别的由中央农民协会会同国民党中央和政府以及检察官组成的委员会通过，交由政府执行，此外，农民协会还可以派代表出席地方和中央机关有关农民问题的会议，讨论有关农民教育、救济和赈贷等事宜。虽然这个规定对于农民协会干预政府权力作了种种限制，但由于同时规定了对于农民自卫军政府只有监督权，等于说它是一种独立的武装，再加上农民协会对于相当多的涉及农民问题的干预权，实际上为农民协会进一步侵剥地方权力，甚至威胁县以上的政府机构埋下了伏笔。
