1924年1月20日，国民党一大在广州举行，毛泽东在会上席位为39号，为出席会议中共20余代表之一。会上，毛泽东被指定为国民党章程审查委员会委员。30日，在大会选举中执委、候补执委和监委时，毛为孙中山亲手书列名单之一，被选为候补执委，同时被选的中共党员有：执委，李大钊、谭平山（常委、中组部部长）、于树德；候补执委，沈玄庐、林伯渠（农民部部长）、毛泽东、于方舟、瞿秋白、韩麟符、张国焘。
国民党改组是孙中山晚年对松散政客集合体的上层知识分子及有产阶级政党作出的一次大改造，企图以脱胎换骨式的变革来实现国民党的近代转型，借鉴苏联革命经验及经济、军事支持，吸收中共等激进组织补充新鲜血液，其基本骨干为鲍罗廷（国民党特别顾问）和廖仲恺、邓泽如、汪精卫、张继、李大钊、谭平山等国共知名人士。
一次大会后，国民党中央总党部决定派遣中委分赴北京、上海、四川、汉口、哈尔滨各特别区，组织执行部，指导当地党务。2月下旬，毛泽东、罗章龙、王荷波（3人均为中央局成员）、恽代英（青年团中央编辑即宣传部部长）4人受中共中央指派参加国民党上海执行部工作。
按国共两党商定，遇有特别重大问题，上海党务由国民党总理孙中山与中共中央局委员长陈独秀协商决定，同时，中共中央还决定派沈泽民、邵力子、瞿秋白、施存统、邓中夏、向警予、张秋人等共产党人参加该执行部各部门的实际工作。
2月25日，国民党上海执行部正式成立，分管江苏、浙江、安徽、江西和上海5省市党务。执行部常委为胡汉民、叶楚伧、汪精卫；邵元冲为文书科主任，邵未到任前，由毛泽东代理；胡汉民任组织部长，毛泽东任秘书；汪精卫任宣传部长，恽代英任秘书；于右任任工人农民部部长，邵力子任秘书；叶楚伧任青年妇女部长，何世桢任秘书；茅祖权任调查部长，孙镜任秘书。其他共产党人任职情况是：组织部干事罗章龙；宣传部干事施存统、沈泽民；工人农民部干事邓中夏、王仲一，办事员王荷波、刘伯伦；青年妇女部助理向警予，办事员杨之华、王一知。
国民党上海执行部组织涣散，人员庞杂，内部斗争十分尖锐激烈。上海自民国成立后一直为国民党要人活动中心之一，多国民党元老级人物，一般属保守的右派，对孙中山联俄、联共颇生不满；加之叶楚伧等实为主事者，叶为著名右派，执行部内对叶进行针锋相对的则是毛泽东诸共产党人。罗章龙：《椿园载记》，三联书店1984年版。
8月1日，由叶楚伧策划，一批右派分子群集上海南方大学会议，讨论“处置共产分子问题”，激起左派人物的强烈反应，发生武斗。越日，右派分子闯入上海执行部，群殴邵力子。毛泽东、恽代英等见此，即联名上书孙中山，控告叶楚主持不力，几近纵容，破坏国共合作，毛泽东成为执行部左派的中心人物，与叶矛盾公开化。此前，由于对部内矛盾与分歧的不满，毛已辞去组织部秘书职务，只从事文书科领导工作，而集中精力于中共中央局组织部事务（在5月扩大的中共中央执行委员会会议上被任命为中组部部长）。
12月，眼见国民党上海执行部右派夺权已成定局，在党内与陈独秀等观点多有歧义，加之身体颇弱，便向中央请假养疴，回湖南休养，直至1925年9月。
是年9月底，休养大半年的毛泽东受中共中央委派，再次返回广州，参与国民党二大的筹备，并接受因政务繁忙为由请辞中宣部长一职的汪精卫的荐举，代理该职，时汪为孙中山去世后国民党内的第一人，任国民政府主席、政治委员会主席。
毛泽东成为大革命时期颇有声名的国民党人，也是自出任该职后。舆论宣传一直是国民党革命与统一的原动力，毛泽东以其突出的理论才华，如椽妙笔，主持创办中宣部机关刊物《政治周报》，旗帜鲜明地与西山会议派、戴季陶主义及进步党、政学系诸反共反社会主义政治派别进行斗争，成为宣扬孙中山联俄、联共、扶助农工为核心内容的新三民主义的宣传阵地，其名重一时的《中国社会各阶级的分析》一文也是这时候理论思考的结晶，尤其是关于统一战线中中间派的研究、对农民问题的关注，使毛泽东成为左派理论家中的出类拔萃者。
毛泽东在1926年1月召开的国民党二大上继续当选为候补执委，5月因限制共产党人活动的《整理党务案》通过，毛泽东、谭平山、林伯渠被迫请辞所任国民党部长职，而专事国民党中央农民运动委员会下辖广州农民运动讲习所的领导工作，毛是该委员会委员，后又由武汉国民政府任命为中央土地委员会委员，直到1927年7月汪精卫分共已不可避免，才与所有中共党员一起退出国民党政府。
毛泽东在3年多的国民党内工作中，一直处于高层领导的前沿，相继卓有成效地负责组织、宣传、农运工作，不折不扣地实践了一个真正国民党左派的角色，是中共中央内在国民党内开展实际工作较好的人员之一，无论在工作经验、从政阅历、党派斗争，还是处理上层人物关系方面，都取得了相当的效果，这为毛泽东以后成为一代中共领袖，应该说打下了一定的能力、人事基础。
“农民运动之王”
毛泽东自接手广州农讲所所长之职后，即以其敏锐的洞察力、深厚的身世背景，专心致力于农民运动骨干的培养、理论的研究及斗争的开展。周恩来高度评价了毛泽东此一时期的工作，说：“1925年五卅运动以后，工人运动、农民运动在全国得到了空前的大发展，规模之大是过去所从来没有的。从这个运动中，能看到革命的发展是走向农民的革命战争，能看到革命发展这个全局的在我们党内的代表是毛泽东同志。他接办农民运动讲习所，进行农民土地问题的调查研究，出了二十几种小册子。历届讲习所的学生后来分散到湖南、湖北和其他各地，发动了广大的农民运动。”见周恩来：《关于1924年至1926年党对国民党的关系》，《周恩来选集》（上），人民出版社1980年版。尤其是到1926年5月辞去国民党中宣部长职后，毛更将精力凝聚于湘、鄂、粤诸省的农民运动上。
1926年下半年，毛泽东发表《国民革命与农民运动》一文，第一次公开提出“农民问题乃国民革命的中心问题的观点”，说：“农民不起来参加并拥护国民革命，国民革命不会成功，农民运动不赶速的做起来，农民问题不会解决；农民问题不在现在的革命运动中得到相当的解决，农民不会拥护这个革命。”号召自己的学生、这些革命的青年知识分子，到农村去引导农民参加与城市工人、学生、中小商人合作，建立联合战线，与土豪劣绅争斗，参与反对帝国主义与封建军阀的国民革命运动，“尤其是南方的湘粤赣，北方的直鲁豫，中部的鄂皖，几个政治上特别重要的省份，应该下大力从事组织”。《毛泽东文集》第一卷。
使毛泽东享有与彭湃齐名的“农民运动之王”美誉的是《湖南农民运动考察报告》的发表。1926年11月，中共中央决定由毛泽东、彭湃、阮啸仙、易礼容、陆沉、萧人鹄和青年团1人等7人组成中央农民运动委员会，毛为书记，指导全国特别是湘、鄂、豫、赣、川省的农运工作。毛泽东旋即主持制定《目前农运计划》，提出在目前开展农运取集中的原则，“全国除粤省外，应集中在湘、鄂、赣、豫四省发展，次则陕西、四川、广西、福建、安徽、江苏、浙江七省。”并计划在武昌开办农讲所，以培养骨干。
同时，毛还以国民党中央候补执委身份回到湖南，指导该省工农代表大会的召开。此前，毛在中共中央汉口特别会议上，即提请陈独秀等注意解决农民土地问题。毛由于多年农运的经历，在湘省颇有名望，作为特邀代表莅临大会，自是使代表们兴奋不已，此次大会会刊对毛的评价是：
“毛先生泽东奔走革命，卓著勋绩。对于农民运动，尤为注重。去岁回湘养疴，曾于湘潭韶山一带，从事农民运动，湘省之有农运，除岳北农会外，实以此为最早。后为赵恒惕所知，谋置先生于死地，先生闻讯，间道入粤。农民代表大会开幕时，曾电请先生回湘，指导一切，现已抵湘。”在粤历任中国国民党中央党部要职，此次革命军势力北展，先生为发展全国农运，奠定革命基础起见，遂于前月离粤赴长江一带视察农运情形。《湖南全省第一次工农代表大会日刊》第19期（1926年12月20日），转引自高菊村、陈峰、唐振南、田余粮：《青年毛泽东》，中共党史资料出版社1990年版，第266页。)
1927年1月4日，毛自大会闭幕后，即以国民党中央候补执委、中共中央农委书记双重身份开始分赴湘潭、湘乡、衡山、醴陵、长沙5县巡视农运和党务。身着蓝布长纱，脚穿草鞋，手拿雨伞，在寒冬腊月、风雪交加中步行于田间山林，问寒暖贫苦于村夫农民，实地了解了轰轰烈烈的湖南农运情况，于2月5日结束32天的考察。
16日，毛将所见所闻所思所想报告中共中央，强调中共应改变以前看法，纠正政府、国民党、社会各界一致的农运糟得很、痞子运动的议论，断言农运好得很为不争的事实；认为农民问题只是一个贫农问题，贫农问题又只是资本与土地问题，要求必须极端重视农民斗争，特别是贫农大众乃是革命的行动先锋、中坚和元勋。这篇报告后来于3月5日至4月3日由中共湖南区委机关刊物《战士》周报公开连载，题名《湖南农民运动考察报告》，文章还提出了一些非常著名的观点，主要有：
农民的主要攻击目标是土豪劣绅，不法地主，旁及各种宗法的思想和制度，城里的贪官污吏，乡村的恶劣习惯。这个攻击的形势，简直是急风暴雨，顺之者存，违之者灭。其结果，把几千年封建地主的特权，打得个落花流水。
孙中山先生致力国民党革命凡四十年，所要做而没有做到的事，农民在几个月内做到了。这是四十年乃至几千年未曾成就过的奇勋。这是好得很。
革命是暴动，是一个阶级推翻一个阶级的暴烈的行动。《毛泽东选集》（第一卷），人民出版社1991年版，第12~42页。)
毛泽东这种对农民运动无条件坚决的支持，基本贯穿于毛的一生。毛此文受到鲍罗廷的亲信瞿秋白的支持，瞿欣然为此文作序，号召“中国的革命者个个都应当读一读毛泽东这本书，和读彭湃的《海丰农民运动》一样”。
随之，毛回到革命中心武汉，筹办、主持武昌中央农民运动讲习所。该所由国民党中央党部指定以湘、鄂、赣3所农讲所合并，并增招豫、直、陕、鲁等省学生，共有学员800人，第一期学习4个月。该所由国民党中常委支付活动经费，以邓演达、毛泽东、陈克文为常委，因邓身兼武汉国民政府多项军政要职，毛为该所实际主要负责人，所聘教务干部亦多为中共党人。教务主任周以栗，训育主任陈克文，事务主任柳季刚，总队长郭宋昌，秘书夏明翰等。该所学员文武兼修，毛泽东还亲送编制学员赴阳新、松滋、麻城等地平叛，与右派正规武装如夏斗寅部及土匪多部展开实地战斗，都获胜利。经3月余学习，6月18日，学员全部毕业，大都成为土地革命时期各地武装暴动的骨干。
蒋介石在上海发动“四一二”反共政变后，武汉政治局势极为复杂，中共中央由于共产国际与陈独秀的妥协退让，政策妥协有余，对汪精卫的右转步步退却，毛泽东此时是中共内部的强硬派，与蔡和森等成为坚决反对国民党主张武装反抗其统治的代表人物。
