8月，红三军团撤出长沙，在浏阳永和同红一军团会合，成立第一方面军，谢翰文仍担任三军团前委秘书长。这时，部队兵员比以前扩大了6倍，致使部队中的党团组织建设和思想建设等暂时不能跟上。谢翰文便在总前敌委员会议上提出：“加强部队政治宣传教育工作，是当务之急;要使全军干部提高认识，各级领导应做出表率。”他同军团直属队党支部书记张平凯商量后，召开了党支部会议，军团长彭德怀也参加了这次会议。上行下效，部队党团工作很快得到发展。

　　1930年，谢翰文调任红五军第三师政治委员。他到任后，向全师政治宣传干部提出：“把政治宣传鼓动工作做到战士身上去!”

　　当时部队的干部战士大多出身农民，文化水平很低，科学知识贫乏。在攻占敌占区后闹了不少笑话，出过一些问题。比如：缴获敌人的收发报机，听到收报机上还在“嘀嘀嘀……”地叫，就恼火地边用枪托砸、用脚踩还边骂：“我让你再叫，我让你再叫!”硬是把收发报机砸烂才解恨;攻进白区银行，只懂得保护黄金、银元，看到国民党的钞票，便认为是“反动钞票”，废纸一般，撕的撕，烧的烧，当垃圾处理掉，不知道这些钞票还可以到白区买部队急需的药品、物资，致使白白地损失掉。

　　彭德怀等各级领导都深刻体会到: 没有文化的军队是愚蠢的军队，而愚蠢的军队是不能战胜敌人的。因此，部队领导强调要加强部队文化教育。彭德怀以身作则，作出榜样。请谢翰文当老师，利用战斗空隙学文化，每次到宿营地时，谢翰文就把书本和纸、笔、墨、砚准备好，等部队其他干部、战士休息以后，彭德怀查铺、查哨回来再教他学文化。当时纸张既缺又贵，山区还买不到。彭德怀每次率部打下城镇后，就叫人上街买来一些便宜的草纸、箱包纸，用来写毛笔字，既学写了生字、生词又练了书法。在谢翰文的辅导下，彭德怀以滴水穿石的功夫，日复一日坚持学习，文化水平提高很快，慢慢能亲手修改或亲自起草作战命令、文书了。

　　彭德怀带头识字、学文化，极大地促进了部队文化教育活动的开展。当时识字的人很少，凡是能识几个字的就当老师，叫做“能者为师”。为了能让大家识字，做到行军、识字两不误，谢翰文建议，行军中每个人背包上贴一两个字，大家边行军边认字，到了宿营地就互相测验，看记住了没有。

　　为了进一步调动干部、战士识字、学文化的积极性，部队各级领导还将识字活动渗透到娱乐生活中。如:在墙报上开展识字问答，晚会上开展识字比赛;设立“识字岗”，不认识会岗哨上这个字的不能过这一道岗哨。这种带点娱乐性的识字活动，提高了大家识字的兴趣，收效很好。当时，正式上文化课的时间不多，很多时候是把政治课和文化课结合起来上。比如讲阶级斗争问题时，就把工人、贫农、中农、富农、地主、资本家和帝国主义、军阀、压迫、剥削等写在门板上，结合政治识字。当然，有时也请有些专门知识的同志给大家讲些兵器常识、科学知识和卫生防病知识等，使大家增长见识……

　　1931年春，谢翰文同师长彭鳌奉彭德怀军团长命令，带领红五军第三师长时间隐蔽在东固地区达25天之久。当时，部队严重缺粮，战士衣着不够，谢翰文便同师长彭鳌商量，发动师直属机关工作人员上山挖竹笋、野菜充饥，把节约的粮食送到连队去。他和师长彭鳌夜晚巡查连队岗哨时，看到战士衣服单薄，便脱下自己的衣服给战士穿。后来，谢翰文还规定连队晚上要给站岗的战士做御寒的姜汤，预防生病。师首长的关心，激起了全师官兵的斗志。5月30日，部队对建宁城发起攻击，全歼守敌刘和鼎3个团的兵力。随后，部队又参加了莲塘罗子沟、方石岭战役。为了充分发挥战场上对敌政治宣传作用，谢翰文组织战士用风筝载着宣传标语飘送到敌方阵地，还派出战士在阵地前喊话，有力地配合了战斗的进行。

　　部队在连续取得胜利的同时，俘虏了大量敌兵。为扩大政治影响，根据红军优待俘虏的政策，谢翰文主持召开师党委会，决定将大批俘虏释放。这件事遭到了“左”倾领导者的指责，说谢翰文“右倾”、“无原则性”。谢翰文坚持真理，据理力争：“这是按红军优待俘虏政策办的，没有违背原则。”后来，有人把情况上报，谢翰文被撤职，留在师政治部做一般的宣传工作。但谢翰文仍然踏踏实实地工作。至今，老将军方强在回忆当时的情形时，仍感叹地说：谢翰文同志在中央苏区反一、二、三次“围剿”期间，因多放俘虏的问题，遭到错误路线的打击。他虽然被降职使用，思想有情绪，但工作仍很努力，特别是在宣传工作方面，做了很多工作。

　　参加长征，积极扩大红军队伍

　　1934年10月，谢翰文随红三军团长征。

　　长征途中，谢翰文充分发挥自己的才能，编写了许多行军快板、歌谣，以鼓舞战士们的士气。其中，《冲锋歌》很受欢迎：

　　杀啊!杀啊!冲锋，冲锋!

　　高虎脑，万年亭，

　　红军个个都英勇，

　　杀得敌人胆抖心惊，

　　前进，快前进!

　　消灭前面的敌人，

　　最后的胜利属于我们!