1928年初,孙开楚率领亲自组建的家乡农民武装参加湘南起义,任工农红军第7师第1团第2营党代表。同年4月,随部上井冈山,先后任工农红军第四军第11师第33团团部秘书和第2营党代表、红四军第3纵队党委文书、红四军军部机要保密员等职。曾对中央红军机要文书档案保管工作作出过重大贡献。现存中央档案馆有关井冈山时期和长征途中的许多重要文件,都是孙开楚经历千难万险,靠一件自制的“夹衣”保存下来的。特别是遵义会议上被留在毛泽东身边任机要文书后,为了抵制张国焘分裂红军的阴谋,曾机智地拒绝了张国焘以借阅为名而获取中央政治局毛儿盖会议文件的要求。后被任命为机要科科长。