谚语云：秀才造反，三年不成。军旅之事，自古就是“文人止步”的范围。兵凶战危，其间种种，与文人所学大都格格不入。文人于军事，多是在笔墨之间表示向往之意。如唐代的边塞诗人。即使忧愁多病之身的李贺，也喜欢写“黑云压城城欲摧，甲光向日金麟开”这样充满战场杀气的文字表达对战争生活的向往。但是唐宋以来以文人出身而在军事领域成功的并不多见，北宋的范仲淹、明朝的王阳明算是特例。在义理考据之学中消磨壮志与才情的清朝士人，更是男儿血性渐凋落，“江湖侠骨已无多”，曾国藩、胡林翼等人能够取得成功，并表现出卓尔不群的军事才干，也就无怪乎蔡锷将军发出感慨了。
曾国藩和湘军从一开始就注定成为19世纪中国的一个最重要的文化现象——“投笔从戎”。这可以说是历史上一支真正由读书人领导的军队。这群读书人挺身而出的最大使命，就是为了捍卫中国传统文化。太平天国对于孔孟的态度，让他们为之激愤，也正如此，让他们立下了“上马杀贼，下马读书”的誓言；至于效忠朝廷等，倒成了次要的目的。在曾国藩、胡林翼、左宗棠等一帮程朱理学的忠实信徒看来，太平天国所提倡的“拜上帝教”等，其实就是类似西方文化妖魔化的体现，是直接违背“天理”的行为，而他们有责任和义务在这样的生死抉择中承担自己的使命。正因如此，这支颇有湖南士林风气的儒生在后来艰苦卓绝的生死绝杀中，屡遭挫折而不馁，表现出了与叛道者誓不共存的殉道精神。
早在太平军初过湖南时，曾国藩就编写了通俗易懂的韵文，发动和鼓励当地士人及百姓团结起来，共同对抗太平天国。这就是今天可以看到的《保守平安歌》三首：《莫逃走》、《要齐心》、《操武艺》。其中《操武艺》一首对乡民和团练的军事技术训练，说得有板有眼：要保一方好土地，大家学些好武艺。
武艺果然学得精，纵然有事不受惊。
石头要打二十丈，石灰罐子也一样。
木板只要五寸宽，箭箭要中靶子上。
石头罐子破得阵，叉钯锚子一齐进。
靶子也立一块板，板上先凿四个眼。
眼内安个小木球，戳在锚子尖上留。
只要枝枝戳得准，保守地方总安稳。
火器虽然是个宝，鸟铳却要铸得好。
火药也要办得真，不然炸裂反伤人。
铳手若是不到家，不如操演不用他。
唯有一种竹将军，装得火药大半斤。
三股麻绳紧紧缠，一炮响动半边天。
件件武艺皆无损，石头锚子更要紧。
石头不花一文钱，锚子耍出一道圈。
若是两个习得久，打尽天下无敌手。
读书子弟莫骄奢，学习武艺也保家。
耕田人家图安静，学习武艺也不差。
匠人若能学武艺，出门也有防身计。
商贾若能学武艺，店中大胆做生意。
雇工若能武艺全，又有声名又赚钱。
白日无闲不能学，夜里学习也快乐。
临到场上看大操，个个显出手段高。
各有义胆与忠肝，家家户户保平安。
诗中所述，大都是冷兵器时代的训练方法，也夹杂了一些简单火器的使用，可以说完全没有超出戚继光《练兵实纪》、《纪效新书》的范围。曾国藩在两次兼署兵部侍郎期间，曾下过功夫钻研军事，对历代兵书多有研究。而他能在这样一首小诗中把单兵技术训练描绘得如此详细、讲解得如此清楚，已经难能可贵了。
与曾国藩一同起事、最初创建湘军的，也都是一批典型的文人，确切地说是一批湘乡文人。谭伯牛把其主要人物曾国藩、罗泽南、王錱称为“三个性格迥异的湘乡人”，另外一位重量级人物江忠源则是湖南新宁人。
除了“三个湘乡人”，当时投在罗泽南门下的还有李续宾、李续宜、刘蓉、刘典、蒋益澧等人，后来都成为湘军营垒中的杰出人物。
“书生治军”是湘军的一大特色。根据罗尔纲在《湘军兵志》中统计，湘军将领中，书生出身的占到百分之五十八；在统领一路乃至多路人马的高级将领中，这个比例更是达到了百分之六十七。
就是这样一群书生联手创建了湘军。不过当时的“湘军”与今天所说的“湘军”，意义不尽相同。郭嵩焘称咸丰四年（1854）“立水陆各十营，号曰湘军”，认为一建军便称湘军；胡林翼在咸丰九年致李续宜的一封信中称“湘军万人循固始、商城，出六安”。在这期间，湘军各主要领导人对所统之军尚无统一和公认的名称，他们所称的湘军只是今天意义上的湘军中的一支。至于把曾、左、胡等人所统之部队概称为湘军究竟始于何时，尚待进一步探求，但王闿运在光绪初年撰写《湘军志》时，确已这样做了。湘籍学者梁绍辉认为，“湘军”之名，始于《清代大事年表》所记载的“咸丰三年七月，曾国藩遣湘军驰援江西”，也就是说湘军因为出省作战，为了区别于他省军队，才被称之为“湘军”。
曾国藩在后来的奏折中叙述这次出省作战的经过说：“（咸丰三年）五月十八日，江西省城被围，前安徽抚臣江忠源招募湘勇二千，楚勇一千，配以三厅兵八百人，赴江救援。其监护军行者则有夏廷樾、易良干、罗信南、康景辉、杨虎臣等，而罗泽南亦自带一营。七月二十日，军至南昌。二十四日因进兵太锐，先胜后挫，谢邦翰、易良干及罗信南之弟罗信东等同时阵亡，此湘勇出境剿贼、带勇绅士力战捐躯之始也。”
自古英雄多磨难，从来瓜儿苦后甜。湘军一起步就遭受了这样的损兵折将。靠舞文弄墨起家的湘军统帅们，凭耕刨犁耙养家的湘军勇丁们，要想成为大厦将顷的清王朝的中流砥柱，显然还需要经过一番脱胎换骨的磨练。