太平天国运动失败后，农民起义已接近尾声，民族矛盾逐步上升为当时中国社会的主要矛盾。这时，虽然捻军在长江以北对清王朝构成新的威胁，但在曾国藩看来，外国列强仍是当时最主要的敌人。这个时期，曾国藩的核心政治思想是“以夷制夷，强我中华”。
魏源一
曾国藩在倡导洋务运动方面，受一个人的影响颇深，这个人就是魏源。
魏源生于乾隆五十九年（公元1794年），曾国藩生于嘉庆十六年（公元1811年），魏源比曾国藩大十七岁，两人可以算是同时代的人。和曾国藩一样，魏源也是两榜出身，他在出任东台、兴化知县期间，依据林则徐所辑录的西方史地资料《四洲志》，参以历代史志和明代以来的《岛志》及当时的夷图夷语，编成了《海国图志》五十卷。后经一遍遍修订、增补，到咸丰二年（公元1852年）已经扩充为百卷本。
《海国图志》囊括了世界地理、历史、政治、经济、宗教、历法、文化、物产等方面的知识。魏源在其中对强国御侮、匡正时弊、振兴国脉之路作了探索，提出了“以夷攻夷”“以夷款夷”和“师夷长技以制夷”的观点，主张学习西方制造战舰、火械等先进技术和选兵、练兵、养兵之法，改革中国军队。为了捍卫中国的独立自主，他号召“以甲兵止甲兵”，相信中国人能战胜外国侵略者。他告诫人们，在“英吉利蚕食东南”之时，勿忘“鄂（俄）罗斯并吞西北之野心”。他提倡创办民用工业，允许私人设立厂局，自行制造与销售轮船、火器等，使国家富强。
《海国图志》成书后，魏源送给了已经回到家乡的曾国藩一套。曾国藩十分赞同魏源提出的“师夷长技以制夷”的观点，但因为与太平天国的战争还在进行，暂时腾不出手来做这些。
咸丰十一年（公元1861年），时任两江总督的曾国藩统率麾下各路湘军，经过几日生死搏杀，终于把被太平军占据整整九年之久的安徽省城安庆收复回来。安庆既是安徽省城，也是天京的门户。收复安庆的战略意义重大，它让太平天国的首都天京完全暴露在湘军的眼皮底下。
曾国藩到安庆后，为了安抚安徽全省士子，先将敬敷书院修葺一新，每月按期课试，校阅文艺。对于优等者，曾国藩还会拿出自己的养廉银子奖励他们。皖中人士，莫不感奋。
为了尽快恢复百业，曾国藩成立了善后局，札委候补司道人员办理，清查保甲，刊发《劝诫浅语》十六条，广为散发。
这还不算，曾国藩在安庆干的最大的一件事，是成立安庆内军械所，调在广东办理洋务的丁日昌负责此事，又发函江苏巡抚薛焕、浙江巡抚左宗棠、江西巡抚沈葆桢等，悉心访募军事制造业技术人员。
安庆内军械所成立之初，曾国藩便定下“全用汉人、不雇洋匠”的办厂宗旨，以手工制造为主，主要制造战争所需的子弹、火药、炸炮，还负责对损坏的枪械、大炮等武器进行修理。
因为是国内第一家军工企业，开办之初可谓困难重重，要人没人，要物没物，连一张像样的图纸都没有。厂房定下来许久都开不了工。这时，许多亲朋好友开始在曾国藩耳边吹冷风，说丧气话，劝曾国藩及早罢手，就算办起来也是劳民伤财，得不偿失。曾国藩不为所动，每天都到大门紧闭的军械所的院子里走几趟。
不久，江苏巡抚薛焕访求到常州父子徐寿、徐建寅二人，还有一个叫华衡芳的，是这方面的行家。三人来到安庆后，与曾国藩交谈了一番，马上又把龚芸棠、张斯桂、李善兰、吴嘉廉等人请过来，共商大计。曾国藩对这些科学家恭敬有加，待遇也非常优厚，每月的薪水比自己还高。很快，按照徐寿等人的要求，丁日昌又照着曾国藩定下的标准，招募了五十名工人。安庆内军械所终于开工了。
徐建寅（左）、华蘅芳（中）、徐寿（右）军械所不仅可以****、火药、炸炮，还开始手工仿制开花炮。到同治元年（公元1862年），安庆内军械所不仅能够批量生产普通枪械、子弹和开花炮，还制造出了我国第一台蒸汽机。同年底，试制成一艘小火轮，成为尔后“黄鹄号”的雏形。次年年初，开始生产各种劈山炮，做工人员也增加到近二百名，已经颇具规模了。
曾国藩顶着各种压力成立起来的安庆内军械所，没有聘请一个洋人参与，是中国依靠自己的力量建立起来的第一家近代军事工业企业，也是中国近代机械工业的发起，是中国近代第一家官办军用企业。它的成立，标志着中国近代工业的起步。
可以这样说，没有安庆内军械所，就没有后来的金陵机器制造局和江南机器制造总局。就连福州船政局，也是左宗棠在看到安庆内军械所的成功经验后才成立起来的。
大清国洋务运动的序幕，其实是从安庆内军械所拉开的。
二
安庆内军械所的成绩固然显著，但无论是自造的开花炮、劈山炮也好，小火轮也好，都不如国外制造的优良，与曾国藩自强新政的希望差得很远。曾国藩心里很清楚，按军械所现在的运营进度，不要说强国强军，一旦外强侵入，连自保都难。
曾国藩十分焦急，便把在国外学过采矿专业的张斯桂请到自己的签押房，向张斯桂问计。
张斯桂很早便随一位族亲到南洋闯荡，后又到英国一家煤矿学习管理和开矿，回来后便到上海一家洋行做买办，与江苏巡抚兼南洋通商大臣薛焕经常打交道。曾国藩在安庆成立内军械所，薛焕知道张斯桂在国外历练过，便把他推荐给了曾国藩。