张载在设馆讲学、试验井田的同时，开始对他一生的研究成果进行全面的总结。辞官回乡六年来，长期的脑力劳动和体力上过度的劳作使他心力交瘁，疾病缠身，但他仍以诗书为乐，孜孜以求，著书立说，勤勉不已。他所作《老大吟》一诗，再次寄托了他暮年矢志不移的追求和愿望：
老大心思久退消，倒巾终日面召尧。
六年诗书无限乐，一种难忘是本朝。
宋神宗熙宁八年（1075年）春，岐州大旱无禾，尸骨遍地，饥民中甚至出现了人吃人的现象。这时，张载的家人欲将糙米拿去捣碾，张载见此，上前急忙阻拦，并对家人说：“饥殍遍野，虽蔬食且自愧，又安忍择乎。”（《行状》）意思是说：如今，饥民饿死者到处都是，我们能吃上这些粗食已感到惭愧，还怎能忍心择食。看到饥民惨状，张载每次吃饭都不能下咽，内心充满了对穷苦百姓的无限同情和怜悯。
宋神宗熙宁九年（1076年）三月，张戬由山西夏县转运使再度被贬为凤翔府司竹监（今陕西周至司竹镇管竹子的官员）。同年三月，秉性刚烈的张戬不堪忍辱，自感远大抱负无法实现，在万分郁闷和失意中暴病身亡，终年四十七岁。
噩耗传来，张载放声大哭，痛不欲生。他逢人便说：“吾弟德性之美，吾有所不如，其自假而勇于不屈，在孔门之列，宜于子夏（孔子的高足）先后，晚而讲，学而达，吾弟全器也。然语道而合，乃自今始。有弟如此，道其无忧乎。”（《宋元学案》卷十八《横渠学案下》）
张戬自幼受兄长抚养和教诲，聪颖好学，不负众望，且为人正直，正道直行，敢作敢为，光明磊落，有这样德才全器，语道而合，才华出众的弟弟，张载从内心感到无比的骄傲和自豪。客观地讲，由于张戬累章上书皇帝，坚决反对王安石变法，结果除自己遭到连续被贬的厄运外，其兄张载也因此不得不辞官归故里，失去了实现自己政治抱负的机会。应该说，张戬的行为影响了张载后半生的仕途，但从张载的言行中，却没有丝毫的怨愤之意，足见他们兄弟二人的感情之深。
张戬去世后，被安葬在横渠大镇谷迷狐岭其父墓之西南右侧。张载亲自为弟弟写了墓志铭：“哀呼吾弟。而今而后，战兢免去！有宋太常博士张天祺以熙宁九年三月丙辰朔暴疾不禄，越是月哉生魄，越翌日壬申，归附大镇谷大夫之茔。其兄载以投葬不得请铭他人，手疏哀词十二，各使刊石置圹中，示后人知德者……”。同年，张载亲手编定了《弟戬丧服纂要》。
在横渠，张载除了设馆讲学，试验井田外，不遗余力著书立说。他的弟子吕大临在《行状》中这样描述他：“终日危坐一室，左右简编，俯而读，仰而思，有得则识之，或中夜坐起，取烛以书……”经过数十年的精思力践，张载终于以顽强的毅力写就了数万字的长篇巨著《正蒙》，比较完整地记录了他一生理论研究的杰出成果。
宋神宗熙宁十年（1077年），秦凤路（今甘肃天水）守帅吕大防以“张载之学，善法圣人之遗意，其术略可措之以复古，乞召还旧职，访以治体”（《行状》）为由，上奏章向神宗推荐张载回京就职。于是，神宗二次下诏，召张载进京。这时，张载虽身患严重的肺病，但他深知君命不可违，同时，也觉得可借机推行自己的政治主张，实现自己的宏图抱负，因此，他说：“吾是行也，不敢以疾辞，庶几有遇焉。”（《行状》）便不顾身染重疾，毅然带病入朝。
入朝后，神宗即任命张载为太常礼院同知（礼部副职）。当时，有人向朝廷建议实行冠婚丧祭之礼，下诏礼官执行，但礼官安习故常，认为古今习俗不同，无法实行过去的礼制，只有张载认为此建议可以采纳，并指出：“称不可非儒生博士所宜。”（《行状》）由于礼官坚决反对，与张载意见明显产生分歧，最终议而不决。张载看到礼不致严，欲以正之，而众官不以相助，心情十分沉重，加之病情再度恶化，深感心有余而力不足，于是二次辞官西归。途经洛阳，张载再次拜见了程颢、程颐兄弟。他对二程说：“我的病情很重，恐怕很难到达长安。”二程见表叔形容枯槁，憔悴不堪，心里十分难过，再三奉劝他在此多休息几日，待病康复后再起程，张载婉言谢绝。但在临走前的晚上，张载还是拖着沉重的病体坚持和二程就人性、道德伦理、军事等方面进行了推心置腹地探讨和交流。其中就“关学”与“洛学”进行了如下议论：
正叔谓：“洛俗恐难化于秦人。”子厚谓：“秦俗之化，亦先自和叔有力焉，亦是士人敦厚，东方亦难肯向风。”
子厚言：“关中学者，用礼渐成俗。”正叔言：“自是关中人刚劲敢为。”子厚言：“亦是自家规矩太宽。”（《河南程氏遗书》卷十）
张载和程颐的这段对话，既道出了关学与洛学的异同，更突显了关学淳厚、奔放、独特的作风。他们的这次谈话，后来被张载的弟子苏昞整理成为《洛阳议论》。
这年冬月，张载依依告别二程，离开洛阳，继续西归。行至陕西临潼，当晚住在客店，洗完澡后，便自行歇息，不料次日凌晨与世长辞，享年58岁。临终时，只有外甥宋京一人在身边，再无亲人。因无钱买棺，无法成殓，宋京连夜哭奔长安。长安弟子闻讯后，又哭奔临潼，才得以买棺入殓，并护送灵柩回到横渠。翰林院学士许诠等奏明朝廷，要求乞加赠恤。后来，神宗下诏按崇文院三院之职赐支丧葬费用。神宗元丰元年（1078年）三月，张载葬于横渠大镇谷迷狐岭其父墓之东南，与弟弟张戬墓左右相对。
张载殁后，妻子郭氏因生活无着，便携子张因前往河南南阳娘家寄居。
南宋嘉定十三年（1220年），宋宁宗赐谥“明公”。淳祐元年（1241年），宋理宗赐封“眉伯”，从祀孔子庙庭。明世宗嘉靖九年（1530年），赐称“先儒张子”。
张载一生，三历外仕，两被召晋，设馆讲学，试验井田，终生一贫如洗，但他却给后世留下了许多宝贵的思想财富。其中《正蒙》是张载最为重要的一部力作，也是中国古代哲学发展史上的一部经典巨著。后来，张载的弟子苏昞效仿《论语》《孟子》的体例，编为十七篇，即成为现今的版本。《正蒙》取之于《周易》中“蒙以养正”之意而作书名。“正”即订正愚蒙昧，启蒙以致圣功，使人始终皆正不邪，所以，南宋著名的理学家朱熹说：“蒙者，蒙昧未明之谓；正者，订正之也。”（《正蒙·太和篇注译》）
张载对《正蒙》一书极为看重，认为其可与《论语》《孟子》相提并论。在写完《正蒙》后，他对弟子说：“此书予历年致思之所得，其言殆于前圣合与，大要发端示人而已，其触类广之，则吾将有待于学者。正如老木之株，枝别固多，所少者润泽华叶尔。”（《行状》）张载认为，《正蒙》一书是自己多年精于思辨的结果，其内涵与先圣（指孔孟）之意十分相合，期望得到弟子们的发挥、充实和完善。
张载的弟子对《正蒙》一书更是推崇备至。弟子范育称其为“致广大，尽精微，极高明，道中庸”。上至天文地理，下至人伦物理，无所不包，无所不尽，无所不至，它所阐发的道理是放之四海而皆准的真理，即使圣人复起也不能改变。学习和掌握了其中的真理，既能崇德，又能广业，成为圣贤君子，否则便成为龌龊邪佞的狂徒小人。
张载的著作，有的是他自己亲自所写，有些是他历年讲学的记录，经后人收集编辑的，但都是张载思想的真实记录和反映，都是关学理论的主干和发端。
张载一生的著作很多，除《正蒙》外，还有《文集》《礼乐说》《孟子说》《语录》《横渠易说》《经学理窟》等。
