辞官后，回到阔别多年的故乡陕西眉县横渠，张载过起了平常人的普通生活。据《行状》记载：“横渠至僻陋，有田数百亩以供岁计，约而能足，人不堪其忧，而先生处之益安。”这句话的大意是他依靠数百亩薄田，养家糊口，清贫度日，勉强可以维持生计。村民们看着他如此辛勤劳作，却敝衣粗食，十分同情和担忧，但他以苦为乐，泰然置之。不久，张载萌发了设馆讲学的愿望，于是他将自己的想法告诉乡邻。纯朴憨厚的乡亲们虽然对大千世界之事知之不多，甚至许多人目不识丁，但大家都十分信任和尊敬他，觉得张载所提倡的事，一定是为百姓谋利造福的千秋大事，自然十分赞同。
经过反复筹划，张载决定将办学的地点设在自己当年曾经就读的横渠镇崇寿院。崇寿院位于大镇谷村北约十里的地方，附近有四个村庄，最初为当地一所有名的私学，后因连年战乱，加之旱涝灾害，周围百姓食不果腹，贫困交加，因此，生源一减再减，到后来，不得不关门停学。
张载在家乡设馆办学的消息，很快在关中一带传开，许多人慕名而来，纷纷要求拜他为师。此前，张载曾在京城相国寺受宰相文彦博之邀设虎皮椅讲《易》，后又分别在长安、武功绿野亭、扶风仙山寺应邀讲学，因此，早已声名大震。
一天，张载在思忖着筹资扩大书院规模，闻讯远道而来的蓝田吕氏三兄弟吕大忠、吕大钧、吕大临也要求拜师求学，这使张载喜不自胜，办学信心大增。当张载提出要扩大办学规模时，豪爽仗义的吕氏兄弟当即慷慨解囊，表示愿不惜一切代价，支持他兴馆办学。
蓝田吕氏家族世代为官，是闻名关中的名门望族。据《宋史·吕氏兄弟》记载：吕氏祖籍汲郡（今河南汲县），其祖父吕通在朝廷任太常博士，去世后葬在蓝田（今陕西蓝田县），自此，吕家便正式定居蓝田。其父吕蕡官至比部郎中，共生六子，其中有五子均登科及第。这六兄弟按年龄大小分别是吕大忠、吕大防、吕大钧、吕大受、吕大临、吕大观。兄弟六人中吕大忠、吕大防、吕大钧、吕大临均有传记可考，吕大受、吕大观二人在陕西省文物局2009年对蓝田吕氏家族墓群的发掘资料中得到了证实。
在吕氏兄弟中，吕大忠是长子，但据史料，真正对张载办学影响最大的应该是吕氏兄弟中的吕大钧和吕大临。
据《宋元学案》卷三十一《吕范诸儒学案》载：“横渠（张载另称）倡导于关中，先生（指吕大钧）与横渠为同年友，心悦而好之，遂执弟子礼，于是学者靡然之所趋向。”吕大钧早年曾与张载一起参加殿试，并同登金榜，二人志趣相投，互相尊敬。吕大钧十分仰慕张载的为人和学识，此前已结为至交好友。因此，品行高洁、德高望重的吕大钧，亲自拜师张载门下，积极奉行和倡导张载之学，不仅使求学于张载的人数大大增加，也为关学从此走向兴盛奠定了基础。吕大临在兄弟中虽不善外露，但他为学“深潜缜密，资质甚好”，因此，其德行学问和才能均为上乘。
张戬十分赏识吕大临，亲自把自己的女儿许配给他，并自信地对人说：“吾得颜回为婿矣。”吕大临拜师张载门下，使张吕亲戚关系和师徒关系互相叠加，更加亲密。加之吕大临超人的智慧及吕氏家族的名门效应，极大地带动了关中学者的求学之风。吕大忠身为吕氏兄弟之长，庄重耿直，言行一致，身体力行，勤勉好学，堪为兄弟中治学的榜样。被称作“北宋名相”的吕大防虽未拜师张载，但他是兄弟中官职最大的一人。他深受兄弟们的影响，也极为敬佩张载的学识和为人，这也是后来他向神宗举荐张载的缘由所在。
蓝田吕氏兄弟拜师张载门下以后，关中各地前来求学的络绎不绝，人数达到了办学以来的最高峰，横渠书院从此进入了历史上最辉煌的时期，成为当时全国四十所著名书院中影响力最大的书院之一。前来求学的上有朝廷官员，下有普通百姓；有年近古稀的老人，也有涉世未深的儿童，还有许多是贡举进士。对自愿求学者，张载来者不拒，一一接纳。他把学生按年龄分成不同的班级，采取分级讲授、因材施教的办法，使每一位学生都能学有所获。
张载治学严谨，立教有方。他在讲授深奥的天地之道时，深入浅出，举一反三，旁征博引，直至学生融会贯通；对普通的道德礼仪规范，他能动之以情，晓之以理，循循善诱，以达到潜移默化的效果。为了规范学生的言行，张载把他精心编写的《订顽》《砭愚》，书于书院大门东西两侧，作为治学格言，用以警诫和训导学生。张载在谈到他编写《订顽》的用心时说：“《订顽》之作，只为学者而言，是所以《订顽》。”（《张载集·语录上》）后来，程颐以易起端，将《订顽》改为《西铭》，将《砭愚》改为《东铭》。《西铭》虽然只有短短的三百余字，但其言约意深，志高境远，成为张载治学育人的基本纲领。
在《西铭》中，张载首先提出了育人的最高目标，以及要达到这种目标的根本途径。这个目标展现的是一幅“民胞物与”的大同世界和这个世界中的每一个成员应具有的健全完美的人格标准，在“人人是我的同胞，万物为人类伙伴”的理想社会里，人不仅要做到爱人，而且更要爱物。理想的大同世界是人人所向往的社会，只有穷其神，知其化，尽心尽力地做好每一件事，才能不辜负天地父母的厚望，从而实现人类社会的最高理想。同时，一个完美健全的人格也需要不断修炼提高，淬火加钢。
从教育的角度出发，张载对“民胞物与”说及“富贵福泽”的观点，进行了进一步的阐释。“民胞物与”说认为：大君、大臣、圣人、贤人以至种种不幸的人，都是我们的兄弟姐妹。这就是说，人不但要把他人看成同自己一样的人，还必须看作是自己的同胞兄弟。许多人因种种原因把人看作豺狼，把人间看作地狱，这是一种消极厌世的态度；与此同时，人还应该把世间的万物看作是人类自己的伙伴，万物与人类同伍，并非是一种杂乱的堆砌，而是自然界固有的一种有序组合。万物不是人类征服的对象，而是人类共同的朋友，它们与人类命运相连，息息相关，不可分割。在对待“富贵福泽”的态度上，张载认为：处于顺境，就应该知福，充分利用优越的条件，从事学习和做人；处于逆境，也不应该气馁，而应该把它化作磨炼意志走向成功的桥梁。人活着就要一心致力于自己所钟爱的事业，死不足惜，因为这是一种自然的回归，气既有聚也有散，死既不可抗拒，就乐而为之吧！
《西铭》为学者指出了治人之道，为人之法，处世之态，其言之中肯，意之真切，为后来学者纷纷效仿，成为光照后人的不朽之作。
宋神宗熙宁二年（1069年），张载在朝廷任崇文院校书时，曾将自己推行井田制的设想写成《井田议》一文，交给朝中文彦博、司马光等人过目，后来又上书神宗皇帝，因当时神宗正在任用王安石进行变法，所以，未获批准。辞官归里后，他仍痴心不改，声称：“纵不能行于天下，犹可验之一方。”（《行状》）为此，带着这种执着的愿望和追求，“方与学者议古之法，其买田一方，划分为数井，上不失公家之服役，退以其私正经界，分宅里，立敛法，救灾恤患，敦本抑末，足以推先王之遗法，明当今之可行”（《行状》）。
张载在注重教育学生学好书本知识的同时，十分重视社会实践。他告诫学生少流连于科举，多学习一些治国安邦的真实本领。宋神宗熙宁六年（1073年），张载带领他的学生开始了轰轰烈烈的井田制实践活动。
张载之所以如此潜心致力于井田制的实践，不仅是为了培养“经世致用”的实学人才，更重要的是在长期的实践中，他深深地体会到“为政者在乎足民也！利民可谓利也，利于身，利于国，皆非利也”（《语录》）。他认为，“井田制”是解决当时土地兼并和贫富分化的唯一良策，所以，他把井田制视为“治天下之术”“养民之本”。井田制源于夏商，在西周时得到了充分的发展。西周奴隶主贵族沿袭和继承了夏商的礼乐制度，对礼的内容进行了丰富和完善。礼的内容非常庞杂，它既包括各级贵族进行祭祀、朝聘、军事、婚丧等活动的礼节，也包括政治制度的总称。这一套制度后来被称为“周礼”。
张载带领学生进行井田制实践周礼把井田划分为“公田”和“私田”两部分。“公田”是奴隶主贵族直接掌握的土地，“私田”是分配给生产者的份地。虽然张载站在统治阶级的立场上，主张在维护封建统治的前提下，推行井田制，但它毕竟基本上可以形成“耕者有其田”的原始格局，缓和了农民与地主阶级之间的矛盾，维护了国家的繁荣和稳定。基于这种认识，张载对周礼推崇备至。他说：“为政不法三代者，终苟道也。”意思是说：治理国家，不效仿夏商周三代的典章制度，最终都是暂时的，并非长久之计。
于是，他与弟子们在家乡置地买田，按照《周礼》的模式，划分为公田、私田分给无地和少地的农民耕种，并开始兴修水利，根除水患。大镇谷东西两侧，有大小河流八条。长期以来，由于人们在上游山丘地带人为地乱砍滥伐，造成水土大量流失，河道年久未能得到疏通，因此，每年夏秋的暴雨季节，河水肆虐冲垮河堤，淹没庄田，毁坏房舍。如此一来，丰富的水资源反倒变成了当地老百姓的一大灾害。
为了彻底根除水患，变害为利，造福百姓，张载根据父亲当年在涪州治理水患的成功做法，对附近大镇沟、小镇沟、筒瓦沟、珍珠泉、汤峪沟、板桥沟、华阳沟、响泉沟等八条河流的水源、流量等要素进行了详细地勘察，并精心绘制了河道治理施工图。张载带领学生将附近大镇沟、小镇沟、筒瓦沟、珍珠泉四水合一；又将汤峪沟、板桥沟、华阳沟、响泉沟四水合一；然后又疏通东西二渠，号称“井田渠”。至今，在横渠一带还流传着“横渠八水验井田”的故事。
据清《眉县志》记载：“在眉县东有东西二渠，东渠导源于大镇谷、筒瓦沟，凡四水合流。北经村寨各十里，交汇横渠祠（即张载祠）后，又北流入渭，宋张载所开，今堙。”1974年，横渠村群众在平整土地时，发现许多石板、石条等物，这正是当年井田渠的遗迹。《眉县志》称之为“眉伯井田”，成为眉县“八景之一”。后来，张载还带领他的弟子们在长安子午镇、扶风午井镇等地以子午正方位试办井田，深得当地百姓的拥护，这些地方的地名也由此而来。井田制在当时的社会条件下，尽管是无法实现的幻想，但它却集中体现了一个进步思想家、哲学家注重实践，济世爱民的求实作风和博大胸怀。
张载身体力行，垂范师表，虽粗食陋居，但他津津乐道，诲人不倦。他在《土床》一诗中这样描写道：
土床烟足袖衾暖，瓦釜泉干豆粥新。
万事不思温饱外，漫然清世一闲人。
他的弟子吕大临曾高度赞扬和评价他：“先生德盛貌严，然与人居，久日而亲。”（《行状》）在他的精心栽培和影响下，他的弟子们大都能学以致用，注重实践，许多都成了国家的栋梁之材。弟子吕大钧、吕大临继承了张载“躬行礼仪”的传统思想，编写了《吕氏乡约》《乡仪》等，这些成为我国历史上最早记载的乡规民约；弟子游师雄、种师道、李复等深谙军事，精通兵法。游师雄曾在与金人大战中屡建战功；李复曾针对当时社会上关于对“月食”的迷信说法，专门写了一篇《论月食》，进行纠正。弟子张舜民感念他的恩师说：“关中学者靡然就之，谓之横渠先生，一登其门，言行皆知，学成之后，虽去载千里之远，十年之久，不改一蹈非议，常如载临其前后左右也。”可见，张载与弟子关系既严肃认真，又融洽和睦，堪为一代宗师，实学典范。
