张载听从了范仲淹的教诲，于宋仁宗康定元年（1040年）冬，自延州返回家乡眉县横渠，开始了他近二十年的求知悟道生涯。
从此以后，张载一面继续奉母教弟，一面刻苦攻读《中庸》。张载“观《中庸》二十年，每观每有义，已长得一格”（《经学理窟·义理》）。后来又熟读《论语》《礼记》《学记》等儒家经典。他在刻苦攻读儒家经典的同时，还非常关心边事。
宋仁宗庆历二年（1042年），范仲淹在庆州（今甘肃庆阳）构筑大顺城，以防备西夏的侵略。这年，张载特意赶赴庆州，二次拜见了范仲淹，与范仲淹就边事问题进行了推心置腹的交谈。此前，宋兵与西夏在此进行了一场激战，尽管西夏兵力数倍于宋，但由于宋兵修筑了城池，加强了防备，且指挥得当，因此，士兵士气高昂，奋勇杀敌，使敌人溃不成军，仓皇逃窜，宋兵大获全胜，城池安然无恙，因而受到皇帝的嘉奖。兴奋之余，范仲淹特邀张载写了《庆州大顺城记》一文，在文中，张载对范仲淹大功大德进行了热情洋溢的颂扬。
从庆州返回后，张载几乎闭门不出，潜心钻研。为了勉励自己发奋求学，他自题“夜眠人静后，早起鸟啼先”一联，悬挂在自己的书桌前。张载通过多年的学习，深感这些儒家经典无法满足他的求知欲望，“于是又访诸释老之书，累年尽究其说”（《行状》）。
张载生活的时代，是与儒学互相并立的佛教、道教活动十分活跃的时期。据史册记载，北宋真宗时，全国佛教寺院多达四万余所，僧尼也较宋初成倍增加；道观虽无精确统计，但据唐末五代道士杜光庭《历代崇道记》记载，全国道观有一千九百余处，道士一万五千余人，应该说北宋道观数量是要远远超过这个数字的。为了广泛涉猎佛家、道家思想中的有益成分，构建自己的思想体系，张载又开始转向对佛教、道教以及《易经》的研究。
宋仁宗皇祐二年（1050年），张载来到了位于陕西周至县城东南约四十里的终南山下楼观台。楼观台是西周末期道教始祖老子讲经传道之地。这里，风景旖旎，翠竹成林，庙宇林立，香烟袅袅，是远近闻名的道教圣地。
道教圣地楼观台道教始祖老子，民间称为“太上老君”，关于老子的身世有多种说法。湖北学者陈光柱依据2013年春眉县出土的二十七件西周青铜器铭文，经过分析论证，认为：老子姓单，名逨，生于西周末期，原西周京畿人，即现在的陕西省眉县。公元前854年出生在西周武官单龚的家庭。单逨的父亲单龚，在周厉王时为召穆公手下的心腹爱将。单逨自幼随父出入召公府，十二岁时被任命为“小宣王”的伴读及贴身侍卫。
单逨十三岁时，即公元前841年，国人围召公府，要杀小宣王，后被召公幼子代替，其惨景深深地铭刻在单逨的记忆中。此后，单逨伴读小宣王十四年，两人成为手足情深的亲密伙伴。
单逨二十七岁时，宣王即位，单逨也继承父职，直接受命于宣王。在宣王执政的四十多年中，单逨南征北战，戎马倥惚，历尽艰辛和磨难。宣王四十二年（前785年）被封为“吴林”（国家最高的林官，相当于现在的林业部长）。宣王四十三年，单逨又被封为“历人”，负责监察朝中大臣，兼管史册的整理和修订。
宣王为了体现他重用单逨成为“历人”的重要性，命单逨做了“十鼎”（眉县杨家村2003年青铜器窖藏出土），留作永久性纪念。当时，天子只能做“九鼎”，天子身边最大的官也只能做“七鼎”，因此，单逨官职的重要性就不言而喻了。宣王四十六年（前781年），宣王病危，把老逨（单逨当时已七十三岁）叫到身旁，当着儿子（后来的周幽王）的面，命老逨把古公亶父所著的《德》论，修订整理出来，以教育后继天子。周幽王五年（前776年），该书完成。单逨郑重地交给幽王，被幽王收入周室。这就是后来的旷世经典《道德经》。后人将此书也称为《老子》。《老子》一书分八十一章，共五千余字，其本意旨在规范天子行为，但更重要的是对天、地、人、道四者关系的客观论证。老子（单逨）巧妙地吸取了《周易》中阴阳相互对立、相互消长、相互交替、相互依存、共同发展的观点，使中国古代辩证法思想达到了一个相当高的水平。
在楼观台，张载认真地通读了老子的《道德经》，对老子关于阴阳二气的论述和天、地、人、道的伦常关系产生了极大的兴趣，为他后来建立“气本论”及丰富完善“天人合一”思想奠定了坚实的理论基础。
张载通过对《道德经》的反复研究，悟出了任何事物之间都不是孤立的深刻道理。后来，经过数十年的研读实践、分析思辨，张载写成了《横渠易说》一书。易学研究成果的问世，表明了张载辩论法思想的基本形成。
张载在对道教及《易经》精研的同时，对佛教理论也进行了深入的探究。
唐宋以来，佛教思想严重地威胁着儒学的发展。这一时期，佛教思想已在民间广为流传，社会上许多人都信奉佛教，佛教寺院更是比比皆是。特别是佛教以宣扬的“灵魂不灭，生死轮回，境由心造，因果报应，得道成仙，天堂地狱”等观点与儒学思想展开了激烈的较量。
张载从其唯物主义观点出发，对佛教从理论上进行了深入的剖析和尖锐的批评。佛教认为天地万物（包括日、月、星辰、人类、山川、河流等）都是“心”创造的，有了“心”，就会有万事万物。张载一针见血地指出：“释氏（指佛教）不知天命，而以心法起灭天地，以小缘大，以末缘本而谓之幻妄，真所谓凝冰者与。”（《正蒙·大心篇》）这些话直接驳斥了佛教认为一切都是幻妄的唯心观点。他说，因为佛教不能全面认识世界，而把自己不认识的东西说成是幻妄，这就如同夏天的虫子没有见过冬天的冰而怀疑冰的存在一样。
张载在《正蒙·乾称篇》里指出：佛教有广泛的社会基础，它流传全国，影响深远。信徒中有恶人，也有善人，有聪明人，也有愚昧人，有男人，也有女人，而且还有杰出的才子英雄。他们从小就受到感染而被潜移默化，就连当今的儒学家也在宣扬佛教的理论。佛教的某些教义不仅破坏了君臣、父子、夫妻的人伦关系，而且造成了无序、无学的危害，更重要的是佛教传入中国已有一千多年，因此，与佛教论真理，不仅要有过人的胆识，而且还要有过人的才能。从这里可以看出，张载对佛教的批判超过了前人。
宋仁宗至和元年（1054年），张载游学于扶风仙山寺，拜访诸老，研习佛教，通过悉心攻读佛经和反复地实践论证，张载深感佛教宣扬的许多观点，不仅虚无缥缈而且缺乏依据，给人们认识事物造成了许多误区，实在不足以取。但佛教所倡导的修身养性，与人为善等内容却被他后来建立自己的道德观所吸收和发展。
经过数十年的努力，张载“访诸释老之书，累年尽究其说”（《行状》），最终又回到儒家学说上来，开始了对自然科学和世界本源的研究。这一时期，太白山成了他省事悟道的重要区域。
太白山口有一怪石，传说当年孙思邈被封为药王后，尉迟敬德前来看病，孙思邈连续为他开了十服中药。敬德将十服中药同时熬喝，结果喝下后，肚子疼得要命，气得他前去追杀孙思邈。孙思邈急忙逃进太白山。敬德追到汤峪口，不见孙思邈踪影，一气之下将一巨石摞在一块石头上。这块巨石看起来像被悬空，大有一推即倒之势，但多少人想推倒它，都无济于事。
武则天知道此事后，专程从长安赶来观看。看后，她惊叹不已，连连称道“真乃神功石也”，便改年号为“神功元年”，以示纪念。现在的神功石已成为太白山国家森林公园入口处的第一景点。神功石南依巍巍群山，北临千里平畴，石下的汤峪河，流水潺潺，终年不断，是一个天然的天文观测台。
当时，由于人们对天文知识知之甚少，对自然界的昼夜交替、雨雪风霜、日食月食、四季变化等自然现象不能给予科学的解释，因此，便错误地认为这是神在操纵。为了澄清是非，张载决心通过自己的观察，总结出这些现象形成的原因。
张载经常来神功石观察，从不间断。他首先以人们最熟知的昼夜和四季交替变化作为突破口，来探究地球和太阳的相互关系。他发现，太阳每天东升西落，地球上则每天出现昼夜交替，一年之中有规律地出现四季更替。这些现象表明，太阳和地球之间一定存在着旋转关系。
那么，究竟是太阳围绕地球转，还是地球围绕太阳转呢？从表面上看，太阳在不停地运转，而地球则静止不动。于是，张载采用了假设推理的办法来进行论证。他先根据太阳旋转的位置和方向，把太阳由东向西顺时针方向转动称作“左旋”，由此推断，地球自然由西向东呈逆时针旋转，这种旋转他称作“右旋”。如果说证明了左旋、右旋其中一种假设成立的话，那么地球和太阳谁围绕谁旋转的问题就迎刃而解了。但是，用什么办法来证明呢？
为了解开这一难题，他常常独自一人来到神功石下，全神贯注地观察天象，但终无所获。在不经意之间，他发现汤峪河右岸遭水侵蚀的强度比左岸明显大，为了证实这一发现，张载到附近的大镇沟、小镇沟、板阳沟、渭河等几条河流的左右两岸详细观察，结果证实，每条河流几乎都存在这一现象。
张载由此推断：这首先是地球自转的结果；其次，地球在自转的过程中，产生了向右的偏方向力，而这种向右的偏转力，只能在逆时针方向转动时才可产生。他还通过自制的模具进行反复的实验，初步证实了地球自转的客观事实。在这一事实的基础上，张载还通过对寒来暑往，春夏秋冬这一现象的观察，进一步证明了地球围绕太阳旋转（即右旋说）这一论断。在《正蒙·三两篇》中，张载对他的“右旋说”这样论述道：“天在旋，处其中者顺之，少迟则反右矣。地绝阴凝聚散于中，天浮阳运旋于外，此天体之常体也，恒星不动绳系乎天，当浮阳运旋而不穷者也，日月五星遂天而行，并超乎天地也。”这一重要成果一直被现代天文学所应用。
我国著名的地理学家郑文光这样评论张载：“宋代唯物主义哲学家张载是古代地球运动理论的继承和发展者，他对地球的自转和公转都有十分确切的认识。”
张载对于天文地理的观察和研究，为他构建自己的思想体系奠定了坚实的基础，也为后来人们从事天文学的研究提供了宝贵的经验。
张载对自然科学研究的不断推进，使他对世界本原问题的研究信心大大增强。为了攻破这一难题，除了博览群书充实自己外，他把大部分时间和精力都用在对事物的观察和认识上，他希望通过自己的努力，解决千百年来人们在世界本源问题上的模糊认识。他甚至抱定“不到黄河不死心”的坚定信念，顽强不屈地向着人类社会科学的巅峰奋力攀登。
在反复的思辨中，张载清楚地认识到，道佛二教之所以把自然界的许多现象看作是人的意识或天意所为，主要原因在于它们的创始者不深入实际，不善于观察。于是，便把自己无法解释的自然现象，人为地赋予了迷信色彩。为揭开这些谜团，张载付出了常人难以想象的努力。
在极度的困惑和苦闷之余，古老而神秘的太白山成为他的好去处。他常常一人静静地盘腿坐在大爷海边，伫立在八仙台顶，徘徊于板寺庙前。眼前茂密的原始森林、奇特的冰川遗迹、盛开的高山杜鹃……都不能令他心动，唯独只有那汹涌澎湃、飘忽不定的茫茫云海，让他心潮起伏，思绪翻滚。他静静地沐浴在被水汽弥漫的云雾中，深深地呼吸着沁人心脾的清新之气，用心体味大自然的神韵。
后来他发现：气流聚集，便可以看见云的形状；气流消失，云的形状也随之消失。那么，水不也是经过太阳的蒸发变成气而消失在空气中吗？动物植物的遗体腐烂后，化成灰烬同样也会被大气吸收。以此类推，宇宙中的日月星辰、地球上的山川河流都是气的不同表现形态。它们都要在气的作用下完成产生、发展和消亡的过程，而只有气生生不息，每时每刻都充满在世界的每一个角落，成为构成这个大千世界最基本的要素。
这一发现，张载后来在他的《正蒙·乾称篇》中做了精辟地阐述和总结：“凡可状，皆有也；凡有，皆象也；凡象，皆气也。非待其蒸都凝聚，接于目而后知之；苟健、顺、动、止、浩然、湛然之得言，皆可名之象尔。然则象若非气，指何为象？”
张载从唯物主义观点出发，以儒学为宗，博采佛、道之长，通过无数次悉心地观察和思辨，经过漫长曲折的求索之路，终于以惊人的毅力解开了世界本源的奥秘，创立了前所未有的“气本论”思想，初步建立了他朴素的唯物辩证法思想体系，实现了自己对世界认识的历史性跨越。
