耶律楚材生于世宦门第，他自幼勤学，博览群书，兼通天文、地理、律历、术数和佛、道、医卜之说，还擅长著述，下笔为文，一挥而就。
成吉思汗即定燕地，遣人访求原辽国宗室人物，于十三年得耶律楚材。他见耶律楚材相貌奇伟，美髯宏声，又颇有才识，十分仰慕，诱劝说：“辽、金为世仇，你是辽国皇族后裔，为金所灭，我要为你雪洗国仇家恨。”
耶律楚材回答得十分得体：“臣之祖、父皆曾委身事金，既为其臣，岂敢与君为仇。”
成吉思汗从话中知道他甚重君臣之分，是个恪守信义的人，因此留他在身边供职。成吉思汗喜得王佐之材，每每昵称他为“长髯人”，而不直呼其名。耶律楚材决心报答亲顾之恩，借酬平生壮志。
成吉思汗晚年常对其子窝阔台说：“此人是天赐我家，尔后的军国庶政，当悉委他处置。”
在成吉思汗一世时，耶律楚材是形影相随的股肱大臣，曾被视为“天赐我家”，尊宠至极。
在窝阔台汗一世时，耶律楚材有顾命之义，拥立之功，为其屹立于王廷埋下根基。但更重要的是他呕心沥血地为蒙古国运筹策，定制度，使这个新生的庞大的政权得以生存。
耶律楚材披肝沥胆的忠正气质，又不能不使蒙古君主肃然起敬。正是基于此，窝阔台汗把耶律楚材当成自己的偏得，国家的骄傲。早在他即位的第三年，就当面盛赞耶律楚材说：“南国之臣，复有如卿者乎？”
窝阔台汗八年，即灭金后的第二年，蒙古诸亲王集会，大汗亲自给楚材捧觞赐酒，由衷地说道：“我们这样诚挚地任用你，是因为有先帝之命。没有你，中原就没有今日。我之所以能安枕无忧，是全靠你的力量啊！”
当时，正值西域诸国和南宋、高丽的使者前来，语多虚妄不实。窝阔台汗颇为得意地指着耶律楚材对来使说：“你国有这样的人才吗？”
来使皆回答：“没有。此人大概是神人。”
窝阔台汗高兴地说：“你们唯有此言不妄。我也猜想必无此种人才。”
正由于有这样的知遇之情，更由于耶律楚材的气质和胆略，使他能够在国家政治生活中发挥着极其重要的作用。在灭金战争中，耶律楚材有两个特殊的功绩，即保全生命和收容人才。
蒙古太宗五年正月，金哀宗完颜守绪从汴梁出奔归德，命元帅崔立继续死守被围困的京城。不久，崔立向蒙古投降。按蒙古的军事传统：凡是敌人进行抵抗的，克敌以后就以屠杀相报。
现在，汴京即将落到蒙古军队手中，统率围城蒙古军将军速不台，派人报告窝阔台汗，准备占领后“屠城”。
耶律楚材听到消息，急忙面奏大汗：“将士英勇作战了几十年，争的就是土地和人民。如今要是得了土地而失了人民，有什么用呢？”
窝阔台汗听后，脸沉下来，露出犹豫不决的神情。耶律楚材接着说：“大凡金朝方面的能工巧匠，以及官民富贵之家，都聚集在这座城里了。把他们都杀了，那我们就一无所得，徒劳地打了这一仗！”
窝阔台汗觉得有理，下诏除金朝皇族外，其余人不杀。当时在汴京避兵灾的一百四十七万户得以免遭屠戮的惨祸。
这一年五月，金国灭亡的命运已经不可避免。金朝大文豪元好问给耶律楚材写了一封著名的信，劝他保护归降蒙古的南方士大夫，他特别开列出54个士大夫的名单，指出这些儒士“皆天民之秀，有用于世者。”
楚材感到元好问的心思与自己相通，他也早已认识到保护这些人才的重要意义。
耶律楚材向窝阔台进言说：“制器者必用良工，守成者必用儒臣。”他极力强调任用儒臣的重要性。
数年后，耶律楚材请窝阔台派人到各地举行考试，选取儒士。这就是有名的戊戌年科举取士，有不少杰出人才入选。
