其实，廉希宪本不姓廉。只是在他出生的当天，他的父亲正好被任命为燕南诸路肃政廉访使（即主管司法刑狱和官吏考科的长官），在高兴之余，他的父亲则对家人说道：“古时候，曾有人将官职作为姓氏，如今我刚刚受职便得此子，看来是上天要我以‘廉’字为宗族的姓氏啊！”随后，他的子孙后代便都以“廉”为姓。
廉希宪自幼便熟读经书，深通儒家之道。后来，忽必烈在招贤纳士的时候，听说了廉希宪有着渊博的学识，便将他招为幕僚。而他在成为忽必烈的幕僚后，仍然不忘苦读经书。一天，他正在专心研读《孟子》，忽必烈派人叫他前往大厅议事，结果，他拿着书就去了。忽必烈见到他拿着《孟子》之后，就问他书中都讲了些什么时，他便将孟子以仁义治国等思想讲了出来。
忽必烈听后非常高兴，同时还不忘对他称赞道：“你可真是一个廉孟子啊！”从那以后，廉希宪不仅更加受到重用，而且还多了个“廉孟子”的称号。
元宪宗四年（1254年），在忽必烈的举荐下，廉希宪出任京兆宣抚使，取得了显著的政绩。元宪宗九年（1259年），他在随忽必烈攻打南宋属地鄂州时，听闻宪宗的死讯后，便力促忽必烈迅速北返，同时还进言道：“现在正值先帝驾崩，而您又有着极高的威望，宜火速回京登基，千万不能错过这个大好的机会啊！”