房玄龄是世家出身，家里代代做官，他父亲更是经历了四个王朝的更换，官家长大的他自然而然地受到熏染博览群书，18岁的房玄龄就考到了进士，只是生不逢时，那个年代正是隋朝末年，农民起义官也不好当。于是房玄龄就在渭兆投靠了李世民。

从此以后跟着李世民南征北战出谋划策。每到一地的时候，别的将领都在忙着全城找金银珠宝，房玄龄和别人就不一样，他每到一地，就先打听这地方有没有什么能人异士，他要网罗人才，为李世民招贤纳士。李世民就发现这个人有点与众不同。 公元626年房玄龄也参与了历史上的玄武门之变。李世民继位后房玄龄被任命为中书令，到贞观11年被封为梁国公，后来官至司空，一直是李世民的左膀右臂，李世民东征的时候，房玄龄留守京师，为李世民稳定后方。

李世民对房玄龄的评价是“谋略帷幄，定社稷之功”。房玄龄在职20多年对李世民做出了巨大贡献，可他从不居功自傲，有首唐诗专门形容房玄龄的。

后代的史学家一提起唐代的宰相，最先提到的就是房玄龄，有名的“房谋杜断”最能体现房玄龄的谋略。