中国古代的书院严格意义上算起于五代时期（907—960）。唐末五代时期常年战乱，社会动荡不安，学校荒废，礼仪衰微，读书人无处显身，纷纷隐居山林，于是私人书院得到发展，著名的白鹿洞书院和嵩阳书院便在那时建立。
书院多依山林名胜之地而设立，而名山又多佛道，嵩阳书院的前身便是北魏孝文帝太和八年（484）建立的嵩阳寺，是佛教活动之所。北魏高僧生禅师见嵩山没有塔庙，便创建嵩阳寺，“浮屠（塔）大者，高数十仞”，[4]“欲接引四生，仆兹福地，创立神场”，书有记载：“皇帝倾心师资，朝野望风而屈膝”[5]来反映嵩阳寺在当时的深刻影响。之后又有裴衍主持嵩阳寺，僧徒也多达数百人，继续延续其规模。
隋唐时期重佛道，关于佛教的寺塔、佛像、经书在这一时期数量众多。隋炀帝虽崇信佛教，但抱着功利主义目的也关注并利用道教，道士潘诞就曾为其修炼长生不老丹药。在大业年间（605—618），隋炀帝将嵩阳寺改名为嵩阳观，使其成为道教活动场所。唐弘道元年间（683），唐高宗与武则天曾两次到嵩山拜访潘师正，以嵩阳观为行宫，称奉天宫。
五代十国（907—960）是我国封建社会中最后一次大规模分裂割据时期。而嵩阳观位于嵩山南麓，环境清幽，景色宜人，是读书之胜地。这便成了不愿在乱世为官，欲归隐山林而又饱读儒家经典的文人士子的求学隐避之所。后周时，隐居于此的文人志士都痛感孔孟之道不在，传统经典失传，奏请朝廷设立书院来办学施教。显德二年（955）世宗柴荣改嵩阳观为太乙书院，成为儒家讲学，儒生参政议政的殿堂。这是嵩阳书院的初始阶段，也是河南最早显示书院的教育属性的私立书院。
北宋时期统治者倡文重教，私人讲学书院得到发展。嵩阳书院也在这一时期迎来了鼎盛发展的时期。书院环境清幽，地理位置优越，吸引大量不愿出仕的儒生到此讲学。此外还有受朝中政治的影响，一些仕途不得志的文人也聚集距崇福宫不远的嵩阳书院讲学，更有程颢、程颐、范仲淹、司马光等人在此讲学，使得书院名声大振，“生徒至数百人称最盛”。北宋时期的历朝皇帝对书院发展颇为重视，赏赐书籍和学田，书院得以发展壮大。景祐二年（1035）宋仁宗下令重修太室书院并改称嵩阳书院，并与岳麓、睢阳、白鹿书院并称四大书院。
南宋以后政治经济中心南移，尽管元朝政府重视发展书院，但全国依然呈现南方书院蓬勃发展而北方则举步文艰。位于北方的嵩阳书院因经费匮乏且受到严格控制而发展缓慢。元惠宗至正年间（1341—1368）改其名为嵩阳宫，再次成为道教传播场所。
明朝的嵩阳书院呈现了低潮到复兴然后再次衰落的发展态势。明朝重视发展官学，也是我国古代科举制度发展的高峰期，嵩阳书院在其初期缓慢发展。明朝的八股取士在发展过程中逐渐显现其弊端，不重实际与社会发展脱节，直到成化年间学者传播学术讲学，嵩阳书院才得以再次发挥其作用并呈现出官学化倾向。官员侯泰、学者王尚絅以复兴书院为己任，培养大量人才，使得嵩阳书院又兴盛一时。明末毁于战乱之中，汉封将军柏在战火中也被毁掉一株。
清朝的嵩阳书院在政府和名人志士的支持下再次兴复。登封知县叶封、名儒耿介、学道林饶英、王日藻等人相继捐资建设，到乾隆四年（1739）嵩阳书院的藏书楼、讲堂、院舍俱全。书院在耿介的主持下，其教学规模兴盛壮大，冉觐祖、窦克勤、汤斌等著名学者都曾在这里讲学。康乾时期的嵩阳书院，其建筑和教学规模可与北宋时期相媲美，也有“中州白鹿”的美称。 嵩阳书院办学特色及教育启示(2):http://www.751com.cn/wenxue/lunwen_38036.html