“太学”一词西周时已有，《大戴记•保傅》记载：“帝入太学，承师问道。”西周的太学又名大学，天子和诸侯均设之，“大学在郊，天子曰辟雍，诸侯曰泮宫”。辟雍和泮宫亦如宫廷，贵族们常在这里举行祭祀、宴会、选拔武士，议定作战计划等，打了胜仗，就到这里“献俘”、“告功”。至汉代，太学独立分化出来，成为专门传经授业的学校。西汉的太学，是中国历史上首次出现的官办中央最高学府。它的出现，不仅延伸了中国殷周以来的教育阶梯，而且健全了从中央到地方网络交织的教育体系。
    汉武帝采纳董仲舒提出的文化教育政策建议，设五经博士，并接受丞相公孙弘于元朔五年（公元前124年）呈递的奏请，为博士置弟子，此即为太学之始。具体做法是由朝廷选拔优秀青年五十人为博士弟子，列入固定编制。其标准是“十八以上，仪状端正，好文学，敬长上，肃政教，顺乡里，出入不悖”。这种博士弟子无俸禄且自理生活费用，但可享受免学费及“复其身”（免除本人赋税徭役）的待遇。太学的考核制度十分严格，据《汉书•儒林传》记：“一岁皆辄课，能通一艺以上，补文学掌故，其高第可以为郎中，太常籍奏。即有秀才异等，辄以名闻”。就是说，博士弟子每年需经考试，通一艺（即诗、书、易、礼、春秋五经之一）便授下级咨询官吏；优秀者可充任皇帝侍从，优异者破格录用。对“不事学”或“下材”的劣等生，考核后予以除名。
    随着汉代经济文化的发展，京师太学的规格不断扩大，博士弟子逐代增多。昭帝时100人，宣帝时200人，元帝时1000人，成帝时3000人。平帝时，王莽秉政，为了粉饰太平，竟增至10000人。
    博士弟子的生活一般比较清苦，西汉中期的名臣王章在太学肄业时，病卧于牛衣（冬季牛马御寒的粗褐）中，哀哀哭泣。西汉晚期的宰相翟方进，原是外郡孤儿，为了求学，寡母随他跋涉千里，在长安编制草鞋供他衣食，终于学而有成。东汉光武帝刘秀，原是南阳中小地主，他在西汉晚期肄业于长安太学时，曾和同窗合资买驴，对外租赁，以补贴生活费用。当然，太学中也有贵胄子弟，如新都侯王莽为了沽名钓誉，将子侄都送入太学，在他休沐之日，“振车骑，奉羊酒，劳遗其师，恩施下竟同学。”（见《汉书•王莽传》）。不过，这种阔绰的学生毕竟只是极少数。
    西汉施政，儒法杂糅，将经术与法制有机地融为一体。因而太学出身的经生一旦临政，往往顿成能吏，上述王章、翟方进、刘秀都是代表人物。因而，有见识的地方大员，宁可自出学费派有为的青年入京就学。例如蜀郡太守文翁在太学初备雏形时，便选择“开敏有材”的小吏十余人，亲自饬励，送入京师为博士弟子。每年派官员入京缴纳贡赋时，随带大批土产，支付学生们的用度。他的苦心果然没有白费，这些“保送生”们以后不少位至郡守刺史。
由于太学博士弟子多数来自下层，所以政治眼光敏锐。他们年轻热情，敢作敢为。宣帝时，司隶校尉鲍宣秉公司法，遭到权贵诬陷，判处死刑。济南籍的太学生王咸，在太学门前扬幡大呼：“欲救鲍司隶者集此幡下！”一时聚众千人，遮拦长安大道，钩留丞相马车，在未央宫北阙门慷慨陈辞，一时震动京城，并终于因此挽救了鲍宣性命。这恐怕可以算得上是我国历史上学生运动的开章首篇了吧！