玉山建县已有1300余年历史。始建于公元695年,分衢州须江(今浙江省江山市)、常山和饶州弋阳三县之一部置县,隶江南道衢州。因境内有相传天帝遗玉而成的怀玉山而得名。从建县至宋、元朝期间,玉山先后隶江南东道(路)信州、江浙行中书省。至明朝洪武四年(公元1371年),因漕运不便,随广信府改隶江西行省。 唐朝建县至清末共有进士95人,北宋有文学家、翰林学士杨亿,南宋有钦点状元、大学士汪应辰。现代有著名医学家、胸外科奠基人、原中国医学科学院院长黄家驷,著名国画艺术家、美术教育家柳子谷,航空航天医学专家张祖德,化学博士、原浙江大学副校长周庆祥,数学家、原杭州计量学院院长谢庭藩。建国以来共培养出新中国首批18位博士之一的理论物理学家黄朝商等玉山籍博士200余人、硕士600余人。