玉山中学前身为建瓯五中创办于1959年10月，校址设在玉山长布村，招收全县范围学生两个教学班约100人，1961年7月停办，学生并入建瓯一中。1964年9月，改办建瓯农中，招收玉山地区小学毕业生，实行半耕半读，1966年文革开始再次停办，校地址在玉山村下尾林，1969年12月在原玉山中学的旧址上创办的，始为完全中学，81年秋调整为初级中学。学校占地19.2亩，总建筑面积7445平方米。现有18个教学班，952名学生，47位教职工，专任教师学历达标率、任职合格率均为100%。学校图书室、阅览室，理、化、生实验室初具规模，图书及教学实验仪器配备均为二类达标。
建校40多年来共培养了高中毕业生548人，初中毕业生8731人。92年9月，学校开始实施
初二后分流教育改革实验，开办初三技术班，为农村培养了一批初级技术人才，2001年4月，全省初二后分流教育改革实验县工作会议现场会在本校召开 ，并荣获福建省-萍奖。