东汉王朝是当时世界上的强国，政治、经济、文化都处于领先地位。发达繁荣的经济文化，安定和平的政治局面，为张衡学习提供了一个良好的社会环境。
少年时代的张衡就天资聪明，态度谦虚，好学深思，奋发有为，求知欲旺盛，学习热情饱满。在少年时代就熟读了《诗经》、《书经》、《易经》、《礼纪》、《春秋》等经典名著。在当时，只有熟读了这些经书，才能做官。但张衡思想开阔，不受传统观念的束缚，对做官不感兴趣，相反，他对文学却十分爱好，特别是对司马相如、扬雄等文学家的作品心向神往，苦心钻研，不但能深刻地理解，而且能够背诵。这些作品强烈地震撼着张衡年轻的心灵，他希望自己将来也能成为他们那样的文学家。
东汉时期，文化事业不断发展。都城洛阳不仅设有规模宏大的国办图书馆和皇家图书馆，而且还设立了全国最高学府——太学，是全国的文化中心。许多经过选拔推荐的学生都到这里来学习，不少著名的学者都集中在洛阳。因为这里拥有从事学术研究的较好条件，图书、设备相对集中，是当时的文化研究基地。
年轻的张衡已不满足于“闭门家中坐，苦读圣贤书”的生活了，他渴望出外游学，多接触实际，以充实生活和开阔自己的眼界，寻求更多的知识。因此，在公元９４年，当他１６岁的时候，怀着远游的志愿，告别了亲人，离开了生他养他的美丽故乡——南阳，踏上了游览名都大川，访师求友的旅途。
张衡离开家乡以后，并没有直奔京师洛阳，而是去了长安。尽管由南阳到洛阳的交通便利，而且直接到京师洛阳，不但能求得学问，而且能谋取官职，可由于他对名利十分淡漠，游学的目的又不是为了寻求功名，所以，他才绕道去了前朝西汉的都城。他想在这里游览名山大川，实地考察古代的名胜和现实生活中的事物，他不仅要读一些前人写成的书，还要读一些“活书”。这或许是受了司马迁倡导的读万卷书，行万里路”影响的结果。这样在公元９４年到９５年，张衡大约用了一年多的时间，进行实地考察，漫游了西汉的“三辅”地区。张衡往来于渭河流域，走遍了坦荡肥沃的渭河平原，观赏了巍峨青翠的终南山，奇险峻峭的华山，并且访民俗，问物产，寻古迹，对西汉雄伟壮丽的都城建筑，市井布局用心考察。班固在《两都赋》中对长安的铺张描写，使张衡称叹。通过这次游览，他不但加深了对前人文学作品的体会，而且积累了大量的文学素材，为他后来写成著名的《西京赋》奠定了坚实的基础。
游历完三辅地区，公元９５年春（东汉和帝永元七年），张衡折首向东，来到骊山。张衡伫立在秦始皇陵附近，追想着几百年前的战火硝烟如在眼前，并为中国历史上第一位封建帝王兼并六国，统一中国的丰功伟绩而赞叹，也为秦朝因专制暴政迅速灭亡而惋惜。
览罢始皇陵，张衡又来到了驰名天下的温泉。即兴写了一篇《温泉赋》，描写了“汤谷的优美，春水的清新”，表达了自己热爱祖国山川，热爱生活的心情。这是他留传至今最早的文学作品。
离开骊山，张衡终于来到了他盼望已久的京师洛阳。张衡到达洛阳就是在群儒大会白虎观以后十五、六年的时间。当时经学是朝廷极为重视的学问，求学青年愿求仕进，必需钻研经义。张衡的年龄是合乎进太学的标准的，但是未经过郡太守的选送，不可能作正式的博士弟子。所以张衡在京师仅是时常到太学去参观，去访谒各家经师，个别地请求教导。张衡在洛阳学习视野大为开阔，学识大有长进。学问之渊博，艺术之高明，达到 了“通五经，贯六艺”的地步。并结识了许多学问大家，其中就有他所敬仰的大学问家贾逵、崔瑗、马融、王符、窦章等许多志同道合的朋友。张衡和这些人常常在一起切磋学问，探讨疑难问题。他们是一群有志气，有抱负的青年，都希望能干出一番震古烁今的事业。
由于张衡勤奋好学，品德优良，才华出众，得到了南阳郡守的察举，官府也竞相征召他前往做官，进入仕途之路铺设在张衡的面前。但他没有应召，仍然留在京师读书，沉浸在书山学海之中。在他看来，君子不担心自己的官位不尊崇，却担心自己的品德不高尚；不为自己的俸禄不多而觉得羞愧，却为自己的见识不广博为耻辱。所以，他学习不限于五经，对天文、地理、气象、文学无不兼学并览。正如崔瑗评价他为：“一物不知实以为耻，闻一善言，不胜其喜”。这就是张衡，一个勤奋好学，不流习俗，具有远大志向，以为社会贡献为己任的有志青年。
张衡在洛阳通过五、六年艰苦的学习生活，他的学业和文学创作水平逐渐提高，成了一位名符其实的青年学者。他写了《定情赋》、《扇赋》、《七辩》等许多作品，并开始构思《二京赋》的创作。可是，由于他的家境比较贫寒，无法在京师长期游学，不得不回到南阳应清官鲍德的邀请担任主簿，因工作比较清闲，使他得以集中精力进行文学创作。
张衡担任鲍德主簿的第一年，写了一首叫《同声歌》的诗篇。其大意是：与君结为夫妻，我既感到光荣又有些恐慌。竭尽全力奉事君，于妾理所应当。主管好您的酒食，为您做好祭祀的准备，我的心情是多么的舒畅。我愿意做一张席子，铺在您的床上，为您引来清凉；我愿意做一顶罗衾帐，为您遮挡风霜……。诗中张衡以妾自比，以君比鲍德，抒发了自己出任鲍德主簿的兴奋心情，并表达了帮助鲍德处理好郡内政务的决心。凭着对故乡的挚爱，他还创作了富有激情的《南都赋》，歌颂了故乡山河的壮丽，土地的肥沃，物产的丰饶。除此之外，他还写出了名著《二京赋》即：《西京赋》、《东京赋》，还有很多诗、赋、文、书等。
由于鲍德功绩卓著，公元１０８年（东汉安帝永初二年），鲍德被调入京城，任大司农（主管农业，类似现在的农业部长）。张衡拒绝了鲍德的盛情邀请。在鲍德前去洛阳赴任的同时，他便辞去主簿职务，离开南阳郡治宛城，回到南阳西鄂县的家乡（今石桥镇夏村），专心钻研学问。开始由对文学的爱好，转向对天文、历法的研究，为他以后的诸多发明打下了雄厚的基础。
从公元１０８年到１１１年，张衡一直住在自己的家乡，专心进修学业。经过了刻苦不懈的努力，在学问的许多方面都有所收获。就在这期间，张衡开始精读扬雄的《太玄经》。《太玄经》是一部研究宇宙现象的哲学著作，也谈到天文历算等方面的问题。特别是“浑天说”尤为吸引张衡。但由于写得比较简略，使张衡有一种不满足的感觉，他准备在此基础上做进一步的研究。在研究《太玄经》的过程中，张衡费了很大功夫，在精读的同时进行了详细的研究和分析，曾写出了《太玄经注解》，并绘制了《太玄图》。《太玄经注解》和《太玄图》就是张衡读《太玄经》的心得。在这两部著作里，反映了张衡的一些哲学思想。可惜这两部著作都没有流传下来。通过研究《太玄经》，张衡也接触到不少我国古代历史上的唯物论、无神论的遗产。《太玄经》里的唯物主义因素启发了张衡向大自然中追求真理的欲望。张衡在精读《太玄经》以后，就逐渐从文学创作转向哲学研究，特别对宇宙间最伟大的自然现象规律，如天文、历法、数学等科学理论开始了学习。并且制造科学仪器，对天文现象等实行详细地观察和长期地测量工作。
在研究《太玄经》的同时，张衡还对《墨经》产生了极大的兴趣。《墨经》是墨子弟子及其后学概括发展墨子思想的一部著作。它记录总结了春秋战国时期关于手工业方面的许多知识，提出了古代物理学和数学的许多概念和见解。书中不仅涉及到认识论、逻辑学、经济学等社会科学范畴的广阔内容，还包含有时间、空间、物质结构、力学、光学和几何学等自然科学方面的多种知识，其中有些问题阐述严密，说理透彻，具有十分重要的科学价值，在古典哲学和自然科学著作中是一部不可多得的珍品。然而，墨家思想长期无人问津，墨家的科学成果更是受到冷遇。张衡能冲破儒家思想的束缚，致力墨学研究，这在当时需要非凡的胆略。
张衡读古人书籍，善于采取其中精华，前能锐意前进，在科学研究上开辟新道路。这正是我们祖国科学史上最伟大光荣的传统，值得后人借鉴学习。