董卓挟持汉献帝迁都长安，纵火焚烧雒阳，经营百余年的雒阳城化为焦土。曹操年轻时曾在雒阳做官，目睹过洛阳的繁华。当他看到废墟中的雒阳时，伤心至极，写下《蒿里行》和《薤露行》，哀悼雒阳的毁灭：“贼臣持国柄，杀主灭宇京。荡覆帝基业，宗庙以燔丧。播越西迁移，号泣而且行。瞻彼洛城郭，微子为哀伤。”

建安十六年，被谢灵运称作“才高八斗”的曹植，随父亲曹操西征马超，途经洛阳。看到洛阳遭董卓之乱后的残破景象，曹植挥笔写下了《送应氏二首》：“步登北邙阪，遥望洛阳山。洛阳何寂寞，宫室尽烧焚。垣墙皆顿擗，荆棘上参天。不见旧耆老，但睹新少年。侧足无行径，荒畴不复田。游子久不归，不识陌与阡。中野何萧条，千里无人烟。念我平常居，气结不能言。”

曹操西征关中得胜后，回师经过洛阳城，看到洛阳城的残破景象，心中五味杂陈，于是他命令当地官员组织百姓进行重建，洛阳城再次焕发了生机。

曹丕代汉后，建立曹魏，定都洛阳，在东汉雒阳的旧址上修建宫殿，洛阳再次成为国都。并且在洛阳城侧西北角高耸之地建了一座金镛城。此城建造是出于军事考虑，以拱卫洛阳。

统一天下之后，为了让洛阳城那“天下之中”的称誉名实相符，晋武帝司马炎下令开始大规模建设洛阳城。据说修建太庙时，晋武帝下令民夫用荆山上砍伐参天古木，从华山凿下石料，耗费大量的人力不远千里运到洛阳。洛阳太庙廊庑下是十二根巨大的铜柱，铜柱外面再刷上金箔，然后再雕刻上各种动物、植物、山水等图案，再用明珠串连缀起来，富丽堂皇，精美至极。一座太庙就如此奢华，更不要提其他的建筑了。

上梁不正下梁歪，皇帝如此，那些大臣更是穷奢极欲，他们争先恐后的在洛阳兴建各种府邸别墅。其中最有名的是大贪官石崇修建的金谷园，被称为“金谷春晴”，是洛阳八景之一。

金谷园直到几百年之后，自然为文人们津津乐道，南北朝时期徐陵的《洛阳道》诗：“东门向金马，南陌接铜驼。”唐朝刘禹锡的《杨柳枝》词：“金谷园中莺乱飞，铜驼陌上好风吹。”宋朝秦观的《望海潮》词：“金谷俊游，铜驼巷陌，新晴细履平沙。”

八王之乱后，西晋王朝元气大伤，五胡趁机南侵，神州陆沉。永嘉五年，匈奴人刘曜攻破洛阳，俘虏晋怀帝，杀死晋太子司马诠等以及士人百姓三万多人，并下令挖掘西晋以及前朝的皇陵和贵族陵墓，临走之时，一把火把洛阳的宫庙、官府全都烧光。

洛阳第一次被外族攻破而遭毁灭性破坏，史称“永嘉之祸”。历经数代人近百年复建的辉煌大城洛阳，再次被付之一炬，再一次化为废墟焦土。

唐代诗人张籍(张水部)写的《永嘉行》，就是讲的这段历史：“黄头鲜卑入洛阳，胡儿执戟升明堂。晋家天子作降虏，公卿奔走如牛羊。紫陌旌幡暗相触，家家鸡犬惊上屋。妇人出门随乱兵，夫死眼前不敢哭。九州诸侯自顾土，无人领兵来护主。北人避胡多在南，南人至今能晋语。”

隋炀帝大业二年，隋炀帝派遣尚书令杨素和将作大匠宇文恺营建洛阳城，并定都于此。唐代虽然定都长安城，但将洛阳定为东都，并且加高了城垣、新建了上阳宫。隋唐洛阳外城九门，宫城、皇城各向外开一门。与之前的洛阳城不同，隋唐时期的洛阳城跨洛水南北两岸，洛阳城内沿河建有四道桥梁，此外还引入伊、德、谷水等，用明渠相勾连，将宫殿区和市坊连通起来，形成了城内的水路网。