太谷春秋时属晋，周襄王时，晋侯以阳地赐大夫处父为食邑，始有阳邑。西汉时置阳邑县。隋开皇十八年(598)更名为太谷县。明清以前，太谷一直隶属太原府。
县城所在地，原为白塔村。民间有“先有白塔村，后有太谷城”之说。北周武帝建德六年始迁于此，之后筑土为城，周围5公里，高6米，四周掘护城池。明万历四年(1576)，太谷古城改砌砖城。清代，古城虽时有修缮，但其规模与建筑基本还是明代样子。直到1930年，太谷城墙、瓮城完好，西、南、北护城河依旧。太谷古城的第二大特点是街巷整齐，宅院讲究。太谷旧城共有四街八井七十二巷。而以鼓楼为中心，辐射东、南、西三条大街。楼北为旧县衙，北大街与西大街中段相交。在此基础上，多数街巷横平竖直，把全城住宅划分为若干方块，使得整座古城建筑规范齐整，进退有节。
查阅《太谷县志》，太谷古城寺庙众多，文化深厚，直到现在，太谷城内的街道名称，除一部分是因方位、地名、姓氏以及居民的意愿而命名的外，仅以商号和寺庙命名的就有三十多条。据史料记载，自晋代至晚清，太谷仅城内就建有祠、庙、观等27处;建有状元、进士、举人及节孝牌坊20余处，再加上一些过街门楼，整座古城到处闪烁着浓郁的传统文化。
早在上个世纪以前，在晋中、吕梁一带就流传着这样一句民谣：“金太谷，银祁县，吃不完米面的榆次县。”这是对晋中商贾云集、殷实富庶的赞誉。目前，太谷城内尚有8000余间老宅子，古城旧貌依稀可见，特别是150余处四合院保存基本完好，价值有待开发。但令人沮丧的是一些很有气派的豪宅深院，竟然无人知其何人所建，曾经的主人是谁。
据有关史料记载，清代中叶以后，“商贾辐辏，甲于晋阳”，太谷商业进入鼎盛时期，道光二十二年(1842)《太谷重修大观楼捐银碑》记载，当时太谷捐银的商号就有600余家。全县近半数的壮年男性出外长期从事商业活动，太谷商号遍及全国各大码头。若说太谷的商业，还有三点不得不说。一是“太谷标”;二是“太谷周行镜宝”;三是太谷设立的“山西省总商会”。
如今，太谷古城昔日规模宏大的城池，杨柳岸边的护城河，以及一座座入城的石拱桥、瓮城、角楼已经成为历史的记忆。但古城的两座标志性建筑古楼与白塔依然如故。鼓楼又称大观楼，夕阳西下，登楼四望，满城的青堂瓦舍尽收眼底，三条大街两旁的老式商铺，仿佛向人们诉说着历历往事。建于城南无边寺内的白塔，通体白色，距今已有1700多年的历史，登塔北望，古城旧貌犹存。晚霞映照下的鼓楼，燕子环飞，令人心驰神往。
