唐山，因市区中部的大城山（原名唐山）而得名。商代属孤竹国与山戎国，战国为燕地，汉代属幽州。唐属平州、蓟州，辽金属南京道、中都路、北京路，元为中书省、大都路、永平路，明、清属顺天府、永平府、遵化州。清光绪三年（1877 年）建乔屯镇，后改为唐山镇。民国元年（1912 年）政区建制均袭清制，1929 年，直隶省改称河北省。1939 年 1 月 28 日，伪冀东防共自治政府鉴于唐山具有经济、政治上特殊地位明令唐山设市，初称“唐山市政府”，后改称“唐山市公署”。日本投降后，驻北平国民党派员接收日伪政权，设置督察专员公署。

1946 年 4 月，中共河北省委员会第 132 次会议通过唐山设市，同年 5 月 5 日，唐山市政府成立。

1949年10月1日，中华人民共和国成立后，唐山市仍为省辖市，辖区12个。1955年3月，唐山市第一届二次人民代表大会将唐山市人民政府改为唐山市人民委员会，辖区未变。

1958年4月28日，国务院批准唐山市划归唐山专区领导。同年8月29日，河北省第一届人民代表大会第七次会议决定，唐山专员公署驻地由昌黎县迁至唐山市。

1959年6月3日，经中央决定，唐山市为全国45个开放城市之一。6月8日，中共河北省委、省人委决定，唐山专署和唐山市人委合并改设唐山市人民委员会。

1960年4月2日，国务院正式批准撤销唐山专区，原唐山专区管辖的秦皇岛市和迁安、昌黎、乐亭、宝坻、玉田、蓟县、遵化划归唐山市，唐山专区撤销后实际划归唐山市还有滦县、丰润两县（原为市辖区）和柏各庄农场。同时，唐山市改为省辖市。1961年5月23日，经国务院批准恢复唐山专区建制。同年6月1日，河北省人民委员会第14次会议通过恢复唐山专区决议，唐山专、市分开，唐山市改为专辖市。

1968年1月6日，唐山市革命委员会成立，隶属于唐山地区革命委员会。

1978年3月11日，唐山市改为省辖市。1982年10月，唐山市第七届人民代表大会撤销唐山市革命委员会，建立唐山市人民政府。

1983年3月3日，国务院批准撤销唐山地区，与唐山市合并，实行市管县体制，同年5月13日，河北省人民政府通知撤销唐山地区行政公署，5月15日，唐山地区行政公署停止办公。

1984年12月15日，国务院批准唐山市为全国13个“较大城市”之一。

1995年，唐山市辖路南、路北、古冶、开平、新区5个区和丰润、滦县、滦南、乐亭、迁安、迁西、玉田、唐海8个县，代管丰南、遵化2个县级市，另辖芦台、汉沽2个农场，下设31个街道、115个镇、128个乡。1996年，撤销迁安县，设立迁安市。

2002年，撤销丰南市，设立唐山市丰南区；撤销丰润县和新区，设立唐山市丰润区。

2003年，芦台农场建立芦台经济开发区，汉沽农场建立汉沽管理区。2012年，撤销唐海县，设立唐山市曹妃甸区。

2018年，撤销滦县，设立滦州市。2018年底，唐山市辖路南、路北、古冶、开平、丰南、丰润、曹妃甸7个区，滦南、乐亭、迁西、玉田4个县，代管遵化、迁安、滦州3个县级市，另辖芦台、汉沽、高新、海港4个开发区（管理区），下设54个街道、132个镇、45个乡。

2020年底，唐山市辖路南、路北、古冶、开平、丰南、丰润、曹妃甸7个区，滦南、乐亭、迁西、玉田4个县，代管遵化、迁安、滦州3个县级市，另辖芦台、汉沽、高新、海港4个开发区（管理区），下设54个街道、146个镇、31个乡，有738个居委会、5382个村委会。2021年，路南区女织寨乡，丰南区南孙庄乡，迁西县白庙子乡、上营乡，遵化市西留村乡、兴旺寨乡和西三里乡7个乡撤乡设镇。

2021 年底，唐山市辖3个县级市 ( 迁安、遵化、滦州 )，4个县 ( 迁西、玉田、滦南、乐亭 )，7个区 ( 曹妃甸、路南、路北、开平、古冶、丰润、丰南 )，4个开发区 ( 海港经济开发区、高新技术产业开发区、芦台经济技术开发区、汉沽管理区 )。全市有 24 个乡、153 个镇、5382 个村委会、54 个街道、744 个居委会。