原系百越民族居住之地  先秦时期，玉林市处在原始社会末期，是百越民族分布的地区之一，居住着西瓯、骆越等部族。战国后期，出现西瓯君和骆候，瓯骆人开始出现阶级分化。秦始皇统一岭南后，在岭南设置南海郡、桂林郡和象郡。市境开始行政建制，隶属象郡、桂林郡。秦二世，继任南海慰秦将赵佗兼并桂林郡、象郡，辖据岭南，汉初建立南越国，市境隶属南越国。公元前112年，汉武帝平定南越，次年在岭南设置南海、苍梧、鬱林、合浦、交趾、九真、日南、珠崖、儋耳9郡，其中，广西地区有苍梧、鬱林、合浦3郡。今玉林市兴业县属鬱林郡；玉州区、福绵管理区、容县、北流市、陆川县、博白县属合浦郡。

汉代设立鬱林郡  汉元鼎六年（公元前111年）置鬱林郡，王莽新朝（9–23年）改鬱林郡为鬱平郡（后复置），隋开皇年间（581–600年）废鬱林郡，大业初（605–618年）复置。原治所一说在今贵港市港南区贵城镇，一说在今桂平市蒙圩镇新德古城村，隋朝徙今贵港市港南区东津镇鬱江南岸。汉元封五年（公元前106年）属交趾刺史部，建安八年（203年）属交州刺史部。三国吴黄武五年（226年）隶属广州，俄复旧，元兴元年（264年）复属广州，晋至南朝宋齐因之，梁属定州，又改属南定州。初领布山、安广、阿林、广鬱、中留、桂林、潭中、临尘、定周，增食、领方、雍鸡12县，公元274年析地置桂林郡；晋领布山、阿林、新邑、晋平、始建、鬱平、领方、武熙、安广9县。大兴元年（318年）析地置晋兴郡。隋开皇年间（581—600年）晋兴郡废，大业（605–618年）初其地仍属鬱林郡。隋领鬱林、鬱平、领方、阿林、石南、桂平、马度、安成、宁浦、乐山、岭山、宣化12县。唐初废。天宝元年（742年）改鬱林郡。治所兴业县蒲塘镇、洛阳乡一带。属岭南道。领石南、兴德、鬱平、兴业、潭栗5县。乾元元年（758年）复置鬱林州。

从鬱林州到玉林市  唐贞观（627–649年）始置鬱林州，天宝元年（742年）改置鬱林郡，乾元元年（758年）复置鬱林州。治所原在今兴业县蒲塘镇、洛阳乡一带，五代十国徙今贵港市港南区东津镇鬱江南岸，宋初徙今兴业县石南镇（古州肚），至道二年（996年）徙南流县（今玉州区）。始属岭南道，咸通三年（862年）属岭南西道。五代十国属南汉。宋至道三年（997年）属广南路，元丰元年（1078年）属广南西路，大观三年（1109年）属广西黔南路，次年复属广南西路，宋南渡后属广西路。元至元十三年（1276年）属广西道，元贞元年（1295年）属广西两江道，至正二十三年（1363年）属广西行中书省。明洪武二年（1369年）十月属梧州府。初领石南、兴德两县，后鬱平县来属。唐麟德二年（665年）析石南县设置兴业县，又领潭栗县。复置领石南、兴德、鬱平、兴业、潭栗5县，建中二年（781年）省石南县入兴业县，后省潭栗县。宋开宝中（968–975年）废鬱平、兴德两县入兴业县，南流县来属。公元1110年，鬱林州辖南流县和兴业县；容州辖普宁、陆川和北流县；白州辖博白县。政和元年（1111年）博白县来属，三年博白县往属白州，南渡后来属。元朝领南流、兴业、博白3县。

明洪武元年（1368年），博白县属梧州府鬱林州。明洪武二年九月省南流县入鬱林州，废普宁县入容州；十年（1377年）五月，容州降为容县，隶属梧州府；北流、陆川县归属鬱林州。清顺治，鬱林州从梧州府分出，隶属桂平梧鬱道；雍正三年（1725年）升置鬱林直隶州。光绪十三年（1887年）隶属左江道。清嘉庆初至清末，辖博白、北流、陆川、兴业4个县。1912年（民国元年）升州为府，次年废府为县（县直接归省管辖）。1913年–1949年，市境各县（市）区先后隶属鬱江道、苍梧道、广西省政府鬱林民团区、梧州民团区、梧州行政监督区、浔州行政监督区、鬱林行政监督区，第六行政督察区、第三行政督察区、鬱林专区、第九行政督察区（鬱林区）。1941年–1951年，容县属梧州行政督察区、梧州专区。

解放后，1949年12月–1951年6月，鬱林、博白、北流、陆川、兴业5县隶属鬱林专区，1951年7月鬱林专区、梧州专区合并成立容县专区，辖鬱林、兴业、博白、北流、陆川、容县、苍梧、藤县、岑溪、平南、桂平；贵县划归宾阳专区。1952年，贵县由宾阳专区划入容县专区，撤销兴业县，大部分并入鬱林县，一部并入贵县，博白县划入钦州专区，次年划入容县专区。1956年3月，鬱林县更名玉林县。1958年7月，撤销容县专区，分设玉林专区和梧州专区，玉林专区辖玉林县、贵县、桂平县、平南县、容县、北流县、陆川县、博白县，1971年11月改称玉林地区。

1983年10月，撤销玉林县，设玉林市（县级），隶属玉林地区。1995年12月，玉林地区析出地级贵港市，玉林地区辖玉林市、北流市、容县、陆川县、博白县。贵港市辖港南区、港北区、覃塘管理区、桂平市、平南县。1997年4月22日，撤销玉林地区，设立地级玉林市（县级玉林市分设玉州区、兴业县）。10月，玉林市辖玉州区、福绵管理区（玉州区派出机构）、容县、陆川县、博白县、兴业县、北流市。