三国吴置。
刘宋太初元年(453)属会州。孝建元年(454)属东扬州。大明三年(459)罢东扬州,以其地为王畿。临海郡属王畿。八年,罢王畿,复立扬州,扬州还为东扬州。前废帝永光元年(465),省东扬州并扬州。临海郡属之。
南朝梁,陈临海郡时属扬州、东扬州。
隋开皇九年(589),灭南朝陈,废郡,并临海郡各县入临海县,属处州(十二年改称括州)。
唐武德五年(622)以临海郡地置台州,治临海镇(浙江临海市)。开元二十一年(733)隶江南东道。天宝元年(742)复称临海郡。乾元元年(758)复称台州,隶浙江东道。此后反复改隶浙江东、西两道。