早在新石器时期就有先民在此生息繁衍,千百年来一直是陇右汉藏聚合、农牧过渡,东进西出、南联北往的门户,被史家称为北蔽河湟,西控番戎,东济陇右的边塞要地,是唐番古道的要冲地段,史称“进藏门户”,是始于宋、兴于明、止于清的有名“茶马互市”。
西汉王朝迁徙灾民于洮州,遂带来中原先进的生产技术和文化艺术。
西晋吐谷浑占据洮阳城,修庙宇,从古战牛头城遗址和古城村出土文物可知吐谷浑当时占领着古战、旧城等要地,且信仰佛教,这也是临潭第一座庙宇,佛教文化从此在洮州传播。
明洪武十二年(公元1379年),明将沐英率军西征,在新城修筑一座迄今保存较为完整的城堡,古称洮州卫城。
唐置临潭县,相传县址临近水潭,故名。
清设洮州厅。
民国二年(1913年)复置临潭县至今。