烏魯木齊是個歷史悠久的城市。遠在新石器時代人類就在這裏生息繁衍。最早進入此地的為古姑師－車師人。戰國時，屬古車師人活動範圍。西漢時期，烏魯木齊及其周圍地區居住著十幾個部落的遊牧民，史稱“十三國之地”。西漢初年，漢朝政府即置戊己校尉在烏魯木齊近處的金滿（吉木薩爾）設營屯田，維護絲路北道安全。東漢時期，這裏是東師六國的壹部分。公元640年，唐朝政府在天山北麓設置庭州，轄4縣，這壹帶被稱為輪臺縣。現烏魯木齊市東南郊烏拉泊水庫南側的古城遺址，就是當時的軍事重鎮輪臺縣城。邊塞詩人岑參曾在輪臺生活過三年，寫下了“戍樓西望煙塵黑，漢兵屯在輪臺北”的詩句。
烏魯木齊的大規模開發始於清代乾隆二十年（1755年）。清政府鼓勵屯墾，減輕糧賦，烏魯木齊成為“繁華富庶，甲於關外”的地方。清軍於乾隆二十三年（1758年）在今南門外修築壹座土城，城“周壹裏五分，高壹丈二尺”，就是烏魯木齊城池的雛形；後來到了乾隆二十八年（1763年），又把舊土城向北擴展，達到周長五裏四分，竣工時，乾隆賜名“迪化”。清光緒十年（1884年）新疆建省，清政府設在新疆的軍政管理中心由伊犁轉到迪化，迪化成為省會。
1949年，新疆和平解放，迪化市人民政府成立。1954年2月1日，迪化正式恢復使用原名烏魯木齊。現在，這座具有1300多年悠久歷史的城市已經是壹座現代化的大都會，市中心的紅山是它的標誌。