Die ältesten Zeugnisse der langen Geschichte des Gebiets der Inneren Mongolei sind Relikte der Dayao-Kultur und der Hetao-Kultur aus der Altsteinzeit, und der ersten in historischen Aufzeichnungen erwähnten Volksstämme waren die Xianyun, die Hunnen, die Linhu, die Loufan und Donghu. In der Qin- und der Han-Dynastie (221 v. Chr. -220 n.Chr.) waren die Hunnen sehr mächtig. In den Perioden der Südlichen und der Nördlichen Dynastien (420-581) entstand der Khan-Staat des Tujue-Volkes. Im Jahr 916 gründete das Kitan-Volk den Liao-Staat, der es mit der Nördlichen Song-Dynastie (960-1129) in Zentralchina aufnahm. Der Aufstieg des Stammes der Mongolen begann im 12. Jahrhundert am Ostufer des Flusses Ergun. Bereits in der Tang-Dynastie (618-907) wurde der Stamm als Monghol bezeichnet. Er war einer der Shiwei-Stämme, die zu den Donghu gehörten. 1206 rief Dschingis Khan das Große Mongolische Khanat aus, und 1271 verlegte Kublai Khan das Zentrum seiner Herrschaft nach Zentralchina und gründete die Yuan-Dynastie (1271-1368). Ende der Yuan-Dynastie kam es auf dem Gebiet der heutigen Mongolei zu kriegerischen Auseinandersetzungen verschiedener Clans, wogegen es auf dem Gebiet der heutigen Inneren Mongolei, das teilweise unter der Herrschaft einer von der Ming-Dynastie (1368-1644) eingerichteten Bezirksverwaltung stand, ruhig blieb. In der zweiten Hälfte des 15. Jahrhunderts kam es unter Dayun Khan (1461-1504), einem Nachfahren Dschingis Khans, zur Wiedervereinigung der Mongolei. Danach wurde das Reich unter Junggin Khatan Khan (1507-1581), einem Enkel von Dayan Khan, mächtig und blühend. Khatan Khan pflegte enge politische und wirtschaftliche Beziehungen mit der Regierung der Ming-Dynastie. Er und seine Nachfolge wurden vom Kaiserhof der Ming-Dynastie mit dem Titel "König von Shunyi" belehnt.

In der ersten Hälfte des 17. Jahrhunderts unterwarf die qing-Dynastie (1644-1911) im Zuge der Vereinigung ganz Chinas die verschiedenen Stämme südlich der mongolischen Wüste und führte entsprechend dem Acht-Banner-System der Mandschuren das Verwaltungssystem von Bund und Banner ein. Die Gebiete südlich der Wüste erhielten die Bezeichnung "Innere Mongolei", jene nördlich der Wüste wurden "Äußere Mongolei" genannt. Ende des 19. Jahrhunderts, zur Zeit des Untergangs der Qing-Dynastie, befanden sich die Äußere Mongolei und der Westteil der Inneren Mongolei im Machtbereich des zaristischen Russlands und der Ostteil der Inneren Mongolei unter der Herrschaft des japanischen Imperialismus. Während der Periode der Republik China (1912-1949) und insbesondere nach dem Überfall der Japaner (1931) zur Okkupation ganz Nordostchinas sank die Innere Mongolei nach und nach zu einer Kolonie Japans herab. Unter der Führung der Kommunistischen Partei Chinas und dank des harten Kampfes des mongolischen und des hanchinesischen Volkes konnte am 1. Mai 1947 das Autonome Gebiet Innere Mongolei als erstes autonomes Gebiet Chinas eingerichtet werden.

Die jetzige administrative Einteilung des Autonomen Gebietes Innere Mongolei sieht folgendermaßen aus: Der Gebietsregierung unterstehen unmittelbar die vier Städte Hohhot, Baotou, Wuhai und Chifeng; im übrigen ist das autonome Gebiet in die acht Bünde Hulun Buir, Hinggan, Jirem, Xilin Gol, Ulanqab, Ih Ju, Bayannur und Alxa eingeteilt. Den Bünden und den regierungsunmittelbaren Städten unterstehen 100 Banner, Kreise und Distrikte, darunter die drei autonomen Banner Oroqen, Ewenki und Morin Dawa Daurzu, sowie 13 Städte auf Kreisebene. Den Bannern, Kreisen und Distrikten unterstehen wiederum insgesamt 1565 Kommunen und Gemeinden. Hohhot, die Hauptstadt des autonomen Gebiets, ist das politische, wirtschaftliche und kulturelle Zentrum der Inneren Mongolei.