Sebelum masuknya suku-suku dari Sarawak dan suku-suku pendatang dari luar pulau, wilayah ini sangat jarang penduduknya. Sebelum kedatangan Belanda terdapat beberapa kerajaan yang berada di Kalimantan Timur, diantaranya adalah Kerajaan Kutai (beragama Hindu), Kesultanan Kutai Kartanegara ing Martadipura, Kesultanan Pasir dan Kesultanan Bulungan.

Menurut Hikayat Banjar, wilayah Kalimantan Timur (Pasir, Kutai, Berau, Karasikan) merupakan sebagian dari wilayah taklukan Kesultanan Banjar, bahkan sejak jaman Hindu. Dalam Hikayat Banjar menyebutkan bahwa pada paruh pertama abad ke-17 Sultan Makassar meminjam tanah sebagai tempat berdagang meliputi wilayah timur dan tenggara Kalimantan kepada Sultan Mustain Billah dari Banjar pada waktu Kiai Martasura diutus ke Makassar dan mengadakan perjanjian dengan I Mangngadaccinna Daeng I Ba’le’ Sultan Mahmud Karaeng Pattingalloang, yaitu Sultan Tallo yang menjabat mangkubumi bagi Sultan Malikussaid Raja Gowa tahun 1638-1654 yang akan menjadikan wilayah Kalimantan Timur sebagai tempat berdagang bagi Kesultanan Makassar (Gowa-Tallo), dengan demikian mulai berdatanganlah etnis asal Sulawesi Selatan. Sejak 13 Agustus 1787, Sultan Tahmidullah II dari Banjar menyerahkan Kalimantan Timur mejadi milik perusahaan VOC Belanda dan Kesultanan Banjar sendiri dengan wilayahnya yang tersisa menjadi daerah protektorat VOC Belanda.

Sesuai traktat 1 Januari 1817, Sultan Sulaiman dari Banjar menyerahkan Kalimantan Timur, Kalimatan Tengah, sebagian Kalimantan Barat dan sebagian Kalimantan Selatan (termasuk Banjarmasin) kepada Hindia-Belanda. Pada tanggal 4 Mei 1826, Sultan Adam al-Watsiq Billah dari Banjar menegaskan kembali penyerahan wilayah Kalimantan Timur, Kalimantan Tengah, sebagian Kalimantan Barat dan sebagian Kalimantan Selatan kepada pemerintahan kolonial Hindia Belanda. Pada tahun 1846, Belanda mulai menempatkan Asisten Residen di Samarinda untuk wilayah Borneo Timur (sekarang provinsi Kalimantan Timur dan bagian timur Kalimantan Selatan) bernama H. Von Dewall. Provinsi Kalimantan Timur selain sebagai kesatuan administrasi, juga sebagai kesatuan ekologis dan historis. Kalimantan Timur sebagai wilayah administrasi dibentuk berdasarkan Undang-undang Nomor 25 Tahun 1956 dengan gubernurnya yang pertama adalah APT Pranoto.

Sebelumnya Kalimantan Timur merupakan salah satu karesidenan dari Provinsi Kalimantan. Sesuai dengan aspirasi rakyat, sejak tahun 1956 wilayahnya dimekarkan menjadi tiga provinsi, yaitu Kalimantan Timur, Kalimantan Selatan dan Kalimantan Barat.

Daerah-daerah Tingkat II di dalam wilayah Kalimantan Timur, dibentuk berdasarkan Undang-undang No. 27 Tahun 1959, Tentang Pembentukan Daerah Tingkat II di Kalimantan (Lembaran Negara Tahun 1955 No.9).

Lembaran Negara No.72 Tahun 1959 terdiri atas :

Pembentukan 2 kotamadya, yaitu:

1. Kotamadya Samarinda, dengan Kota Samarinda sebagai ibukotanya dan sekaligus sebagai ibukota Provinsi Kalimantan Timur.
2. Kotamadya Balikpapan, dengan kota Balikpapan sebagai ibukotanya dan merupakan pintu gerbang Kalimantan Timur.

Pembentukan 4 kabupaten, yaitu:

1. Kabupaten Kutai, dengan ibukotanya Tenggarong
2. Kabupaten Pasir, dengan ibukotanya Tanah Grogot.
3. Kabupaten Berau, dengan ibukotanya Tanjung Redeb.
4. Kabupaten Bulungan, dengan ibukotanya Tanjung Selor.

Pembentukan Kota dan Kabupaten Baru

Berdarkan Peraturan Pemerintah Nomor 47 tahun 1981, maka dibentuk Kota Administratif Bontang di wilayah Kabupaten Kutai dan berdasarkan Peraturan Pemerintah Nomor 20 tahun 1989, maka dibentuk pula Kota Madya Tarakan di wilayah Kabupaten Bulungan. Dalam Perkembangan lebih lanjut sesuai dengan ketentuan di dalam Undang-undang No. 22 Tahun 1999 Tentang Otonomi Daerah, maka dibentuk 2 Kota dan 4 kabupaten, yaitu:

1. Kabupaten Kutai Barat, beribukota di Sendawar
2. Kabupaten Kutai Timur, beribukota di Sangatta
3. Kabupaten Malinau, beribukota di Malinau
4. Kabupaten Nunukan, beribukota di Nunukan
5. Kota Bontang (peningkatan kota administratif Bontang menjadi kotamadya)

Berdasarkan pada Peraturan Pemerintah nomor 8 tahun 2002, maka Kabupaten Pasir mengalami pemekaran dan pemekarannya bernama Kabupaten Penajam Paser Utara. Pada tanggal 17 Juli 2007, DPR RI sepakat menyetujui berdirinya Tana Tidung sebagai kabupaten baru di Kalimantan Timur, maka jumlah keseluruhan Kabupaten/Kota di Kalimantan Timur menjadi 14 wilayah. Pada tahun yang sama, nama Kabupaten Pasir berubah menjadi Kabupaten Paser berdasarkan PP No. 49 Tahun 2007.

Tahun 2012, giliran Provinsi Kalimantan Timur yang dimekarkan dan melahirkan Provinsi Kalimantan utara (UU No.20 Tahun 2012). Lima Kota/Kabupaten bergabung ke dalam Provinsi Kaliamantan Utara, yitu Kota Tarakan, Kabuapten Nunukan,Kabuapten Malinau, Kabupaten Tana Tidung dan Kabuapten Bulungan. Hingga jumlah kota/kabupaten  yang tergabung dalam Provinsi Kalimantan Timur  berkurang dari 14 kota/kabupaten menjadi 9 kota/kabuapten.

Tahun 2013, wilayah Kabupaten Kutai Barat dimekarkan dan melahirkan Kabuapten  termuda dikaltim, yaitu Kabupaten Mahakam Ulu, yang mengenapkan dalam Provinsi Kalimantan Timur menjadi 10 Kota/Kabuapten.