Departemen Arkeologi sebagai salah satu bagian akademik di lingkungan FIB UGM secara resmi dibuka pada tahun akademik 1962/1963 sebagai pengembangan sub-Jurusan Sejarah Indonesia Kuna. Pada saat dibuka, bagian ini bernama Jurusan Ilmu Purbakala dengan mahasiswa sejumlah 43 orang. Selain menerima mahasiswa baru, Jurusan Ilmu Purbakala juga menerima mahasiswa tingkat Sarjana Muda dari Jurusan Sastra Indonesia dan Jurusan Sejarah baik dari lingkungan Universitas Gadjah Mada maupun universitas yang lain. Saat itu, pengajar di jurusan ini sangat terbatas dan harus mendatangkan beberapa pengajar dari luar kota seperti Drs. R. Soekmono (alm.), Drs. M. Boechari (alm.), Drs. R.P. Soejono (alm), dan Drs. Soediman (alm).
Dalam perkembangannya, jurusan ini mengalami pasang surut, bahkan sempat ditutup pada tahun 1966. Penutupan tersebut akibat tidak adanya dana untuk mendatangkan staf pengajar dari luar yang pada umumnya memberikan kuliah pada tingkat sarjana. Di sisi lain, sebagian lulusan Sarjana Muda melanjutkan kuliah pada jurusan lain di Fakultas Sastra dan Kebudayaan UGM dan UI dan sebagian tidak melanjutkan kuliah karena telah bekerja. Setelah jurusan ini dibuka kembali-dan berganti nama menjadi Jurusan Arkeologi pada tahun 1967, hanya beberapa orang lulusan Sarjana Muda yang melanjutkan kuliah.
Pengembangan jurusan mendapatkan tonggak penting pada pertengahan tahun 1980-an dengan datangnya dosen tamu dari Ford Foundation, yaitu Dr. John N. Miksic. Beberapa mata kuliah baru dikembangkan, seperti museologi, arkeologi lingkungan, serta etnoarkeologi, serta pusat-pusat peradaban kuno. Sebagian staf melanjutkan pendidikan ke jenjang lebih tinggi sehingga mencapai gelar master dan doktor, baik dari dalam maupun luar negeri. Hal itu kemudian berpengaruh terhadap perkembangan jurusan, baik secara akademik maupun kelembagaan.
Pada tahun 2001 dibuka Program Studi Pascasarjana (S2) Arkeologi yang berinduk pada Program Pascasarjana (Sekolah Pascasarjana) UGM. Dengan mengembangkan konsentrasi/minat Pengelolaan Sumberdaya Arkeologi, program studi mendatangkan para pengajar dari berbagai disiplin ilmu untuk memperkaya kemampuan mahasiswa pascasarjana, seperti Prof. Dr. R.P. Soejono, Prof. Ir. Eko Budihardjo, M.Sc., dan Prof. Dr. Wiendu Nuryanti, M.Arch. Pengelolaan program pascasarjana monodisiplin dilepas dari Sekolah Pascasarjana (d.h. Program Pascasarjana) UGM, untuk ditangani langsung oleh jurusan, pada tahun 2008.
Dua tahun kemudian, jurusan dikembangkan dengan membuka minat utama museologi, baik pada program sarjana (S1) dan pascasarjana (S2). Program ini bekerjasama dengan Tropenmuseum dan Reinwardt Academie di Amsterdam. Selama lima tahun, para pengajar dari Belanda mengampu mata kuliah-mata kuliah pascasarjana bersama dengan para pengajar dari Jurusan Arkeologi. Para pengajar dari Belanda tersebut antara lain adalah Pim Westerkamp, Itie van Hout, Ruben Smit, Ben Meulenbeld, Alex Lucius Stipriaan, Martijn de Ruijter, dan Mirjam Shatanavi.
Pada tahun 2006 dilakukan reorganisasi di lingkungan UGM. Jurusan Arkeologi menjadi Departemen Arkeologi dan membawahi dua Prodi, yaitu Prodi S1 Arkeologi dan Prodi S2 Arkeologi. Di samping itu, bersama dengan Departemen lain mengelola Prodi S1 Pariwisata.
