Seiring berjalanya waktu pada bulan Oktober 1980 didirikan Yayasan Perguruan Tinggi Agama Islam (PTAI), terdiri dari 2 (dua) Jurusan, Dakwah dan Tarbiyah, kedua jurusan terdaftar pada Departemen Agama Republik Indonesia pada tanggal 16 April 1983. Perkembangan yang amat menggembirakan dengan adanya Peraturan Presiden RI Nomor 106 Tahun 2006 Tanggal 28 Desember 2006 Tentang Pendidikan Sekolah Tinggi Agama Islam Negeri (STAIN) maka yayasan PTAI resmi menjadi STAIN Zawiyah Cot Kala Langsa yang ditandatangani oleh Presiden Republik Indonesia Ke-6 Bapak Dr.H. Susilo Bambang Yudhoyono.

Upaya pengembangan dan peningkatan kualitas terus dilakukan. Selama delapan tahun di bawah kepemimpinan Bapak Dr. H. Zulkarnaian, MA., lembaga ini mengalami peningkatan yang cukup signifikan, baik dari sisi manajemen, akademik, sarana prasarana, kelembagaan, ketenagaan, jumlah mahasiswa, maupun aspek-aspek lainya. Kemajuan-kemajuan tersebut mengantarkan Sekolah Tinggi Agama Islam Negeri Zawitah Cot Kala Langsa menjadi Institut Agama Islam Negeri Langsa dengan ditanda tangganinya Peraturan presiden republik Indonesia Nomor 146 Tahun 2014 pada tanggal 17 Oktober 2014 oleh Presiden Republik Indonesia Ke-6 Bapak Dr.H. Susilo Bambang Yudhoyono.

Disana peningkatan status Sekolah Tinggi menjadi Institut diharapkan dapat menempatkan posisi dan fungsinya sebagai pusat kajian Islam di tingkat lokal, yang secara berantai akan mempengaruhi di tingkat regional nasional dan internasional. Di samping itu pengembangan Institut ini diharapkan dapat memacu tumbuh kembali kekuatan persatuan umat Islam di nusantara yang pernah hilang, karena dasar utama dari semangat persatuan itu terbit di aceh khususnya Peureulak dan akan bersinergi dengan semangat persatuan nasional.

Sesuai dengan Visi dan Misi dari suatu lembaga dan selalu berupaya melakukan peningkatan kualitas bagi civitas akademika, maka perpustakaan didirikan sebagai sarana untuk ketercapainya tujuan tersebut.

Awal mula dimulai dengan perpustakaan yang bersifat lokal yang berlokasi di MIN Pilot dan seiring berubahnya status dari PTAI menjadi STAIS, kemudian STAIN dan sampai diresmikanya IAIN Langsa pada Tanggal 17 Oktober 2014 di Jakarta. Pada masa STAIS dan STAIN Perpustakaan dengan luas 25 x 15 meter dengan jumlah kurang lebih 4000 orang mahasiswa sedangkan jumlah koleksi saat itu hanya berkirasar 20.000 eksamplar dan tahun ketahun koleksi perpustakaan semakin bertambah. Pada tahun 2016 kampus IAIN langsa telah membangun kembali gedung perpustakaan yang luasnya kurang lebih 1.522.5M dengan Lebar 35.00M dan Panjang 43.50M, yang di lengkapi dengan ruang carel room, ruang seminar, dan ruang korner. Sedangkan koleksi buku pada tahun 2017 ini memiliki koleksi buku sebanyak 32. 040 Eksamplar, dan memiliki 6.691 judul buku.