Perkhidmatan Agama dalam Angkatan Tentera Malaysia (ATM) telah lama bermula iaitu selaras dengan penubuhan Rejimen Askar Melayu Diraja (RAMD) pada tahun 1933. Walau bagaimanpun, perjawatan ketika itu adalah di bawah Jabatan Perkhidmatan Awam (JPA) Malaysia, bukan di bawah ATM. Sejak dari itu perkhidmatan agama tersebut telah berkembang mengikut keperluan perkembangan formasi dan pasukan ATM tu sendiri.

Semakin lama, keperluan pengurusan hal ehwal keagamaan dalam ATM semakin dirasakan penting dan menjadi sinonim dengan pertadbiran ketenteraan sehingga di mana sahaja wujudnya pasukan baru, perjawatan baru kakitangan agama (guru agama) diperlukan bagi memenuhi keperluan tugas keagamaan di pasukan dan terhadap keluarga ATM.

Ekoran dari perkembangan diatas, idea dan usaha-usaha untuk mengembangkan perkhidmatan agama dalam bentuk Kor di bawah perkhidmatan ATM diwujudkan pada 16 April 1985 dimana penubuhan tersebut mendapat persetujuan dan limpah perkenan Seri Paduka Baginda Yang Dipertuan Agong Kelapan Sultan Iskandar Ibni Almarhum Sultan Ismail, Selaku Panglima Tertinggi Angkatan Tentera Malaysia.

Cetusan ini telah diilhamkan daripada YB Datuk Patinggi Abdul Taib Mahmud dan idea tersebut dapat dilaksanakan pada tahun 1980 apabila YAB Dr. Mahathir Mohamed mantan Perdana Menteri telah menggesa penubuhan sebuar Kor untuk mengendalikan hal ehwal keagamaan ATM. Penugasan perkhidmatanya meliputi tiga cabang perkhidmatan Angkatan Tentera Malaysia iaitu Darat, Laut dan Udara.