Doğubayazıt şehrinin 7 km. güneydoğusunda Belleburç denilen bir konumda, sarp bir kayalık üzerinde kurulmuş olan ve günümüzde harabe bir durumda bulunan kalenin ilk olarak ne zaman ve kimler tarafından yapıldığı kesin olarak bilinmemektedir. Ancak kaledeki Urartu Kaya Mezarları ve antik çağlara ait kalıntılar, buranın antik bir yerleşme olduğu izlenimini vermektedir. Bayazıt şehrinin coğrafi konumu nedeniyle, kale tarih boyunca önemli görevler üstlenmiştir.

     Kalenin güneydoğusunda da Urartu Dönemi’nden kaldığı sanılan bir yerleşim alanının izleri vardır. D Huff tarafından kapsamlı bir şekilde araştırılan buradaki kaya mezarı M.Ö 13 ile 9.yy arası olarak tarihlendirilmiş ve Urartu döneminde kalenin adının Daryunk olduğunu belirtmiştir. Doğubayazıt’ tan geçen İpek Yolu’nun çok eski çağlara uzandığı düşünülürse, ilk yerleşim Urartular’ dan önce kurulduğu düşünülebilir. Doğal bir kale konumunda olan Karaburun tepelerinin sarp kayaları, düzgün taş duvarlarla örülerek muhkem bir kale inşa edilmiştir. Kalenin temelinde bulunan taşların cins ve kesme tekniğinden de, ilk kalenin Urartular tarafından yapıldığı, daha sonraki yıllarda kalenin Selçuklular ve Osmanlılar tarafından onarıldığı anlaşılıyor. Doğubayazıt ve çevresi, 1064 yılında Büyük Selçukluların hakimiyetine geçmişti. Büyük Selçukluların da Urartu yerleşim alanını kullandıkları, hatta güneybatıya doğru genişledikleri, mevcut Selçuklu mezar kalıntılarından anlaşılmaktadır. Bölge halkı arasında Doğubayazıt Kalesine, Ceneviz Kalesi diyenlerde bulunmaktadır. Ortaçağın başında Karadeniz kıyısında bulunan limanlardan Asya’ya ticaret yapan Cenevizli tüccarlar, Doğubayazıt’ tan geçen transit yolu kullanmışlardır. “Bugün Bayburt, Erzurum, Diyadin, Doğubayazıt üzerinden geçen transit yolu, eskiden kervanlarında kullandığı şüphe götürmez bir gerçektir.” diyen W. Heyd, J.Brant’ın seyahatnamesine dayanarak Bayburt, Erzurum, Hasankale ve Doğubayazıt’ ta kervanların korunması için Cenevizlilerin kaleler yaptıklarını belirtmektedir.

     Daryunk adı Doğubayazıt ve çevresinin Celayirliler (1358 – 1382) tarafından fethine kadar kullanılmıştır. Celayir Devleti’nin iki kardeş arasında bölünmesinden sonra, Doğubayazıt yöresi Sultan Bayezid’e verilmişti. Sultan Bayezid, Bayram Hoca’nın saldırılarına karşı koyabilmek için 1374 yılında Doğubayazıt Kalesini restore ettirmiştir. Halk tarafından çok sevilen Sultan Bayezid’in ölümünden sonra, halk onun anısına şehrin adını değiştirerek Daryunk yerine ilk defa Bayezid adını vermiştir. Eski kalenin adı da Bayazıd Kalesi olarak değişmiştir.