Harput’ta Alaca Mescit’in sol tarafından bir iki metre aşağı indikten sonra kayalar üzerinde küçük bir kapı yer alıyor.  Bu kapı Arap Baba Türbesine açılıyor. Arap Baba’nın hayatına dair ise kesin bilgiler bulunmamakla birlikte,  hakkında pek çok efsane anlatıldığı biliniyor. Halk arasında en çok bilinen efsane ise merak edenlerin dikkatini oldukça çekiyor.

Efsane de şöyle anlatılıyor;  Harput ve yöresine bir yıl yağmur yağmaz. Kuraklık ardından da kıtlık kapıya dayanır. Halk perişandır. Alaca Mescit'in yakınlarındaki bir evde Selvi adlı yaşlı bir kadın rüyasında Arap Baba’nın başı kesilip de bir dereye atılırsa yağmur yağacağını görür. Yaşlı kadın önceleri buna pek bir anlam veremez. Ancak aynı rüyayı üç gece üst üste görünce karar verir ve bir gece Arap Baba’nın cesedinin başını gövdesinden ayırır. Kesik başı dereye atar. Gerçekten de yağmur yağmaya başlar. Ama ne yağmur... Yağmur değil adeta tufan. Dereler coşar, her yanı sel basar ve bir türlü dinmek binmez. Yağmuru dört gözle bekleyen insanlar bu sefer de bu felaket karşısında muzdarip olurlar. Selvi kadın rüyasında Arap Baba’nın kesilen başı yerine konulursa yağmurun dineceğini görür. Arar, bir kesik baş bulur, yerine koyar yağmur durur. Harputlular bu olay üzerine Selvi kadının korkunç bir hastalığa yakalanarak günlerce ızdırap çektiğini sonra da öldüğünü söylerler.

Arap Baba Türbesi bu efsane ve tarihiyle Harput’un önemli kültürel miraslarından biri olarak ziyaretçilerini ağırlamaya devam ediyor.