في عام 317هـ هاجم "أبو طاهر القرمطي" الحجاج بموسم الحج يوم التروية بمكة فقتل منهم مائة ألف وقتل أمير مكة ورمي القتلي في بئر زمزم وخلع باب الكعبة ووقف يلعب بسيفه على باب الكعبة وهو ينشد ويقول:-
أنا بالله وبالله أنا ... يخلق الخلق وأفنيهم أنا
واخذ كسوة الكعبة وقسمها على أصحابه ونهب دور أهل مكة ثم جاء الى الحجر الأسود فضربه بدبوس فكسره، ثم قلعه بعد صلاة العصر من يوم الاثنين لأربع عشرة ليلة خلت من ذي الحجة، ثم وضعه على سبعين جمل وكان كل جمل يسير بالحجر قليلآ ثم يموت الي ان وصل "هجر" عاصمة دولته البحرين ثم بعد ذلك قام بانشاء بناء دائري اطلق عليه الكعبة ووضع الحجر الاسود به وقال للناس هنا حجكم ومشاعركم، وقد أصاب الله ذلك الكافر الفاجر "أبو طاهر القرمطي" بعدها بالجدري فأهلكه شر هلكة فهلك في رمضان عام 332هـ وانتهى نفوذ دولته من بعده، وقد عاث في أرض المسلمين فسادآ خلال حكمه. وبأمر من الله رجع الحجر الى مكة بعد مكثه في "هجر" 22 عام.