در دوره ساسانيان هنگامي که خسرو اول انوشيروان ايران را به چهار قسمت تقسيم کرد ابهر در منطقه دوم يعني استان جبال قرار داشت دراين دوره منطقه ابهررود تحت تسلط خاندان مهران يکي از هفت خاندان مهم حکومت گر ايران قرار داشت اين خاندان علاوه بر ابهر به مناطق وسيعي که از ناحيه خوار تا آوج و دشتبي امتداد داشت مالکيت داشتند و معروفترين افرادي که از اين خاندان شناخته شده‌اند شروين دشتبي، بهرام چوبينه، پيران گشسب، گريگوريوس و سياوش رازي هستند.

تاپيش از خلافت هارون الرشيد، ابهر منطقه نسبتاً وسيعي را شامل بود. وي قسمتي از قاقازان و نيز ناحيه ابهر رود را از ابهر جدا کرد و به قزوين ملحق ساخت. در اوايل سده 8 قمري ولايت ابهر 25 پاره ديه داشت و حقوق ديواني آن به يک تومان و چهار هزار دينار مي‌رسيد.

از ابهر به عنوان بلوک معتبر از ولايت خمسه با باغات فراوان و آبهاي جاري نام برده شده‌است. شاردن مي‌نويسد ابهر در دوره شاه عباس دوم صفوي داراي 2500 خانه و باغچه بوده‌است. چنانچه سواره نيم ساعت وقت لازم داشته تا از آن عبور کند. ابهر در اين زمان داراي اماکن عمومي و سه مسجد بزرگ بوده و در وسط شهر بقاياي گلين قلعه مخروبه‌اي مشاهده مي‌شود.

در سال 1100 هجري تاورنيه از ارامنه شهر ابهر خبر داده و ژوبر در زمان فتحعليشاه قاجار باغهاي ابهر و خانه‌هاي تميز و راحت آنرا ستوده‌است. در سال 1247 هجري ابهر 700 خانه و باغهاي دانشين داشته و قبر شيخ قطب الدين از مشايخ سلسله شيخ صفي الدين اردبيلي در ابهر واقع شده بر طبق نوشته دوسرسي در سالهاي 1250 هجري دوره محمد شاه قاجار ابهر داراي 200 خانه و 900 نفر جمعيت بوده و دو گنبد نيمه ويران از دو مسجد در آن ديده مي‌شده‌است. در دوره ناصر الدين شاه قاجار ابهر تيول توپخانه بوده‌است چنانچه خرمدره در تيول فراشخانه بوده در همين دوره قلعه خرابه‌اي بنام دارا در ربع فرسخي شهر ديده مي‌شده‌است و خانه‌هاي آن کمتر از 1100 نبوده. در سده 10 قمري از مرقد پير حسن بن اخي اوران نيز در ابهر ياد شده و سيدي علي کاتبي درياسالار عثماني در 964 هـ.ق.آنرا زيارت کرده‌است.