لما افتتح المسلمون بقيادة مغيث الرومي مدينة قرطبة، اختاروا كنيستها الكبرى المعروفة بشنت بنجنت  ST. Vincent التي كانت تقع داخل مدينة قرطبة نفسها بالقرب من السور الجنوبي الذي يحيط بها، قبال باب القنطرة، لإقامة مسجدهم الجامع، فشاطروا نصارى قرطبة في هذه الكنيسة، وأقاموا في شطرهم مسجدا بسيطا ساذج البناء، أسس حنش الصنعاني قبلته بيديه، وكان من الطبيعي أن يقنع الفاتحون بهذا المسجد البسيط، إذ كانوا مجرد محاربين وافدين، حديثي عهد بالبلاد، وليس منهم من كان عارفا بفن البناء، ثم إنهم كانوا يجهلون مواطن الحجر ومصادر استخراج الرخام وغيره من مواد البناء، وتمضي الأيام، ويتكاثر عدد المسلمين الوافدين إلى حاضرة الأندلس بوصول الطلائع العربية المتتابعة إلى الأندلس، ونزول جند الشام في قرطبة، ويضيق مسطح بيت الصلاة عن الاتساع لجموعهم الكثيفة، وأصبح الجامع لا يتسع لأعدادهم الهائلة، فجعلوا يعلقون فيه سقيفة إثر سقيفة أو ظلة بعد ظلة يستكنون تحتها كلما تزايد عددهم، وكان ارتفاع هذه السقائف يقل تدريجيا لارتفاع مستوى سطح الأرض كلما اتجهنا شمالا، لأن أرضية الجزء القبلى من المسجد كانت منحدرة نحو النهر. ولما كان المسجد يحتل الجزء الشمالي من الكنيسة، فقد كان طبيعيا أن يكون تعليق السقائف من الجهة الشمالية وليس من الجهة القبلية حيث يوجد المحراب، وعلى هذا، فقد سبب تطامن السقائف وانخفاضها مضايقات كثيرة للمصلين، حتى كان أغلبهم لا يمكنه النهوض في اعتدال لتقارب السقف من الأرض. ثارت هذه المشاكل في الوقت الذي دخل فيه الأمير عبد الرحمن بن معاوية الأندلس، وأسس دولة بني أمية، وجعل قرطبة دار إمارته، فقد شاهد ما يعانيه المصلون من متاعب بسبب قلة ارتفاع السقائف المقامة في جوف المسجد،  وضيق بيت الصلاة، وعزم على حل هذه المشكلة، وذلك بضم الأرض التي تشغلها الكنيسة إلى الجامع، وبناء مسجد جامع جديد يتسع لجميع المصلين، ويتناسب في عظمته وروعته مع فخامة دولته، فدعا رؤساء النصارى بقرطبة إلى مقابلته، وساومهم في بيع نصيبهم من الكنيسة ليدخله في المسجد، وأوسع لهم البذل وفاء بالعهد الذي صولحوا عليه، فأبوا في بادئ الأمر بيع ما بأيديهم، وطلبوا منه بعد إلحاحه المتواصل أن يبيح لهم بناء كنيستهم شنت أجلح خارج الأسوار San Asciclo التي خربها المسلمون عند الفتح، فوافق الأمير على طلبهم، وتم الأمر على ذلك في عام 168هـ (784م)، فخرجوا له عن كنيستهم، فأدخل أرضها في الجامع الأعظم. وكان شروع عبد الرحمن الداخل في هدم الكنيسة والمسجد القديم، وبناء جامع قرطبة بأسلوبه الجديد، عام 169هـ (780م)، فتم بناؤه واكتملت أسواره في عام 170هـ (786م)، وأنفق عبد الرحمن في بناء هذا المسجد نحو ثمانين ألف دينار، وفي ذلك يقول الشاعر دحية بن محمد البلوي من قصيدة:

 أنفق في ذلك الإله ووجهه                            ثمانين ألفا من لجين ومسجد

 توزعها في مسجد أسسه التقي                      ومنهجه دين النبي محمد

 ترى الذهب الناري فوق سموكه                   يلوح كبرق العارض المتوقد

تاريخ المسلمين وآثارهم في الأندلس، من الفتح العربي حتى سقوط الخلافة بقرطبة، الدكتور السيد عبد العزيز سالم، دار النهضة العربية للطباعة والنشر، بيروت 1998.