في 17 يونيو 1999م قررالمؤتمر التأسيسي للأتحاد إنشاء هذه المنظمة بأسم " إتحاد مجلس الدول الأعضاء في منظمة التعاون الاسلامي " ومقرها في طهران عاصمة الجمهورية الاسلامية الايرانية. و في 24 أبريل 2001م تم رسميا إفتتاح مقر الاتحاد علي يد سماحة الشيخ مهدي كروبي، رئيس مجلس الشوري الاسلامي الايراني وقتئذٍ بصفته رئيس المؤتمر التاسيسي، و بحضور عدد كبير من رؤساء المجالس الأعضاء و البرلمانيين و رؤساء البعثات الدبلوماسية المعتمدين في طهران .
و لاتحول عضوية الأتحاد دون العضوية في أي مجموعة برلمانية أقليمية أو دولية أخري. ويمكن للمنظمات الأقليمية أو الدوليه حضور مؤتمرات الأتحاد بصفة المراقب و ذلك بتوصية من لجنته التنفيذيه وموافقه المؤتمر. و يحق للمراقبين التعبير عن وجهات نظرهم ولكن بدون الادلاء بأصواتهم .
ويبلغ عدد أعضاء الأتحاد حاليا 54 مجلساً عضوا.
إن صفة المراقب لدي الاتحاد مفتوحة بطلب أي من مجالس منظمة التعاون الاسلامي و كذلك من المنظمات الأقليمية والدولية التي تبدي رغبتها في تقديم أسهامات عملية قيمة لصالح عمل الأتحاد. و يجوز لمؤتمر الاتحاد منح صفة المراقب أو تعليقها أو أنهائها بمقتضي أحكام لائحة الاجراءات الخاصه بذلك . و يوجد في الوقت الراهن 24 منظمات تتمتع بصفة المراقب لدي الأتحاد.
كان أول أمين عام للأتحاد هو سعادة السيد ابراهيم أحمد عوف و هو دبلوماسي مصري تم إنتخابه بواسطة دورة استثنائيه عقدها المجلس بمدينه طهران. وقد تولي مقاليد منصبه هذا لفترتين متتاليتين وذلك من اليوم الأول من شهر مارس عام 2000م و حتي اليوم الثلاثين من شهر أبريل 2008م.
وفي الدورة الاستثنائيه الثانية للمجلس التي عقدت بمدينه اسطنبول التركية في 24 مارس 2008م تم إنتخاب سعادة البروفسور محمود ايرول قليج، من تركيا، أمينا عاما جديدا للأتحاد و قد تولي سعادته مسؤولية منصبه في اليوم الأول من شهر مايو 2008م.
وأعيد انتخابه لولاية ثانية مدتها 4 سنوات اعتبارا من أول مايو 2012 بواسطة الدورة (14) للجنة العامة للاتحاد التي عقدت في بالمبانغ – الجمهورية الاندونيسية في 28-29 يناير 2012.
وكان سعادة السفير محمد بيروي قد تولي منصب أول امين عام مساعد للأتحاد. و باشر مهامه لفترتين متتاليتين من شهر مارس 2001م وحتي 31 مارس 2008 م.
كما تم في الدورة الاستثنائيه الثانية للأتحاد التي عقدت باسطنبول في 24 مارس 2008م إنتخاب سعادة السفير علي أصغر محمدي سيجاني أمينا عاما مساعدا للأتحاد.
وتولى مهام منصبه إعتبارا من أول أبريل 2008 م وقد أعيد انتخابه لفترة ثانية مدتها 4 سنوات اعتبارا من أول أبريل 2012، بواسطة الدورة (14) للجنة العامة للاتحاد التي عقدت في بالمبانغ – الجمهورية الاندونيسية- في 28-29 يناير 2012.
وفي المؤتمر الثالث عشر للاتحاد في 16 يناير 2018، تم إنتخاب الشيخ محمد قریشی نياس، من السنغال أمينا عاما جديدا للأتحاد و قد تولي سعادته مسؤولية منصبه في اليوم الأول من شهر أغسطس ، 2018.