همبستگی کانو‌نیکال

همبستگی کانو‌نیکال

اسلاید 1: دانشگاه صنعتي امير كبيردانشكده مهندسي صنايعهمبستگي كانونيكالاستاد راهنما: دكتر جمال شهرابيارائه دهندگان : مرتضي بيدخوري مهدي بهناميبه نام خدا

اسلاید 2: فهرست مطالبمفهوم همبستگي كانونيكال مكانيزم آماري همبستگي كانونيكالمسئله نمونهچند نمونه تست آماري براي معني داري نتايج همبستگي كانونيكال

اسلاید 3: همبستگي كانونيكال(canonical correlation) تا همين اواخر، تحليل همبستگي كانونيكال تقريبا يکي از فنون ناشناخته در آمار بود و شبيه ساير فنون آماري چند متغيره، ظهور برنامه هاي کامپيوتري گسترش کاربردهاي آن را در مسائل تحقيقاتي تسهيل نموده است. همبستگي كانونيكال قابليت کاربرد در داده هاي متريک و غيرمتريک هم براي متغيرهاي وابسته و هم براي متغيرهاي مستقل را دارا مي باشد. در همبستگي كانونيكال ابتدا بايد متغيرها را به دو دسته تقسيم كرد. ما مي توانيم بين دو دسته از متغيرها تمايز قائل شويم. يک دسته از متغيرها آنهايي هستند که علاقه به توضيح آنها داريم (که آنها را متغيرها وابسته مي نماميم و با Y نمايش مي دهيم)، دسته ديگر متغيرهايي هستند که کشف کننده يا توضيح دهنده هستند (آنها را متغيرهاي مستقل مي ناميم و با X نمايش مي دهيم).

اسلاید 4: همبستگي كانونيكال(canonical correlation) همبستگي كانونيكال چيست؟در سپتامبر 1935، هارلد هتلينگ، اهميت مفهوم همبستگي بين دو مجموعه از متغيرها را نشان داد. وي نظريه همبستگي بين دو مجموعه از متغيرها را با ارائه مثال هايي كه در آنها مفهوم همبستگي كانونيكال به كار مي رود، ارائه داد.در همبستگي کانونيکال ما به دنبال ارائه مجدد و ساده کردن داده ها هستيم. هدف ما يافتن دو ترکيب خطي از متغيرهاي اصلي است. يک ترکيب از اولين دسته متغيرها و يک ترکيب از دومين دسته (که متغيرها کانونيکال ناميده مي شود) به نحوي که بيانگر بزرگترين همبستگي ممکن باشد.

اسلاید 5: همبستگي كانونيكال(canonical correlation) همبستگي كانونيكال کمترين محدوديت را بر انواع داده ها در حين اجرا اعمال مي کند. به دليل اينکه ديگر فنون، قيود بسيار دقيق تري بر داده ها اعمال مي کنند، محققان عموما بر اين باوردند که اطلاعات منتج از آنها کيفيت بهتري داشته و قابليت تفسير بيشتري دارد. تحليل رگرسيون چندگانه قادر به پيش بيني مقدار يک متغير وابسته يگانه (متريک) از يک تابع خطي از مجموعه متغيرهاي مستقل مي باشد. در برخي از مسائل تحقيقاتي، ممکن است متغير وابسته يگانه منظور نظر نباشد، بلکه مورد نظر محقق روابط ميان مجموعه هاي متغيرهاي مستقل و وابسته چندگانه باشد. تحليل همبستگي كانونيكال مدل آماري چند متغيره مي باشد که مطالعه روابط دروني ميان مجموعه هاي متغيرهاي وابسته چندگانه و متغيرهاي مستقل چندگانه را تسهيل مي کند

اسلاید 6: همبستگي كانونيكال(canonical correlation) چند اصطلاحمتغيرهاي كانونيكال ترکيبات خطي است که نمايش دهنده ي مجموع دو يا چندين متغير مي باشد و مي توان آن را براي متغيرهاي وابسته و مستقل تعريف نمودتابع كانونيكالارتباط (همبستگي ) ميان دو ترکيب خطي (متغير كانونيكال ) مي باشد. هر تابع كانونيكال دو متغير كانونيكال دارد. يکي براي مجموعه ي متغيرهاي وابسته و ديگري براي مجموعه ي متغيرهاي مستقل. توابع كانونيكال از يکديگر مستقل مي باشند.

اسلاید 7: همبستگي كانونيكال(canonical correlation) استخراج توابع كانونيكال اولين قدم آناليز همبستگي كانونيكال استنباط و استخراج يك يا چند تابع كانونيكال مي باشد . هر تابع شامل يك جفت متغير مي باشد ، يك متغير ، متغير هاي مستقل و ديگري متغيرهاي وابسته را نمايش مي دهد.اولين جفت متغير كانونيكال به گونه اي انتخاب مي شوند كه بيشترين همبستگي داخلي ممکن بين دو مجموعه متغير را داشته باشند . دومين جفت از متغير كانونيكال به گونه اي استخراج مي شوند كه بيشترين رابطه را بين دو مجموعه از متغيرها كه براي جفت اول از متغيرها حساب نشده اند ،داشته باشند. و به همين صورت ادامه مي يابد.ميزان ارتباط داخل جفت متغير ها توسط همبستگي كانونيكال منعكس مي شود .

اسلاید 8: مكانيزم آماري همبستگي كانونيكال

اسلاید 9: همبستگي كانونيكال(canonical correlation) همبستگي کانونيکال: مکانيزم همبستگي کانونيکال از رويکردي مشابه مدل رگرسيون استفاده مي نمايد. به جاي کمينه کردن مجموع مربعات انحرافات، ما به دنبال ترکيبي از متغيرهاي مستقل X هستيم که همبستگي بين متغيرها وابسته Y را بيشينه نمايد. فرض کنيد u1=Xb1 نمايانگر اولين تکريب خطي از اولين دسته متغيرها باشد و فرض کنيد t1=Ya1 نمايانگر اولين ترکيب خطي از دومين دسته متغيرها باشد. هدف ما يافتن b1,a1 به نحوي است که همبستگي متغيرهاي کانونيکال t1 وu1 يعني r(t1,u1) را بيشينه نمايد. Choose a1,b1 to maXimize r(t1,u1) فرض کنيد t2=Y a2 ,u2=Xb2 بيانگر دومين زوج از متغيرهاي کانونيکال باشد. هدف بيشينه کردن همبستگي بين u2,t2 يعني r(t2,u2).Choose a2,b2 to maXimize r(t2,u2) Such that R(t1,t2)=0 and r(u1,u2)=0

اسلاید 10: همبستگي كانونيكال(canonical correlation) تعداد مراحل مساله همبستگي کانونيکال بستگي به تعداد متغيرها دارد. اگر P تعداد متغيرهاي X باشد و q تعداد متغيرهاي Y باشد حداکثر تعداد متغيرهاي کانونيکال برابر خواهد بود با حداقل (p,q). با حذف انديسهاي u,t مساله به شکل ذيل بيان مي گردد:Choose a, b to maximizeصورت و مخرج کسر به صورت زير قابل بيان است:

اسلاید 11: همبستگي كانونيكال(canonical correlation) با اضافه کردن اين محدوديتها مساله به شکل زير در مي آيد: Choose a,b to maximize subject to and معادله لاگرانژي به شکل ذيل در مي آيد:

اسلاید 12: همبستگي كانونيكال(canonical correlation) همبستگي هاي كانوتيكال بين X,Y را ممكن است بتوان با حل معادلات ويژه زير به دست آوردرابطه بالا يک مساله مقدار ويژه ـ بردار ويژه است. براي رابطه اول بردار b اولين بردار ويژه ماتريس است. r2(t,u) مربع همبستگي كانونيكال مي باشد. مساله همبستگي کانونيکال شامل ماتريس تجزيه پذير و نامتقارن است. با وجود اينكه مقادير ويژه يک ماتريس نا متقارن لزوما مقادير حقيقي نيستند، ماهيت و ساختار مسئله همبستگي کانونيکال به گونه اي است که مقادير ويژه هم حقيقي و هم غير منفي هستند. براي بحث بيشتر پيرامون مقادير ويژه و بردارهاي ويژه ماتريسهاي نامتقارن مراجع Chatutvedi , Green , Caroll (1977) را ببينيد.

اسلاید 13: همبستگي كانونيكال(canonical correlation) بر خلاف تحليل عاملي اکتشافي، رايج نيست که جواب را براي تسهيل در تفسيرجواب همبستگي كنُنيكال دوران دهيم. به خاطر اينکه تحليل گر عموما به دنبال مقدار واريانس قابل تغيير است، و چرخش جواب مقادير R2 کانونيکال را تغيير خواهد داد. بارگذاريهاي کانونيکا ل: براي تفسيرجواب هاي كانونيكال، بارگذاري کانونيکال را مي توان استفاده نمود، که همبستگي بين متغيرهاي اصلي و متغيرهاي کانونيکال را بيان مي كند. همسبتگي بين u وX که ما آن را با f نمايش مي دهيم عبارت است از: همبستگي بين t وY که با g نمايش داده مي شود عبارت است از:

اسلاید 14: همبستگي كانونيكال(canonical correlation) افزونگيمربع همبستگي کانونيکال r2(t,u) به ما نمي گويد که چه مقدار از واريانس Y با X توصيف مي شود. در حقيقت آن فقط به ما مي گويد چه مقدار از واريانس در t (ترکيب خطي Y) توسط u توصيف مي گردد. براي پاسخ به اينکه چه مقدار از واريانس در Y توسط X توضيح داده مي شود، ما مي توانيم از شاخص افزونگي که توسط Love , Stewart (1968) توسعه داده شد استفاده کنيم.اولين عنصر دقيقا مربع همبستگي کانونيکال r2(t,u) است. دومين عنصر واريانس در Y است که توسط ترکيب خطي t=Ya محاسبه مي گردد.

اسلاید 15: مساله نمونه

اسلاید 16: همبستگي كانونيكال(canonical correlation) مساله نمونه Lodish , Fader(1990) مي خواستند بدانند که آيا فعاليتهاي پروموشن (به عبارتي: انواع پروموشنها که توسط بازاريابها پيشنهاد مي گردد) بين گروه بندي محصولات با توجه به ويژگيهاي گروه بنديها تغيير مي کند يا نه؟ براي مثال آيا يک نفر انتظار دارد که از يک فعاليت پروموشن براي کالاهاي گران قيمت و ارزان قيمت نتيجه يکساني بگيرد؟ Lodish, Fader از بانک اطلاعاتي بازارياني IRI در مورد 10 متغير براي 331 سبد محصول کالاي مختلف در سال 1986 اطلاعات گردآوري نمودند. هدف اين است که بدانيم تا چه اندازه اي مي توان از متغيرهاي ساختاري براي توضيح واريانس مشاهده شده در متغيرهاي پروموشن استفاده کرد.

اسلاید 17:

اسلاید 18: همبستگي كانونيكال(canonical correlation)

اسلاید 19: همبستگي كانونيكال(canonical correlation)

اسلاید 20: همبستگي كانونيكال(canonical correlation) نتايج تحليل همبستگي متغيرهاي کانونيکال براي داده هاي Lodish , fader

اسلاید 21: بارگذاريهاي کانوکيکال براي داده هاي Lodish , fader

اسلاید 22: مثال2در اين مثال مي خواهيم تعيين كنيم درجه اي از تطابق بين يگ مجموعه از مشخصات شغلي و رضايت شغلي . اين نمونه ها از 14 شغل با كارگرانشان جمع شده است.3 متغير رضايت شغلي عبارتند از:Career (دوره), Supervise (سرپرست), Finance (مالي)3 متغير مشخصات شغلي عبارتند از:Variety (تنوع), Feedback (بازخورد سرپرست), Autonomy (استقلال)اين بررسي در نرم افزار SAS / INSIGHT انجام شده است.http://www.ualberta.ca/AICT/RESEARCH/Software/SAS.old/analyst/chap13/sect3.htm#idxa130036همبستگي كانونيكال(canonical correlation)

اسلاید 23: همبستگي كانونيكال(canonical correlation)

اسلاید 24: همبستگي كانونيكال(canonical correlation)

اسلاید 25:

اسلاید 26:

اسلاید 27:

اسلاید 28: چند نمونه تست آماري

اسلاید 29: همبستگي كانونيكال(canonical correlation) آيا ارتباط بين Xها و Yها معني دار است؟ نسبت ويلكس |SE| دترمينان ماتريس مجموع مربعات خطاها مي باشد و |ST| مجموع مربعات کل براي متغير Y مي باشدچگونه ويلکس را با مربع همبستگي کانونيکال بدست آمده در تحليل محاسبه کنيم. SHمجموع مربعات براي واريانس Y که توسط X قابل توضيح است.

اسلاید 30: تست مربع کاي بارتلتn تعداد مشاهداتp تعداد متغيرهاي X يا مرتبه ماتريس Xq تعداد متغيرهاي Y يا مرتبه ماتريس YV تغريبا داراي توزيع مربع کاي با pq درجه آرادي است.مقادير بزرگ براي آماره V بارتلت خواهد شد که به معني رد فرض صفر مبني بر عدم وجود ارتباط معني دار بين Y وX است.بررسي مثال متغيرهاي فادر و لوديش = (1-0.6422) (1-0.4832) (1-0.2652)(1-0.1142)(1-0.0322)=0.413با جايگذاري در فرمول بارتلت مي شود: =52.62 همبستگي كانونيكال(canonical correlation)

اسلاید 31: همبستگي كانونيكال(canonical correlation) تست F رائو تست رائو براي ويلکس بر مبناي توزيع F است.که در آن:درجه آزادي( )بررسي مثال متغيرهاي فادر و لوديش براي تست رائو به جايگذاري مقادير t=324.5 ,S=3.71 بدست مي آيد. .

اسلاید 32: Application of canonical correlation1. در مقاله اي (lee. et al(1999)) براي تشخيص و شناسايي عكس هاي ناشناخته ماهواره اي از آناليز همبستگي كانونيكال استفاده نمودند. Jong-Hun Lee, Min-Ho Park, and Yong-Il Kim, ETRI Journal, vol.21, no.4, Dec. 1999, pp.41-51. 2. د ر مقاله اي براي كشف تعدادي سيگنال در noises ناشناخته محيطي از آناليزهمبستگي كانونيكال استفاده شده است. Proc . Spie. Vo1. 2003. p 464-4753. در تحقيقي از آناليز همبستگي كانونيكال براي تطبيق عكس ها و متون web به همديگر، به طوري كه اين تصاوير و متون بيشترين همبستگي را نسبت به هم داشته باشند، استفاده شده است. Neural computation. 2004;16:2639-2664همبستگي كانونيكال(canonical correlation)

اسلاید 33: 4. براي تشخيص نوعي بيماري ناشناخته عصبي، با استفاده از علائم آن بيماري از آناليزهمبستگي كانونيكال براي كشف بيماري استفاده شده است. Journal of pharmacokinetics and pharmacodynamics. Volume 20. number 6. 611-6355. در مقاله اي ارتباط بين حمل و نقل (transport) با گسترش (development) در رشد مناطقي از كشور چين با استفاده از آناليز همبستگي كانونيكال بررسي شده است.Journal of regional science. Volume 40. 143-171 (2000)6. از آناليز همبستگي كانونيكال براي تعيين تطابق بين مشخصات شغلي و رضايت استخدام شدگان استفاده شده است. Sas institute inc. cary, nc, usa. 1999همبستگي كانونيكال(canonical correlation)

اسلاید 34: با تشكر از توجه شما