همبستگی کانو‌نیکال

صفحه 1:
استاد راهنما: دکتر جمال شهرابي ارائه دهندگان : مرتضي بيدخوري مهدي بهنامي 

صفحه 2:
* مکانیزم آماري همبستگي کانونیکال #مسئله نمونه #؟چند نمونه تست آماري براي معني داري ‎wh‏ همبستگي کانونیکال 

صفحه 3:
هميستگي کانونیکال(01۲6121100» مم‌نطمصعه) *تا همین اواخر, تحلیل همبستگي کانونیکال تقریبا يكي از فنون ناشناخته در آمار بود و شبیه سایر فنون آماري چند متفیره, ظهور برنامه هاي كامپيوتري گسترش کاربردهاي آن را در مسائل تحقيقاتي تسهیل نموده است. * همبستگي کانونیکال قابلیت کاربرد در داده هاي متریک و غیرمتریک هم براي متغيرهاي وابسته و هم براي متغيرهاي مستقل را دارا مي باشد. * در همبستگي کانونیکال ابتدا باید متغیرها را به دو دسته كرد. ما مي توانيم بين دو دسته از متغيرها تمايز فائل شویم: یک دسته از متغیرها آنهايي هستند که علاقه به توضیح آنها داریم (که آنها را متغيرها وابسته مي نماميم و با لا نمايش مي دهيم)» دسته دیگر متفيرهايي هستند که کشف کننده یا توضیح دهنده هستند (آنها را متغيرهاي مستقل مي ناميم و با كا نمايش مي دهيم). 

صفحه 4:
هميستگي کانونیکال(01۲6121100» مم‌نطمصعه) لا همبستگي کانونیکال چیست؟ * در سپتامبر 1935, هارلد هتلینگ» اهمیت مفهوم همبستگي بین دو مجموعه از متغیرها را نشان داد. وي نظریه بین دو مجموعه از متغیرها را با ارائه مثال هايي که در آنها مفهوم همبستگي کانونیکال به کار مي رودء ارائه داد" © در همبستگي کانونیکال مابه دنبال ارائه مجدد و ساده کردن داده ها هستیم. هدف ما یافتن دو ترکیب خطي از متغيرهاي اصلي است. یک ترکیب از اولین دسته متغیرها و یک ترکیب از دومین دسته (که متغیرها کانونیکال نامیده مي شود) به نحوي که بیانگر بزرگترین همبستگي ممکن باشد. 

صفحه 5:
هميستگي کانونیکال(01۲6121100» مم‌نطمصعه) ۶ همبستگي کانونیکال کمترین محدودیت را بر انواع داده ها در حین اجرا اعمال مي کند. به دلیل اینکه دیگر فنون» قیود بسیار دقیق تري بر داده ها اعمال مي کنند. محققان عموما بر اين باوردند که اطلاعات منتح از آنها کیفیت بهتري داشته و قابلیت تفسیر بيشتري دارد. * تحلیل رگرسیون چندگانه قادر به پیش بيني مقدار یک متغیر وابسته یگانه (متریک) از یک تابع خطي از مجموعه متغيرهاي مستقل مي باشد. در برخي از مسائل تجفیفاتن» ممکن است متغير وابسته يكانه منظور نظر نباشدء بلكه مورد نظر محقق روابط ميان مجموعه هاي متغيرهاي مستقل و وابسته جندكانه باشد. تحليل همبستكي كانونيكال مدل آماري جند متغيره مي باشد كه مطالعه روابط دروني ميان مجموعه هاي متغيرهاي وابسته جندكانه و متغيرهاي مستقل جندكانه را تسهيل مي كند 

صفحه 6:
هميستگي کانونیکال(01۲6121100» مم‌نطمصعه) لا چند اصطلاح *متغيرهاي کانونیکال ترکیبات خطي است که نمایش دهنده ي مجموع دو پا چندین متغیر مي باشد و مي توان آن را براي متغيرهاي وابسته و مستقل تعریف نمود *تابع کانونیکال ارتباط (همبستگي ) میان دو ترکیب خطي (متغیر کانونیکال ) مي باشد. هر تابع كانونيكال دو متغير كانونيكال دارد. يكي براي مجموعه ي متغيرهاي وابسته و ديگري براي مجموعه ي متغيرهاي مستقل. * توابع کانونیکال از یکدیگر مستقل مي باشند. 

صفحه 7:
هميستگي کانونیکال(01۲6121100» مم‌نطمصعه) لا استخراج توابع کانونیکال اولین قدم آنالیز همبستگي کانونیکال استنباط و استخراج يك يا چند تابع کانونیکال مي باشد . هر تابع شامل يك جفت متغير مي باشد , يك متغیر , متغیر هاي مستقل و ديگري متغيرهاي وابسته را نمايش مي دهد. اولين جفت متغير كانونيكال به كونه اي انتخاب مي شوند كه بيشترين همبستكي داخلي ممكن بين دو مجموعه متغير را داشته باشند . دومين جفت از متغير كانونيكال به كونه اي استخراج مي شوند كه بيشترين رابطه را بین دو مجموعه از متغیرها که براي جفت لول از متغیرها حساب نشده اند ,داشته باشند. و به همین صورت ادامه مي یابد. میزان ارتباط داخل جفت متغیر ها توسط همبستگي کانونیکال مي شود . 

صفحه 8:


صفحه 9:
هميستگي کانونیکال(01۲6121100» مم‌نطمصعه) 3 همبستگي کانونیکال: مکانیزم همبستگي کانونیکال از رويكردي مشابه مدل رگرسیون استفاده مي نمايد. به جاي كمينه كردن مجموع مربعات انحرافات, ما به دنبال تركيبي از متغيرهاي مستقل 2 هستیم که همبستگي بین متغیرها وابسته ۷ را بیشینه نماید. فرض کنید ۳1- -1نا نمایانگر اولین لین تکریب خطي از اولین دسته متغیرها باشد و فرض کنید 12۷31 تمایانگر آولین ترگیب خطي از دومین دسته متغیرهاً باشد. هدف ما پافتن ۵1,۵1 به نحوي است که هم ب متغيرهاي کانونیکال 11 و1ّنا بعني (۲)61,۷1 را بیشینه ید. ‎Choose al,b1 to maXimize r(t1,u1)‏ فرض کنید 2(-۵2, 32 ۲2-۷ بیانگر دومین زوج از متغيرهاي کانونیکال باشد. هدف بیشینه کردن همبستگي بین ۷2,۴2 يعني ‎T(t2,u2)‏ ‎Choose a2,b2 to maXimize r(t2,u2)‏ ‎Suchthat R(t1,t2)=0 and r(ul,u2)=0‏ 

صفحه 10:
هميستگي کانونیکال(01۲6121100» مم‌نطمصعه) #تعداد مراحل مساله همبستگي کانونیکال بستگي به تعداد متغیرها دارد. اگر ۴ تعداد متغيرهاي ‏ باشد و ‎٩‏ ‏تعداد متغيرهاي ۷ باشد حداکثر تعداد متغيرهاي کانونیکال برابر خواهد بود با حداقل ‎(p,q)‏ ‎anil “covey | wee‏ د به شکل ذیل بیان مي ‎Choose a, b to maximicc Gaver)‏ 8 سس صرح ‎Eo‏ < ۷۵۲0 به ‎een _ da [2h yp”‏ ‎ ‏1 -ه) 1 -ع) ‎Sa Real‏ ‎ ‎ 

صفحه 11:
هميستگي کانونیکال(01۲6121100» مم‌نطمصعه) با اضافه كردن اين محدوديتها مساله به شکل زیر در مي آید: ‎Choose a,b to maximi a Rb‏ subject tH Ryb=1 a Rael معادله لاگرانژي به شکل ذیل در مي آید: L=a Ryb- S(a Rya- 1)- BW Reb- 9 

صفحه 12:
هميستگي کانونیکال(01۲6121100» مم‌نطمصعه) همبستگي هاي کانوتیکال بین ۷,۷ را ممکن است بتوان با حل فعادلات ونژه زیر به دست أورد ‎[RiRyRiRyb=P(bwb veers‏ ‎[RA RyReRyla=r (twa‏ رانظه بال بک:مساله مغذان هیزهت بزدار ویژه اشت: برايرایطه اول بردار ۵ اولین بردار ویزه ماتریس است.(۲206,۵ مر کانونیکال مي باشد. مساله همبستگي کانونیکال شاضل ماتزیش تجزیه پذیر و نامتقازن است. با وجود اینکه مقادیر ویژه یک مانریس ار روما مقادیر حقيقي نیستند, ماهیت و ساختار مسئله کانونیکال به گونه اي است که مقادیر ویژه هم حقيقي و هم غير منفي هستند. براي بحث بيشتر ييرامون ادير ويزه و بردارهاي ويزه ماتريسهاي نامتقارن مراجع , ألء/06ا136© (1977) 8۲۵۱۱ , معع:6 را ببينيد. 

صفحه 13:
هميستگي کانونیکال(01۲6121100» مم‌نطمصعه) * پر خلاف تحلیل عاملي اكتشافي, رابج نبست كه جواب را ‎ait:‏ اینکه تحلیل کر 0 ‎Loge ‘‏ به دتبال مقد ست و چرخش جواب مقادیر 82 کائوتیکال ر! تغيبر خواهد دا ل بارگذاريهاي کانونیکا ل: ‎sly‏ تفسیرجواب هاي کانونیکال, بارگذاري کانونیکال را مي ‎ols‏ استفاده نتوده که:همبتتگن بین متعيزهاي اضلي و متغيرهاي کاتونیکال را بیان مي کند. همسبتگي بين نا وكا که ما آن را با ؟ نمایش مور - 1 xX! ۶- ‏توس وب‎ (XB =Ryb (n- 1) همبستگي بين © ولا كه با 0 نمایش ودادوعي شود عبارية است از: 1 ‎J‏ مع د ون لالتعا ددا ديم 1 ‎(n- 2) a‏ g= 

صفحه 14:
هميستگي کانونیکال(01۲6121100» مم‌نطمصعه) لا افزونگي مریع همبستگي کانونیکال (۲2)۴,۷ به ما نمي گوید که چه مقدار از واریانس ۷ با ۷ توصیف مي شود. در حقیقت آن ‎ai das‏ ما مي گید چه مقدار از واربانش دی؟ (ترکیب خطي ۷) توسط با توصیف مي 3955 براي پاسخ به اینکه چه مقدار از واریانس در ۷ توسط ۷ توضیح داده مي ‎no le gs‏ توانیم از شاخص افزونگي که توسط (1968) 5۲6۷۷۵۲۲ اررنع م0 توا لو مادعا کم 5 سر )۳ ‎Varinceint Varinceiny |‏ اولين عنصر دقيقا مريع همبستكي کانونیکال (ا,۲2)۲ است. دومين عنصر واريانس در لا است كه توسط تركيب خطي 5-3 محاسبه مي گردد. ‎Rdtu) Pu 4‏ 

صفحه 15:


صفحه 16:
هميستگي کانونیکال(01۲6121100» مم‌نطمصعه) لا مساله نمونه (۴۵06۲)1990 , ۱۵050 مي خواستند بدانند که آیا فعاليتهاي پروموشن (به عبارتي: انواع پروموشنها که توسط بازاريابها بيشنهاد مي گردد) بین گروه بندي محصولات با توجه به ويزكيهاي كروه بنديها تغيير مي كند پا نه؟ براي مثال آیا یک نفر انتظار دارد که از یک فعالیت پروموشن براي كالاهاي گران قیمت و ارزان قیمت نتیجه يكساني بگیرد؟ ‎Lodish, Fader‏ از بانکاطلاعاتيی ازاربانیا8| در مورد 0 متغير براي331 سبد محصولكا لليمختلفدر سال 6 الطلاعاتكردآورئنمودند. هدف اين است كه بدانيم تا جه اندازه اي مي توان از متغيرهاي ساختاري براي توضيح واريانس مشاهده شده در متغيرهاي يروموشن استفاده كرد. 

صفحه 17:
گروه 1(متغيرهاي ساختاري): درصد خانواده هايي که حداقل یک محصول مي خرند میانگین زمان خرید میانگین دلارهايي که در هر بارخرید هزینه مي کنند سهم بازار تركيبي براي تمام لیبل خصوصي محصولات عمومي میانگین تعداد دفعات خرید هر خانوار در طول سال گروه 2(متغيرهاي پروموشن): درصد حجم فروش به روشهاي معرفي( نظیر تبلیغ در روزنامه( درصد حجم فروش به روشهاي نما يشگاهي | درصد حجم فروش با کاهش موقتي قیمت 0 POYCL 5 PRICE POTG Ww PORW ‏ناك‎ ۳۹-0۳۰ 0۳016 ۳00 

صفحه 18:
هميستگي کانونیکال(01۲6121100» مم‌نطمصعه) PENET PCYCLE PRICE PVTSH PURHH FEAT DISP PCUT SCOUP MCOUP PENET 1.000 -0.478 -0.222 0.409 0.617 0.580 0.461 0.569 0.389 0.053 PCYCLE 1.000 -0.146 -0.127 -0.719 -0.379 -0.252 0.394 -0.178 0.049 PRICE 1.000 -0.208 0.068 -0.001 -0.111 0.108 0.0740 0.237 PVTSH 1.000 0.246 0.270 0.132 0.295 0.223 -0.215 PURHH 1.000 0.373 0.213 0.368 0.261 -0.026 

صفحه 19:
هميستگي کانونیکال(01۲6121100» مم‌نطمصعه) PENET PCYCLE PRICE PVTSH PURHH FEAT DISP PCUT SCOUP MCOUP FEAT 1.000 0.535 0.918 0.674 -0.044 DISP 1.000 0.515 0.375 -0.038 PCUT 1.000 0.588 -0.040 SCOUP 1.000 -0.065 MCOUP 1.000 

صفحه 20:
هميستگي کانونیکال(01۲6121100» مم‌نطمصعه) نتایج تحلیل همبستگي متغيرهاي کانونیکال براي داده ‎Pacers La‏ , اطیرا r(t,u4) | Mt) | tu) | new) | 6m) 0.056 | 0.006 | 0.666 | 0.668 | 0.666 

صفحه 21:
بارگذاريهاي کانوکیکال براي داده هاي ۰( , ‎Lodek‏ Us PEOET PORWW PCYOCLE PRICE POTGW & PERT O1GGe PCOT GCOOP OCOOP uy 0.998 OSs 0.69 0.00 09 0.66: 9 090 999 9۹6 0 -0 OS 0.98 Or? OR? 0.0? 0 0 0۶9 00 0.99 -0.09 06 0.220 099 099 Oo 0.00 

صفحه 22:
هميستگي کانونیکال(01۲6121100» مم‌نطمصعه) “مثال2 در اين مثال مي خواهيم تعيين كنيم درجم اي از تطابق بين یگ مجموعه از مشخصات شغلي بت شغلم مجمو عم ار سان عات كات و وصايع باع ‎sisted:‏ ‏3 متغير رضايت شغلي عبارتند از: ‎Finance (.L.)‏ ,(سرپرسب 5۳6۲۷۱56 ,(دویم) 62۲66۵۲ 3 متغیر مشخصات شغلي عبارتند از؛ ,(بازخورد سرپرسب ۴۵۵003۱ ,(تنوع) ۱۷۵۲۱۵۷۷ (استقلال ‎Autonomy‏ اين بررسي در نرم افزار ۱۵۱5۱6۲4۲ / 55 انجام شده است. http://www. ualberta.ca/AICT/RESEARCH/Software/SAS.old/ analyst/chap13/sect3.htm#idxa130036 

صفحه 23:
هميستگي کانونیکال(01۲6121100» مم‌نطمصعه) Canonical Correlation: Jobs 1 sett sot 2 oK Career Variety — supervis Feedback Cancel Finence autonomy ‏اب‎ ‎Reset Save Options Help Renove Statistics | Plots | Save Data Titles | Variables 

صفحه 24:
همست توص ox * of canonical variables: =i [Canonical redundancy statistics Reset Set 1 canonical variables Hele Label: [Job Satisfaction Prefix: [Satisfy Set 2 canonical variables Label: [Job Character istics Prefix: [Character istic 

صفحه 25:
Analysis BEE The CANCORR Procedure Canonical Correlation Analysis Adjusted Approximate Squared Canonical Cananical Standard Canonical Correlation Correlation Error Correlation 1 o.gtagte 44 0.042901 0.p45918 2 ‏اش‎ 0.276623 0.228740 0.175267 3 01119366, 0.273786 0.012882 Test af HO: The canonical correlations in Eigenvalues of Inv(E)#H the current row and all that fallow are zero = Canfisa/( 1-Canfisq) Likelihood Approxinate Eigenvalue Difference Proportion Cumulative Ratio F Value Num DF Den DF Pr > F 1 5.4649 5.2524 0.9804 9.9604 0. 12599148 2.93 919.621 0.0223, 2 012125 0.1995 0.0373 0.997 8 949 4 0 3 9.0130 010023 © 10000 9 0113 1 10 0.7887 Multivariate Statistics and F Appraxinat ions ‏وم وتو‎ NSB Statistic Value F Value Num DF Den DF ۴ Wilks? Landa 0.12599148 2.98 ‏و‎ 19,621 0.0228 Pillai's Trace 109343732 115 3 30 4 Hotelling-Lawley Trace 5 415 3 9.9113 ۰ 9 Roy's Greatest Root 546489924 18.22 3 10 0.0002 

صفحه 26:
Tho CANCOAR Procedure Canonical Correlation Analysis Raw Canonical Coefficients for the Job Satisfaction satistyl Satistyz Satisty3 Career Saticfaction 0.o14aa7ea05 0. 026596581 0.0c0a9a1984 Supervisor Satisfaction ‏ی‎ 46 0 inane Financial Satisfaction 0.0z434a0387 04415920204 0.1507204075 Raw Canonical Coefficients for the Job Character istics Character isticl Character istice Character istics Var ioty Tack Variety -0. 004200092 ©. 03140aa16 0. 09st9si72 Feedback Annuint. nf Fredhack 0.0201 10aase 0078194386 1 4 Autonomy Dapree of Aurtonany 8 0. 0084473385 0, 057450883 The CANCORR Procedure Canonical Correlation Analysis Stawlordized Canonical Cucfficients for the Jub Satisfaction Satistyt Satisty? Satisty3 Career Career Satisfaction 0.3028 0.5416 1.0408 Supervis Supervisor Satisfaction 0. 7854 0.1305, 0/9085, Finance Financial Satisfaction 60538 000 Derr) Blandardized Canonical Cucfficients for Uke Jub Character istics Character ietict Character istic? Character istic? Variety Task Variety - 6 0. 8095 0.9071 Feedback Anount of Feedback 0.5520 0.7722 0.4194 Autonany Degree of Autonomy 0.8403 0.1020 ‏اك‎ ‎» 

صفحه 27:
Correlations Between the Job Satisfaction and Their Canonical Variables Batisty3 9 0 ۱0 Correlations Betueen the Job Characteristics and Their Canonical Variables Character ist ied 0.5796 015625 012938 Correlations Between the Job Satisfaction and the Canonical Variables of the Job Character istics Character ist ied 0.0694 010297 910475 Correlations Between the Job Characteristics and the Canonical Variables of the Job Satisfaction Batisty3 ۳ 0 9 Satisty2 0.2503 0.0362 9۹ Character ist icz 0.0592 015452 0 Character isticz -0.1048 lotsa lange Satisty2 9.2760 012283 0.1863 Canonical Structure Satistyl Career Carver Satisfaction 0.7499 Supery Buporvicor Satisfaction 019644 Finance Financial Satisfaction 012873 Character istict Variety Task Variety 0.4969 Foedback Amount of Feedback ol62i6 Auttonany Depree of Autonomy ‏ان‎ Character istic! Career Corecr Satisfaction 9.0095 Supervie Suporvicor Sat isfact ian 9 Finance Financial Satisfaction 0.7642 Satistyl Variety Task Variety 0.4471 Foodback Amount of Foodback ols7is Autonome Degree of Autonomy 9 

صفحه 28:


صفحه 29:
هميستگي کانونیکال(01۲6121100» مم‌نطمصعه) . ايا ارتباط بين ها و ۷ها معني دار است گر نسبت ویلکس | (5| دترمینان ماتریس مجموع مربعات خطاها مي باشد و |5۲| مجموع مربعات کل براي متغیر ۷ مي باشد . چگون/ ویلکس را با مربع همبستگي کانونیکال بدست آمده در تحليل محاسبه كنيم. ۷مجموع مربعاتب رایواریانس" که توسطلا قابل توضیح است ‎Sil‏ کر اه م۳ ۱/۲( )۲ 2۲ بر مه 2۳۲ 5 م1 -1 = 

صفحه 30:
هميستگي کانونیکال(01۲6121100» مم‌نطمصعه) لا تست مربع كاي بارتلت ‎v= | y- eae Ina‏ ‎n‏ تعداد مشاهدات ‎a‏ ‏0 تعداد متغيرهايا يا مرتبه ماتریس2 تعداد متغيرهاي۷ يا مرتبه ماتریس۷ ۷ تغریبا دارایت‌وزیع مربع کایبا ۳0 درجه آرادیلست ‎٠‏ مقادیر بزرگ براي آماره ۵ بارتلت خواهد شد که به معني رد فرض صفر ميني بر عدم وجود ارتباط معني دار بین ۷ ولا است. بررسي مثال متغيرهاي فادر و لودیش ۸ = )1-0.6422( )1-0.4832( )0.413=(1-0.0322)(1-0.1142)(1-0.2652( با جایگن ۸-0 33 دعم 45 در فرمول بارتلت مي شور: (5+5+1) 2 10041 23 52.62= V=-| (334 1)- 

صفحه 31:
هميستگي کانونیکال(01۲6121100» مم‌نطمصعه) ۵ c ‏تست ۵ رائو تشع سم‎ ۵ aie 77 _ تیسار ‏تست رائوأكراي ویلکس بر مبناي توزیع‎ ta(n ‏رن‎ SPE ‏که در آن:‎ ۳ iG _ | - 4 1 = sal it pod shotherwise=_ EE 1+ ‏درجه آزاد هط <ا‎ ‏بررسي مثال متغيرهاي فادر و لودیش‎ ٠ ‏براي تست رائو به جابكذاللا- فاد 5-م 5-و‎ ‏بدست مي‎ 2324.5 ,21 ۱ . ‏آید.‎ ‏موی ۳52 ی م۳ لیر‎ 25110 -79 0417 

صفحه 32:
هميستگي کانونیکال(01۲6121100» مم‌نطمصعه) ‎Application of canonical correlation ©‏ ١.در‏ مقاله اي ‎(lee. et al(1999))‏ برای تشخیص و شناسايي عکس هاي ناشناخته ماهواره اي از آنالیز هميستگي کانونیکال استفاده نمودند. ‎Jong-Hun Lee, Min-Ho Park, and Yong-Il Kim, ETRI Journal, vol.21,‏ ‎no.4, Dec. 1999, pp.41-51.‏ در مقاله اي براي کشف تعدادي سیگنال در ۵1565 ناشناخته محيطي از آناليزهمبستگي کانونیکال استفاده شده است. ‎Proc . Spie. Vol. 2003. p 464-475‏ ‏".در تحقیقی از آنالیز همیستگی کانونگال براي تطببق عکس ها و متون ‎Web‏ به همدیگر, به طوري که این تصاویر و متون تیشتربو: زا مسبت یه هیر چاشیم‌باشندن اتتفاده شده است. ‎Neural computation. 2004;16:2639-2664 ‎ ‎ ‎ 

صفحه 33:
هميستگي کانونیکال(01۲6121100» مم‌نطمصعه) ؛ براي تشخیص نوعي بيماري ناشناخته عصبي, با استفاده از علائم آن بيماري از آناليزهمبستگي کانونیکال براي کشف بيماري استفاده شده است. ‎Journal of pharmacokinetics and pharmacodynamics. Volume 20.‏ ‎number 6. 6‏ ۰ در مقاله اي ارتباط بین حمل و نقل (۲۵05۳0۲۶) با گسترش ‎ntlolic au, 52 (development)‏ از كشور جين با استفاده از آنالیز کانونیکال بررسي شده است. ‎Journal of regional science. Volume 40. 143-171 (2000)‏ +. از آنالیز همبستگي کانونیکال براي تعیین تطابق بین مشخصات شغلي و رضایت استخدام شدگان استفاده شده است. Sas institute inc. cary, nc, usa. 1999 

صفحه 34:


به نام خدا دانشگاه صنعتي امير كبير دانشكده مهندسي صنايع همبستگي كانونيكال استاد راهنما :دكتر جمال شهرابي ارائه دهندگان :مرتضي بيدخوري مهدي بهنامي فهرست مطالب ‏مفهوم همبستگي كانونيكال مكانيزم آماري همبستگي كانونيكال ‏مسئله نمونه ‏چند نمونه تست آماري براي معني داري نتايج همبستگي كانونيكال همبستگي كانونيكال()canonical correlation تا همين اواخر ،تحليل همبستگي كانونيكال تقريبا يکي از فنون ناشناخته در آمار بود و شبيه ساير فنون آماري چند متغيره ،ظهور برنامه هاي کامپيوتري گسترش کاربردهاي آن را در مسائل تحقيقاتي تسهيل نموده است. همبستگي كانونيكال قابليت کاربرد در داده هاي متريک و غيرمتريک هم براي متغيرهاي وابسته و هم براي متغيرهاي مستقل را دارا مي باشد. در همبستگي كانونيكال ابتدا بايد متغيرها را به دو دسته تقسيم كرد .ما مي توانيم بين دو دسته از متغيرها تمايز قائل شويم .يک دسته از متغيرها آنهايي هستند که عالقه به توضيح آنها داريم (که آنها را متغيرها وابسته مي نماميم و با YنمOايش مي دهيم) ،دسته ديگر متغيرهايي هستند که کشف کننده يا توضيح دهنده هستند (آنها را متغيرهاي مستقل مي ناميم و با Xنمايش مي دهيم). همبستگي كانونيكال()canonical correlation همبستگي كانونيكال چيست؟ در سپتامبر ،1935هارلد هتلينگ ،اهميت مفهوم همبستگي بين دو مجموعه از متغيرها را نشان داد .وي نظريه همبستگي بين دو مجموعه از متغيرها را با ارائه مثال هايي كه در آنها مفهوم همبستگي كانونيكال به كار مي رود، ارائه داد. در همبستگي کانونيکال ما به دنبال ارائه مجدد و ساده کردن داده ها هستيم .هدف ما يافتن دو ترکيب خطي از متغيرهاي اصلي است .يک ترکيب از اولين دسته متغيرها و يک ترکيب از دومين دسته (که متغيرها کانونيکال ناميده مي شود) به نحوي که بيانگر بزرگترين همبستگي ممکن باشد. همبستگي كانونيكال()canonical correlation همبستگي كانونيكال کمترين محدوديت را بر انواع داده ها در حين اجرا اعمال مي کند .به دليل اينکه ديگر فنون ،قيود بسيار دقيق تري بر داده ها اعمال مي کنند ،محققان عموما بر اين باوردند که اطالعات منتج از آنها کيفيت بهتري داشته و قابليت تفسير بيشتري دارد. تحليل رگرسيون چندگانه قادر به پيش بيني مقدار يک متغير وابسته يگانه (متريک) از يک تابع خطي از مجموعه متغيرهاي مستقل مي باشد .در برخي از مسائل تحقيقاتي ،ممکن است متغير وابسته يگانه منظور نظر نباشد ،بلکه مورد نظر محقق روابط ميان مجموعه هاي متغيرهاي مستقل و وابسته چندگانه باشد .تحليل همبستگي كانونيكال مدل آماري چند متغيره مي باشد که مطالعه روابط دروني ميان مجموعه هاي متغيرهاي وابسته چندگانه و متغيرهاي مستقل چندگانه را تسهيل مي کند همبستگي كانونيكال()canonical correlation چند اصطالح متغيرهاي كانونيكال ترکيبات خطي است که نمايش دهنده ي مجموع دو يا چندين متغير مي باشد و مي توان آن را براي متغيرهاي وابسته و مستقل تعريف نمود تابع كانونيكال ارتباط (همبستگي ) ميان دو ترکيب خطي (متغير كانونيكال ) مي باشد .هر تابع كانونيكاOل دو متغير كانونيكال دارد .يکي براي مجموعه ي متغيرهاي وابسته و ديگري براي مجموعه ي متغيرهاي مستقل. توابع كانونيكال از يکديگر مستقل مي باشند. همبستگي كانونيكال()canonical correlation استخراج توابع كانونيكال اولين قدم آناليز همبستگي كانونيكال Oاستنباط و استخراج يك يا چند تابع كانونيكال مي باشد .هر تابع شامل يك جفت متغير مي باشد ،يك متغير ،متغير هاي مستقل و ديگري متغيرهاي واOبسته را نمايش مي دهد. اولين جفت متغير كانونيكال به گونه اي انتخاب مي شوند كه بيشترين همبستگي داخلي ممکن بين دو مجموعه متغير را داشته باشند .دومين جفت اOز متغير كانونيكال به گونه اي اOستخراج مي شوند كه بيشترين رابطه را Oبين دو مجموعه اOز متغيرها كه براي جفت اOول از متغيرها حساب نشده اند ،داشته باشند .و به همين صورت ادامه مي يابد. ميزان ارتباط داخل جفت متغير ها توسط همبستگي كانونيكال منعكس مي شود . مكانيزم آماري همبستگي كانونيكال همبستگي كانونيكال()canonical correlation همبستگي کانونيکال :مکانيزم همبستگي کانونيکال از رويکردي مشابه مدل رگرسيون استفاده مي نمايد .به جاي کمينه کردن مجموع مربعات انحرافات ،ما به دنبال ترکيبي از متغيرهاي مستقل Xهستيم که همبستگي بين متغيرها وابسته Yرا بيشينه نمايد. فرض کنيد u1=Xb1نمايانگر اولين تکريب خطي از اولين دسته متغيرها باشد و فرض کنيد t1=Ya1نمايانگر اولين ترکيب خطي از دومين دسته متغيرها باشد .هدف ما يافتن b1,a1به نحوي است که همبستگي متغيرهاي کانونيکال t1و u1يعني ) r(t1,u1را بيشينه نمايد. )Choose a1,b1 to maXimize r(t1,u1 فرض کنيد t2=Y a2 ,u2=Xb2بيانگر دومين زوج از متغيرهاي کانونيکال باشد .هدف بيشينه کردن همبستگي بين u2,t2يعني ).r(t2,u2 )Choose a2,b2 to maXimize r(t2,u2 ‏Such that R(t1,t2)=0 and r(u1,u2)=0 همبستگي كانونيكال()canonical correlation تعداد مراحل مساله همبستگي کانونيکال بستگي به تعداد متغيرها دارد .اگر Pتعداد متغيرهاي Xباشد و q تعداد متغيرهاي Yباشد حداکثر تعداد متغيرهاي کانونيکال برابر خواهد بود با حداقل (.)p,q ‏ ( u,t covمساله به شکل ذيل بيان مي انديسهاي حذف با )t, u ‏r(t, u)  گردد: ((var ))t) var(u ‏Choose a, b to maximize ‏ ‏ ‏a Y Ya است: بيان قابل زير صورت به کسر مخرج و صورت ‏var(t)  ‏1 ‏t u  a Y Xb / / )(n  1 ‏ a/ RYYa 1 ‏a/ RYXb, / / )(n  1 / ‏ )(n  1 ‏cov(t,u)  )canonical correlation(همبستگي كانونيكال :با اضافه کردن اين محدوديتها مساله به شکل زير در مي آيد Choose a,b to maximize/ a RYXb subject to b/ RXXb 1 / aand RYYa 1 :معادله الگرانژي به شکل ذيل در مي آيد L a/ RYXb   /  (a RYYa  1)  (b/ RXX b  1) 2 2 همبستگي كانونيكال()canonical correlation همبستگي هاي كانوتيكال بين X,Yرا ممكن است بتوان با حل معادالت ويژه زير به دست آورد ‏ ‏a r (t,u)a ‏R ‏R ‏1 ‏RXY RYY ‏RYX b  r 2 (t, u)b ‏1 ‏XX ‏1 ‏RYX RXX ‏RXY ‏1 ‏YY 2 رابطه باال يک مساله مقدار ويژه ـ بردار ويژه است .براي رابطه اول بردار bاولين بردار ويژه ماتريس است r2(t,u) .مربع همبستگي كانونيكال مي باشد .مساله همبستگي کانونيکال شامل ماتريس تجزيه پذير و نامتقارن ‏1 ‏1 ‏RXX ‏RXY RYY ‏RYX است .با وجود اينكه مقادير ويژه يک ماتريس نا متقارن لزوما مقادير حقيقي نيستند ،ماهيت و ساختار مسئله همبستگي کانونيکال به گونه اي است که مقادير ويژه هم حقيقي و هم غير منفي هستند .براي بحث بيشتر پيرامون مقادير ويژه و بردارهاي ويژه ماتريسهاي نامتقارن مراجع Chatutvedi , ) Green , Caroll (1977را ببينيد. همبستگي كانونيكال()canonical correlation بر خالف تحليل عاملي اکتشافي ،رايج نيست که جواب را براي تسهيل در تفسيرجواب همبستگي كنُنيكال دوران دهيم .به خاطر اينکه تحليل گر عموما به دنبال مقدار واريانس قابل تغيير است، و چرخش جواب مقادير R2کانونيکال را تغيير خواهد داد. بارگذاريهاي کانونيکا ل: براي تفسيرجواب هاي كانونيكال ،بارگذاري کانونيکال را مي توان استفاده نمود ،که همبستگي بين متغيرهاي اصلي و متغيرهاي کانونيکال را بيان مي كند .همسبتگي بين uوX است از: که ما آن را با fنمايش Oمي دهيم 1 عبارت 1 / / ‏f ‏X u ‏X ( Xb)  RXXb )(n  1 )(n  1 همبستگي بين tو Yکه با gنمايش داده مي شود عبارت 1 1 اسOت از: / / ‏Y (Yb)  RYYa )(n  1 ‏Y t )(n  1 ‏g همبستگي كانونيكال()canonical correlation افزونگي مربع همبستگي کانونيکال ) r2(t,uبه ما نمي گويد که چه مقدار از واريانس Yبا Xتوصيف مي شود .در حقيقت آن فقط به ما مي گويد چه مقدار از واريانس در ( tترکيب خطي )Yتوسط uتوصيف مي گردد. براي پاسخ به اينکه چه مقدار از واريانس در Yتوسط Xتوضيح داده مي شود ،ما مي توانيم از شاخص افزونگي که توسط ‏ Variancein کنيم. استفاده شد داده )Love ,t Stewart (1968 ‏t exp ‏lained توسعهby ‏u  Varincein ‏ *  VarinceinY  ‏  ‏ ‏Varinceint ‏Rd(t u)  ‏ اولين عنصر دقيقا مربع همبستگي کانونيکال ) r2(t,uاست. دومين عنصر واريانس در Yاست که توسط ترکيب خطي t=Yaمحاسبه مي گردد. 2 / )r (t,u)(t u ‏Rd(t u)  ‏q مساله نمونه همبستگي كانونيكال()canonical correlation مساله نمونه • ) Lodish , Fader(1990مي خواستند بدانند که آيا فعاليتهاي پروموشن (به عبارتي :انواع پروموشنها که توسط بازاريابها پيشنهاد مي گردد) بين گروه بندي محصوالت با توجه به ويژگيهاي گروه بنديها تغيير مي کند يا نه؟ براي مثال آيا يک نفر انتظار دارد که از يک فعاليت پروموشن براي کاالهاي گران قيمت و ارزان قيمت نتيجه يکساني بگيرد؟ از بOOانOکاOطOالعاتOيبOOازارOيانOي IRIدر مOورد ‏Lodish, Fader 10مOتغير بOOراOي 331سOOبد مOحصولکOOاOOاليمOختلفدر سOOاOOل 1986اOطOالعاتگOOردآورOينOOمودOند. هدف اين است که بدانيم تا چه اندازه اي مي توان از متغيرهاي ساختاري براي توضيح واريانس مشاهده شده در متغيرهاي پروموشن استفاده کرد. گروه (1متغيرهاي ساختاري): درصد خانواده هايي که حداقل يک محصول مي خرند ‏PENET ميانگين زمان خريد ‏PCYCL ‏E ميانگين دالرهايي که در هر بارخريد هزينه مي كنند ‏PRICE سهم بازار ترکيبي براي تمام ليبل خصوصي محصوالت عمومي ‏PVTS ‏H ميانگين تعداد دفعات خريد هر خانوار در طول سال ‏PURH ‏H گروه (2متغيرهاي پروموشن): درصد حجم فروش به روشهاي معرفي( نظير تبليغ در روزنامه( ‏FEAT درصد حجم فروش به روشهاي نما يشگاهي ‏DISP درصد حجم فروش با کاهش موقتي قيمت ‏PCUT )canonical correlation(همبستگي كانونيكال PURHH PVTSH PRICE PCYCLE PENET 1.000 PENET 1.000 -0.478 PCYCLE 1.000 -0.146 -0.222 PRICE 1.000 -0.208 -0.127 0.409 PVTSH 1.000 0.246 0.068 -0.719 0.617 PURHH 0.373 0.270 -0.001 -0.379 0.580 FEAT 0.213 0.132 -0.111 -0.252 0.461 DISP 0.368 0.295 0.108 0.394 0.569 PCUT 0.261 0.223 0.0740 -0.178 0.389 SCOUP -0.026 -0.215 0.237 0.049 0.053 MCOUP )canonical correlation(همبستگي كانونيكال MCOUP SCOUP PCUT DISP FEAT PENET PCYCLE PRICE PVTSH PURHH 1.000 1.000 FEAT 1.000 0.535 DISP 1.000 0.515 0.918 PCUT 1.000 0.588 0.375 0.674 SCOUP -0.065 -0.040 -0.038 -0.044 MCOUP همبستگي كانونيكال()canonical correlation نتايج تحليل همبستگي متغيرهاي کانونيکال براي داده هاي Lodish , fader ) r(t5 ,u5 ) r(t4 ,u4 ) r(t3,u3 ) r(t2 ,u2 )r(t1,u1 0.642 0.483 0.265 0.114 0.032 Lodish , fader بارگذاريهاي کانوکيکال براي داده هاي u1 u2 u3 0.04 -0.11 0.96 PENET 0.39 -0.15 0.55 PURHH -0.06 0.32 -0.58 PCYCLE 0.28 0.77 -0.01 PRICE 0.71 -0.47 0.34 PVTSH t1 t2 t3 0.29 -0.07 0.94 FEAT -0.38 -0.14 -0.73 DISSP 0.18 -0.32 0.90 PCUT 0.61 0.17 0.62 SCOUP -0.43 0.72 0.16 MCOUP همبستگي كانونيكال()canonical correlation مثال2 در اين مثال مي خواهيم تعيين كنيم درجه اي از تطابق بين يگ مجموعه از مشخصات شغلي و رضايت شغلي .اين نمونه ها از 14شغل با كارگرانشان جمع شده است. 3متغير رضايت شغلي عبارتند از: ‏Oت ), SuperviseدورOهCareer (O ي ), FinanceسOOرپرس ( )مOاOOل( 3متغير مشخصات شغلي عبارتند از: ‏Oت ), FeedbackتOOOنوع( Variety ),بOOازOخورد سOOرپرس ( ‏OلAutonomy )اOسOتقال(O اين بررسي در نرم افزار SAS / INSIGHTانجام شده است. ‏http://www.ualberta.ca/AICT/RESEARCH/Software/SAS.old/ ‏analyst/chap13/sect3.htm#idxa130036 )canonical correlation(همبستگي كانونيكال )canonical correlation(همبستگي كانونيكال چند نمونه تست آماري همبستگي كانونيكال()canonical correlation • آيا ارتباط بين Xها و Yها معني دار است؟SE ‏ نسبت ويلكس ‏ST | |SEدترمينان ماتريس مجموع مربعات خطاها مي باشد و | |STمجموع مربعات کل براي متغير Yمي باشد ويلکس را با مربع همبستگي کانونيکال • چگونه بدست آمده در تحليل محاسبه کنيم. ‏SHمOجموع مOربOعOاتبOOراOيوارOيانOس Yک Oه OتOOوسOط XقOابOل ‏Oت تOOوضOيح اOس . ‏ST  SH ‏ST ‏1 ‏SH Y / X ( X / X ) 1 X /Y  RYX RXX ‏RXY ‏ ‏ST Y /Y  RYY ‏1 ‏1 ‏  I  RYY ‏RYX RXX ‏RXY همبستگي كانونيكال()canonical correlation تسOت مربع کاي بارتلت ( p  q  1)  ‏ ‏V   (n  1)  ‏ln ‏ 2 ‏ ‏ nتOOعOداد مOشاهداOت pتOOOعOداد مOتغيرهاي XيOOا مOرتOبه OمOاتريOسX qتOOOعOداد مOتغيرهاي YيOOا مOرتOبه OمOاتريOسY ‏Oت VتOOغOريOبا داراOيتOOوزOيOع مOربOع کOOايبOOا pqدرOجه OآرادOياOس . • مقادير بزرگ براي آماره Vبارتلت خواهد شد که به معني رد فرض صفر مبني بر عدم وجود ارتباط معني دار بين Y و Xاست. • بررسي مثال متغيرهاي فادر و لوديش = (Λ0.413=)1-0.0322()1-0.1142()1-0.2652( )1-0.4832( )1-0.6422 ‏q 5, p 5, n 331,  0.41 با جايگذاري مي شود: ‏X 025 .0001 =52.62 در فرمول بارتلت (5  5  1)  ‏ ‏V   (331 1)  ‏ln(0.41) 287.3 ‏ 2 ‏ ‏ همبستگي كانونيكال()canonical correlation ‏pq  ‏ ( 1 ‏ ‏ts ‏ ) ‏ (1  )   2 ‏Ra  ‏ ‏ * 1/ 5 ‏pq ‏ ‏ ‏  ‏ ‏ ‏ تست Fرائو تست رائو Λ براي که در آن: 1/ 5 است. ويلکس بر مبناي توزيع F )( p  q  1 1 1 ts pq درجه آزادي( 2 2 )( p2q2  4 ‏s 1 if p  q 5; otherwises  ))( p2q2  5 2 2 • بررسي مثال متغيرهاي فادر و لوديش ‏q 5, p 5, n  331 جايگذاري,   0.41 مقادير براي تست رائو به t=324.5 ,S=3.71بدست مي . آيد. 1 ‏ )25.1194 ‏F0(.01 ‏1.79 ‏t (n  1)  ‏ (1 0.413.71)   (1 324.5* 3.71 5* 5.2)  ‏ ‏Ra * 1 ‏ 12.85 ‏  5 * 5 ‏ ‏ 0.413.71  همبستگي كانونيكال()canonical correlation ‏Application of canonical correlation  .1در مقاله اي () )lee. et al(1999براي تشخيص و شناسايي عكس هاي ناشناخته ماهواره اي از آناليز همبستگي كانونيكال استفاده نمودند. ‏Jong-Hun Lee, Min-Ho Park, and Yong-Il Kim, ETRI Journal, vol.21, ‏no.4, Dec. 1999, pp.41-51. .2 د ر مقاله اي براي كشف تعدادي سيگنال در noisesناشناخته محيطي از آناليزهمبستگي كانونيكال استفاده شده است. ‏Proc . Spie. Vo1. 2003. p 464-475 .3در تحقيقي از آناليز همبستگي كانونيكال براي تطبيق عكس ها و متون webبه همديگر ،به طوري كه اين تصاوير و متون بيشترين همبستگي را نسبت به هم داشته باشند ،استفاده شده است. ‏Neural computation. 2004;16:2639-2664 همبستگي كانونيكال()canonical correlation .4براي تشخيص نوعي بيماري ناشناخته عصبي ،با استفاده از عالئم آن بيماري از آناليزهمبستگي كانونيكال Oبراي كشف بيماري استفاده شده است. ‏Journal of pharmacokinetics and pharmacodynamics. Volume 20. ‏number 6. 611-635 .5در مقاله اي ارتباط بين حمل و نقل ( )transportبا گسترش ( )developmentدر رشد مناطقي از كشور چين با استفاده از آناليز همبستگي كانونيكال بررسي شده است. )Journal of regional science. Volume 40. 143-171 (2000 .6از آناليز همبستگي كانونيكال براي تعيين تطابق بين مشخصات شغلي و رضايت استخدام شدگان استفاده شده است. ‏Sas institute inc. cary, nc, usa. 1999 با تشكر از توجه شما