صفحه 1:
A REVIEW ON
CLASSIFICATION
METHODS
صفحه 2:
* تفاوت طبقه بندی و خوشه بندی
* مروری بر روش های طبقه بندی
7 روش های آماری و اقتصاد سنجی (پارامتریک)
۷ روش های غیرپارامتریک
صفحه 3:
* داشتن گروه های مشخص
* تعریف ویژگی های عضویت در هر گروه
* تخصیص هر عضو جدید به گروه های از پیش تعیین شده
صفحه 4:
ی
طبقه بندی: گروه های از پیش تعیین شده
* خوشه بندی: گروه های از پیش تعیین نشده
صفحه 5:
اين روش ها اقتصادسنجی و آماری می باشند.
باشد.
اصلی ترین مشکل این روش ها فرضیات موجود در ن ها می
این روش ها به دو دسته تقسیم می شوند:
0 تک متغیره
0 من متغیرة
صفحه 6:
نمونه ای از این روش ها عبارتند:
0 Discrimintal Analysis
0 Linear Discrimintal Analysis
0 Quadratic Discrimintal Analysis
0 Linear Probability Model
0 Logit Analysis
0 Probit Analysis
صفحه 7:
روش تحلیل تمایزی ۱50۲۱۳۱۱۳۲۵۱
Analysis
* بر مبنای اندازه گیری واریانس درون و میان گروهی
* رویه :
0 حداکثر کردن واریانس میان
0 حداقل کردن واریانس درون گروه ها
صفحه 8:
روش تحلیل تمایزی ۱50۲۱۳۱۱۳۲۵۱
Analysis
* فرضیات مورد استفاده:
0 نرمال بودن توزیع متغیرهای پیش بینی
© برابر بودن ماتريس واريانس-كوواريانس در بين كروه ها
صفحه 9:
روش تحلیل تمایزی ۱50۲۱۳۱۱۳۲۵۱
Analysis
* تشکیل تابع ‘yj Glee Discrimintal Score
بير + ... + وهوررط + رهريرط + یره < برك
تخمين مقادير 0 ,3 مطابق زير:
(,- ۰)۲ 2۲۱ ررط
Gu = — (Be tH)! by /2
صفحه 10:
روش تحلیل تمایزی ۱50۲۱۳۱۱۳۲۵۱
Analysis
* ماتریس واربانس-کوواریانس:
"(ا- زر ۳,(۰6- ر ار x
1۵ بو
m-q
* يك ورودى جديد. در كروه 16ن) قرار مى كيرد اكر براى تمامى
كروه هاى ديكرء معادله زيربرقرار باشد:
K(k|Dz,
10۱,
ها < (ر ).72
صفحه 11:
روش تحلیل تمایزی ۱50۲۱۳۱۱۳۲۵۱
Analysis
* معایب مدل:
- فرضيات مدل
- تخمین هزینه ۷۱۱5۱855۴6110۳
صفحه 12:
روش تحلیل تمایزی ۱50۲۱۳۱۱۳۵1د0.1
Analysis
* اگر ماتریس های واریانس-کوواریانس مساوی نباشند:
7 < 61 bug + DD aiid
iat hel از
تخمین ها: ( رس - ارر2-- بر
- ارت ey
۱
صفحه 13:
روش تحلیل تمایزی ۱50۲۱۳۱۱۳۵1د0.1
Analysis
صفحه 14:
* با وجود معلیب لین روش LD در صورت صحیح بودن فرضیات.
جواب بهینه می دهند.
* عدم وجود فرضیات در دنیای واقعی لا کارایی پایین
* بخصوص در شرایط زیر:
- وجود متغیرهای گسسته
- صفات با وابستگی بالا
* در نتیجه توسعه مدل های ذکر شده انجام شد.
صفحه 15:
Analysis 01۱۱0۷ ۲۵۱02« حعها
* روش ۸۱۵۱۷5۱5 ۳۲۵۵۵۵۲۱۵۷ ۱۲۱062۲
7 بر پایه رگرسیون چند متغیره
- تفسير جواب: احتمالی که یک عضو به یک دسته تعلق دارد
عیب: مقدار ذکر شده بین * و ۱ نیست!!
- استفاده از مدل فوق مشکل می باشد.
صفحه 16:
روش های ۳۳۵۵۲۲ 6 ۲اوویا
با وجود قدیمی بودن (دهه ۳۰) کاربرد فراوانی دارند.
از نوع تحلیل های اقتصاد سنجی
بر پلیه تولبع غیر خطی و تخمین احتمال عضویت اعضا در گروه
های مختلف
* تفاوت:
- استفاده 0011| از توابع منطقی
- استفاده ۳۲۵۸ از تابع توزیع تجمعی نرمال
صفحه 17:
روش های ۳۳۵۵۲۲ 6 ۲اوویا
* احتمال اینکه یک عضو عضو یک گروه خاص باشد در دو روش:
Logit analysis: P, = F(a+g'b)=/(+e*®* )
atgyb
Probit analysis: P, = f(a +b) =| A
(x)? yr°
تخمین پارامترها در این روش: روش حداکثر درستنمایی
ad
InL= Yn(P,))+ (,ص- )مارج
VxyeCy vxjeC,
صفحه 18:
روش های ]۳۳۵۱۵ 6 ]ایا
* بهینه سازی ذکر شده غیر-خطی و مشکل است.
* _پس تخمین پارامترها : محاسبه احتمال های عضویت
* تعیین قوانین با استفاده از منطق
* برای مثال, دو گروه داریم, 0.5 مبنای تصمیم گیری
صفحه 19:
* روش های سنتی: دارای فرضیات آماری (مثلا داشتن توزیع متغیرها)
* در واقعیت به ندرت این حالت اتفاق می افتد.
۰ ل
در نتیجه:
ت توسعه مدل هایی که نیازمند تخمین پارامتر نباشند.
صفحه 20:
220000
* منطق فازی برای اولین بار در سال ١188 توسط لطفى زاده پروفسور علوم کامپیوتر
دانشگاه برکلی کالیفرنیا معرفی شد.
* در اصل. منطق فازی یک منطق چند مقداره است ولین امکان را فراهم می کند که
مقادیر واسطه بین ارزیابی های قراردادی مانند درست/غلط. بله/ خيرء زیاداکم و غیره
قرار كيرند.
صفحه 21:
* منطق فازی یک ابزار سودمند برای کنترل و راهنمایی سیستم ها و
فرآیندهای صنعتی پیچیده است و در زمینه های وسایل برقی خانگی.
ابزارهای تفریحی سیستم های تخصصی و-.کاربرد دارد.
صفحه 22:
®
عملکردهای سیستم های فازی
9
S\ LA
شکل 3: نمونه ابی از مجموعه های فازی
Maa
صفحه 23:
یکی از موارد کاربردی تئوری فازی. طبقه بندی کننده های فازی هستند. در اين
جریان, دلنش کارشناسی مورد استفاده قرار گرفته و می تولند.با استفاده از متفیرهای
زبانی به صورت طبیعی بیان شود که توسط مجموعه های فازی شرح داده می شوند.
حوسط
تركيب 8
Re
صفحه 24:
CC en
خروجی های فازی برای کل قوانین در یک مجموعه فازی قرار می گیرد.
برای تصمیم گیری قطعی از این خروجی فازی» می توان مجموعه فازی را از
حالت فازی خارج کرد.
چندین روش ( روش های غیر فازی سازی) وجود دارد. یکی از آنها به عنوان
مثال گرفتن مرکز ثقل مجموعه فازی است که در شکل ۷ نشان داده شده
است كه براى مجموعه هاى فازى كاربرد زيادى دارد.
صفحه 25:
شکل 9: دی فازی شدت یا استفاده از روش مرکر تقل
igh
‘inal رصت
ع سر
هم
مه
صفحه 26:
نطق فازی می تولند روش متفاوتی برای کنترل یا طبقه بندی مسئله ارائه
کند.
عموماء برای مراحل بسیار پیچیده در زمانی که مدل ریاضیاتی ساده ( مانند
تبدیل مسائل) برای مراحل غیرخطی یا در زمانی که فرآیند دانش تخصصی
(به صورت زبلنی فرمول بندی شده) استفاده می شود. کاربرد منطق فازی
می ably ashe alli
صفحه 27:
* کر فرهنگ الفت براق ga Hey CHES gg DLs gull ROUGH
ادب.متلاطم و ناصاف در نظر گرفته شده است.
تكورى مجموعه هاى راف دراوايل سال ۱۹۸۰ میلادی: توسط
بروفسورزةيسلاوياولاك. ياية كذارى شذ:
صفحه 28:
این تئوری با تحلیل جدولهای داده سروکار دارد.
دراین تئوری جدولهای داده می توانند توسط اندازه گیری یا افراد متخصص
وآگاه (خبره)بدست آمده باشد.
هدف اصلی از تحلیل مجموعه راف به دست آوردن مفاهیم تقریبی از داده
های اکتسابی می باشد,
لین تئوری.یک ابزار قدرتمند ریاضی برای استدلال در موارد ابهام و نایقینی
است که روشهلیی را برای زدودن و کاستن اطلاعات نامربوط یا مازاد برنیاز از
پایگاههای داده ها مهیا می سازد.
صفحه 29:
این فرایند حذف داده های زلئد بر مبنای آموزش, وظیفه اصلی سیستم. وبدون از
دست حادن :داده هائ اساسى يايكاه داده ها صورت مى يذيرد.
در تعيجه:قليل اظلاعات: مجموعه:اى أر قوامد تلخيض oad و يزمعتا حاضل مى
كرددكه كار تصميم كيرنده را بسيار ساده تر مى كند. در حقيقت ميتوان كفت كه
مجموعه راق يا كاهش فضاى داده ها وبر كزيدن عبارات مهم يك نكاشت از فضای
داده هاى خام به فضاى مفاهيم انجام مى دهد.
با تلوری مجموعه های
استدلال بولی و تحلیل تفکیکی
صفحه 30:
میتوان از مجموعه راف در حل مسائل اساسی در زمینه تحلیل داده ها استفاده نمود. از جمله:
مشخص کردن مجموعه ای از اشیاءبرحسب مقادیرویژگیها
* یافتن وابستگیها بین ویژگیها
* زدودن (کاهش یا تقلیل)ویژگیهای مازاد(داده ها)
* یافتن مهمترین ویژگیها
*_تولید قواعد تصمیم گیری
صفحه 31:
فلسفه مجموعه های راف بر این فرض است که هر شی از جهان را می توان به عنوان
اطلاعات(داده.معرفت)در نظر گرفت.
رابطه غیر قلیل تشخیص بودن ( رابطه علی- معلولی ) به دست آمده در اين روش
اساس ریاضیات تثوری مجموعه های راف می باشد.
هر مجموعه ای از اشیاء غیر قلبل تشخیص را یک مجموعه بنیادی می نامند و شکل
یک جرء اصلی (اتم) از دانش درباره جهان است.
به هر اجتماعی از مجموعه های بنیادی عنوان مجموعه های کریسپ(دقیق) نسبت
می دهندو در غیر اینصورت مجموعه مبهم و غیر صریح است که عنوان مجموعه راف
برای آن در نظر گرفته می شود.
صفحه 32:
®
تثوری مجموعه های راف مبتنی بر مفهوم کلاسه سازی (دسته بندی)است.
به عنوان مثال .گروهی از بیماران که از یک بیماری معین رنج می برند رادرنظر
بگیریدبا هر بیمربیک فلیل داده ها شامل اطلاعاتی از قبیل نام,آدرسسن. جنسیت.
دماى بدن. فشار خون و مانند آن- همراه است.تمام بیمارلنی که علائم مشابهی را
نشان می دهند - از نظر اطلاعات دردسترس -مانند یکدیگر هستند.ومی توان آنان
را در دسته هایی-به عنوان اجزای بنیادی دانش و معرفت موجودنسبت به بیماران <
کلاسه بندی نمود.این اجزاعبه نام مجموعه های بنیادی یا مفاهیم بنیادی شناخته
می شوند و میتوانند به عنوان بلوک های سازنده دانش در مورد بیماران در نظر
گرفته شوند.
صفحه 33:
* هراجتماعی از مفاهیم بنیادی. مجموعه کریسپ-به معنای مجموعه ای با تعریف و
مرز های دقیق - نامیده می شود. وهر مجموعه دیگری که کریسپ نباشد. مجموعه
راف -به معنای مجموعه مبهم و نادقیق- شناخته می شود.
* یک مجموعه راف است اگر ناحیه مرزی ناتهی داشته باشد. ودرغیر اینصورت. کریسپ
صفحه 34:
ارائه منال - مجموعه های راف
* در جدول زیر شش فروشگاه بر حسب چهار ویژگی ۳ وع.0).| توصیف شده است:
3 : کیفیتکااها و لجلر ©
=P سفن دیا ۲
no | prof : سود ياضر فروشكام »
no | Tess : لختیارلتپ رسنفروشگامع ۰
oa profit
* می توان فروشگاههارا برحسب ویژگیهای مشابهی که دارند دریک کلاس جمع کرد و
به عنوان یک زیر مجموعه در نظر گرفت.
صفحه 35:
می توان با توجه به ویژگیهای 00 , بآ همه فروشگاهها را در کلاسهای(زیر مجموعه
های) زیرطبقه بندی نمود:
{1,2.3} Q:good , L:no
{4} Q:ave , L:no
{5,6} Q:ave L: yes
صفحه 36:
SCS RS SCs.)
تئوری راف کاربردهای زیادی در مهندسی.تحلیل داده های پزشکی. پردازش wg pp
دارد . برخی از مزایای کاربردی تلوری مجموعه های راف به صورت زیر می باشد:
* یک الگوریتم موثر برای یافتن الگوهای پنهان در داده ها
* یافتن مجموعه های مینیمال داده ها (کاهش يا تقلیل داده ها)
ارزیابی اهمیت داده ها
* تولید مجموعه های مینیمال از قواعد تصمیم گیری از داده ها
سادگی فهم و تفسیر آسان نتایج الگوریتم
صفحه 37:
تخراج قواعد با استفاده از مجموعه راف هنگامیکه ارزشهای تلبع تعلق به
می باشند.
کاربرد مجموعه های راف باکشف کننده ها برای انتخاب خصوصیت(طرح)
روشی برای استخراج تغذیه های پایگاه داده ها با استفاده از مجموعه راف
ل(کنترل راف)
کاربرد مجموعه راف برای داده کاوی درسیستم های اطلاعاتی بیمارستان
تحلیل عملی روی مجموعه اطلاعات مراقبت ژنتیک با استفاده از مجموعه راف
تولید اتوماتیک داستان با روشهای 1۳لا و مجموعه های راف
کلاسه سازی نقطه بهره برداری سیستم قدرت
کاربرد تلوری راف در
تشخیص خطا در سیستم های قدرت
برت فوا
صفحه 38:
۱۳ OT ROS SLR
cI معرفت از پست های توزیع
استخراج قواعد با تحلیل داده های پزشکی
کاهش(فشرده سازی)معرفت در جداول اطلاعاتی(اطلاعات خودروها)
تشخیص خطا درسیستم های حمل و نقل
کار بر روی هوش پیوندی با استفاده از مجموعه راف
استخراج معرفت جاسازی شده در شبکه عصبی تعلیم یافته با استفاده از مجموعه راف
GAS روابط بین ویژگیها و وابستگی قواعد با استفاده از مجموعه راف
استدلال درباره معرفت با استفاده از مجموعه راف
مدلسازی تحلیلی سیستم دما با استفاده از مجموعه راق
مدلسازی مجموعه بیماران قلبی موروثی با استفاده از مجموعه راف
صفحه 39:
لیست تشخیصی در یک اتاق اورژانس با استفاده از مجموعه راف
کلمات دورافتاده(پرت)زبا.
سمی کشور تایلند با استفاده از مجموعه راف
بدست آوردن قواعد از اطلاعات ناقص و متناقض با استفاده از مجموعه راف
* روشى براى ارزيابى كيفيت در سیستم حمل و نقل با استفاده از مجموعه راف
* استفاده از مجموعه راف برای انطباق رهنمودهای بالینی برای سازمانهای مراقب سلامتی
صفحه 40:
ای نوعی مدلسازی ساده انگارانه از سیستمهای واقعی که
كاربرد فراوانى در حل مسائل مختلف در علوم دارند.
* حوزه کاربرد این شبکهها آنچنان گسترده است که از کاربردهای طبقهبندی گرفته تا
کاربردهایی مانند درونیابی, تخمین, آشکارسازی و. ۰ . را شامل میشود.
* شاید مهمترین مزیت این شبکههاء توانایی وافر آنها در کنار سهولت استفاده از آنها باشد.
یکی از روشهای کارآمد در حل مسائل پیچیده شکستن ن به زیرمسألههای سادهتر است
که هر کدام از این زیربخشها به نحو سادهتری قابل درک و توصیف باشند.
صفحه 41:
0
شبکهها انواع مختلفی دارند اما همگی آنها از دو گزینه تشکیل میشوند:
۱. مجموعهای از گرهها: هر گره در حقیقت واحد محاسباتی شبکه است که ورودیها را گرفته و
برروی آسن پردازش انجام میدهد تا خروجی بدست آید. پردازش انجام شده توسط گره
میتواند از سادهترین نوع پردازشها نظیر جمعکردن ورودیها تا پیچیدهترین محاسبات را
شامل شود خر خالت ویژه یک گره می توانذ خود«شامل یک غنبکه دیگر باشد.
۲ اتصالات بین گرهها: این اتصالات چگونگی گذر اطلاعات بین گرهها را مشخص میکند. در
حالت کلی اتصالات میتوانند تک سویه یا دوسویه باشند. تعامل بین گرهها از طریق
اتصالات سبب بروز یک رفتار کلی از سوی شبکه میگردد که چنینرفتاری به تنهایی
هیچ یک از عنصرهای شبکه دیده نمیشود. جامعبودن این رفتار کلی بر عملکرد موجود در
هر گره سبب تبدیل شبکه به یک ابزار توانمند میشود.
صفحه 42:
شبکههای عصبی با توانایی قابل توجه خود در استنتاج نتایج از دادههای پیچیده میتوانند
در است ج الگوها و شناسایی گرایشهای مختلفی که برای انسانها و کامپیوتر شناسایی
آنها بسیار دشوار است استفاده شوند. از مزایای شبکههای عصبی میتوان موارد زیر را نام
3
۱. یادگیری تطبیقی : توانایی یادگیری اينکه چگونه وظایف خود را بر اساس اطلاعات داده شده
به آن و یا تجارب اولیه انجام دهد در واقع اصلاح شبکه را گویند.
۲ خود سازماندهی : یک شبکه عصبی مصنوعی به صورت خودکار سازماندهی و ارائه دادهایی
که در طول آموزش دریافت کرده را انجام دهد. Lass با قاعده یادگیری سازگار شده و
پاسخ به ورودى تغيير مى يابد.
۳ عملگرهای بیدرنگ : محاسبات در شبکه عصبی مصنوعی میتواند به صورت موازی و به وسیله
سختافزارهای مخصوصی که طراحی و ساخت لن برای دریافت نتلیج بهینه قابلیتهای شبکه عصبی
مصنوعی است انجام شود.
صفحه 43:
۴. تحمل خطا :با ایجاد خرلبی در شبکه مقداری از کارلیی کاهش مییلبد هلی برخی امکانات آن
با وجود مشکلات بزرگ همچنان حفظ میشود.
۵ دسته بندی : شبکههای عصبی قادر به دسته بندی ورودیها بر ای دریافت خروجی مناسب
میباشند.
۶ تعمیمآدهی :ین خاضیت شبکه را قادررمیبناوه:تا نها با برهوزد با مداد مخدودی تجونه:
یک قانون کلی از لن را به دست آور
تعمیم دهد. توانایی که در صورت نبود آن سامانه باید بی نهایت وآقعیتها و روابط را به
تناظر يسهازده
۷ پایداری- انعطاف يذيرى : یک شبکه عصبی هم به حد کافی پایدار است تا اطلاعات فراگرفته
خود را حفظ کند و هم قابلیت انعطاف و تطبیق را دارد و بدون از دست دادن اطلاعات قبلی
نی تزاند مزازد جدود را یذ بره:
vo نتایج این آموختهها را به موارد مشاهده از قبل نیز
صفحه 44:
یک شبکه عصبی شامل اجزای سازنده لایهها و وزنها میباشد.
در حالت کلی در شبکههای عصبی سه نوع لایه نورونی وجود دارد:
.١ لایه ورودی : دریافت اطلاعات خامی که به شبکه تغذیه شدهاست.
۲. لایههای پنهان : عملکرد این لایهها به وسیله ورودیها و وزن ارتباط بین آنها و لایههای
پنهان تعیین میشود. وزنهای بین واحدهای ورودی و پنهان تعیین میکند که چه وقت یک
واحد پنهان باید فعال شود.
۳ لایه خروجی : عملکرد واحد خروجی بسته به فعالیت واحد پنهان و وزن ارتباط بین واحد
پنهان و خروجی میباشد.
صفحه 45:
شبکههای عصبی مصنوعی دارای دامنه کاربرد وسیعی میباشند از جمله سامانههای آنالیز
ریسک. کنترل هواپیما بدون خلبان. آنالیز کیفیست جوشکاری, آنالیز کیفیت کامپیوتر
آزمايش اتاق اورثانس. اكتشاف روغن و كازء سامانههای ترمز كاميون. 5
۳ وام. شناسایی طیفی. تشخیص دارو, فرآیندهای کنترل صنعتی, مدير نطاء
تشخیص صداء تشخیص هپاتیت. بازیابی اطلاعات راه دور. شناسایی مینهای ز
تشخیص آشیاه سه بعدی او دست نوشتهها و چهزه و
صفحه 46:
قواعد یا دستورات مشخصی برای طراحی شبکه جهت یک کاربرد اختیاری وجود
ندارد.
در مورد مسائل مدل سازی. صرفاً نمیتوان با استفاده از شبکه عصبی به فیزیک
مساله پی برد. به عبارت دیگر مرتبط ساختن پارامترها یا ساختار شبکه به
پارامترهای فرآیند معمولاً غیر ممکن است.
دقت نتایج بستگی زیادی به اندازه مجموعه آموزش دارد.
آموزش شبکه ممکن است مشکل ویا حتی غیر ممکن باشد.
پیش بینی عملکرد آینده شبکه (عمومیت یافتن) آن به سادگی امکان پذیر نیست.
صفحه 47:
با تشکر از توجه شما