شبکه عصبی

شبکه عصبی

اسلاید 1: شبکه عصبیتنظیم:بهروز نصرالهی-فریده امدادیاستاد محترم:سرکار خانم کریمیدانشگاه آزاد اسلامی واحد شهرری

اسلاید 2: شبکه عصبی چیست؟ ( به طور کلی)شبکه عصبی مصنوعی روشی عملی برای یادگیری توابع گوناگون نظیر توابع با مقادیر حقیقی، توابع با مقادیر گسسته و توابع با مقادیر برداری میباشد.یادگیری شبکه عصبی در برابر خطاهای داده های آموزشی مصون بوده و اینگونه شبکه ها با موفقیت به مسائلی نظیر شناسائی گفتار، شناسائی و تعبیر تصاویر، و یادگیری روبات اعمال شده است.شبکه از تعداد دلخواهی سلول یا گره یا واحد و یا نرون تشکیل میشود که مجموعه ورودی ها را به خروجی ربط میدهد.

اسلاید 3: ساختار شبکه‌های عصبییک شبکه عصبی شامل اجزای سازنده لایه‌ها و وزن‌ها می‌باشد. رفتار شبکه نیز وابسته به ارتباط بین اعضا است. در حالت کلی در شبکه‌های عصبی سه نوع لایه نورونی وجود دارد:لایه ورودی: دریافت اطلاعات خامی که به شبکه تغذیه شده‌است.لایه‌های پنهان: عملکرد این لایه‌ها به وسیله ورودی‌ها و وزن ارتباط بین آنها و لایه‌های پنهان تعیین می‌شود. وزن‌های بین واحدهای ورودی و پنهان تعیین می‌کند که چه وقت یک واحد پنهان باید فعال شود.لایه خروجی: عملکرد واحد خروجی بسته به فعالیت واحد پنهان و وزن ارتباط بین واحد پنهان و خروجی می‌باشد.

اسلاید 4: چرا از شبکه های عصبی استفاده می کنیم؟ * قابلیت قابل توجه شبکه های عصبی در استنتاج معانی از داده های پیچیده یا مبهم* قابلیت بکارگیری به عنوان یک متخصص

اسلاید 5: انواع شبكه عصبيشبكه عصبي پرسپترونشبكه عصبي هاپفيلدشبكه عصبي همينگشبكه عصبي كوهننشبكه عصبي انتشار رو به عقبشبكه عصبي تاخير زماني

اسلاید 6: مزایای شبکه‌های عصبی1. یادگیری تطبیقی : توانایی یادگیری اینکه چگونه وظایف خود را بر اساس اطلاعات داده شده به آن و یا تجارب اولیه انجام دهد در واقع اصلاح شبکه را گویند.2. خود سازماندهی : یک شبکه عصبی مصنوعی به صورت خودکار سازماندهی و ارائه داده‌هایی که در طول آموزش دریافت کرده را انجام دهد. نورون‌ها با قاعدهٔ یادگیری سازگار شده و پاسخ به ورودی تغییر می‌یابد.3. عملگرهای بی‌درنگ : محاسبات در شبکه عصبی مصنوعی می‌تواند به صورت موازی و به وسیله سخت‌افزارهای مخصوصی که طراحی و ساخت آن برای دریافت نتایج بهینه قابلیت‌های شبکه عصبی مصنوعی است انجام شود.

اسلاید 7: 4. تحمل خطا : با ایجاد خرابی در شبکه مقداری از کارایی کاهش می‌یابد ولی برخی امکانات آن با وجود مشکلات بزرگ همچنان حفظ می‌شود.5. دسته بندی : شبکه‌های عصبی قادر به دسته بندی ورودی‌ها بر ای دریافت خروجی مناسب می‌باشند.6. تعمیم دهی : این خاصیت شبکه را قادر می‌سازد تا تنها با برخورد با تعداد محدودی نمونه، یک قانون کلی از آن را به دست آورده، نتایج این آموخته‌ها را به موارد مشاهده از قبل نیز تعمیم دهد. توانایی که در صورت نبود آن سامانه باید بی نهایت واقعیت‌ها و روابط را به خاطر بسپارد.7. پایداري ، انعطاف پذیری : یک شبکه عصبی هم به حد کافی پایدار است تا اطلاعات فراگرفته خود را حفظ کند و هم قابلیت انعطاف و تطبیق را دارد و بدون از دست دادن اطلاعات قبلی می‌تواند موارد جدید را بپذیرد.

اسلاید 8: معایب شبکه‌های عصبیبا وجود برتری‌هایی که شبکه‌های عصبی نسبت به سامانه‌های مرسوم دارند، معایبی نیز دارند که پژوهشگران این رشته تلاش دارند که آنها را به حداقل برسانند، از جمله:قواعد یا دستورات مشخصی برای طراحی شبکه جهت یک کاربرد اختیاری وجود ندارد.در مورد مسائل مدل سازی، صرفاً نمی‌توان با استفاده از شبکه عصبی به فیزیک مساله پی برد. به عبارت دیگر مرتبط ساختن پارامترها یا ساختار شبکه به پارامترهای فرایند معمولاً غیر ممکن است.دقت نتایج بستگی زیادی به اندازه مجموعه آموزش دارد.آموزش شبکه ممکن است مشکل ویا حتی غیر ممکن باشد.پیش بینی عملکرد آینده شبکه (عمومیت یافتن) آن به سادگی امکان پذیر نیست.

اسلاید 9: از جمله قابليت هاي شبكه هاي عصبي ميتوان به موارد زير اشاره كرد:محاسبه یک تابع معلوم تقریب یک تابع ناشناخته شناسائی الگو پردازش سیگنال یادگیری

اسلاید 10: شبكه عصبي مصنوعي چيست؟ شبکه عصبی مصنوعی یک سامانه پردازشی داده‌ها است که از مغز انسان ایده گرفته و پردازش داده‌ها را به عهده پردازنده‌های کوچک و بسیار زیادی سپرده که به صورت شبکه‌ای به هم پیوسته و موازی با یکدیگر رفتار می‌کنند تا یک مسئله را حل نمایند. در این شبکه‌ها به کمک دانش برنامه نویسی، ساختار داده‌ای طراحی می‌شود که می‌تواند همانند نورون عمل کند. که به این ساختارداده نورون گفته می‌شود. بعد باایجاد شبکه‌ای بین این نورونها و اعمال یک الگوریتم آموزشی به آن، شبکه را آموزش می‌دهند.در این حافظه یا شبکه عصبی نورونها دارای دو حالت فعال (روشن یا ۱) و غیرفعال (خاموش یا ۰) اند و هر یال (سیناپس یا ارتباط بین گره‌ها) دارای یک وزن می‌باشد. یال‌های با وزن مثبت، موجب تحریک یا فعال کردن گره غیر فعال بعدی می‌شوند و یال‌های با وزن منفی، گره متصل بعدی را غیر فعال یا مهار (در صورتی که فعال بوده باشد) می‌کنند.

اسلاید 11: آشنایی با شبکه های عصبی زیستی این شبکه ها مجموعه ای بسیار عظیم از پردازشگرهایی موازی به نام نورون اند که به صورت هماهنگ برای حل مسئله عمل می کنند و توسط سیناپس ها(ارتباط های الکترومغناطیسی)اطلاعات را منتقل می کنند.در این شبکه ها اگر یک سلول آسیب ببیند بقیه ی سلولها می توانند نبود آنرا جبران کرده و نیز در بازسازی آن سهیم باشند.این شبکه ها قادر به یادگیری اند.مثلا با اعمال سوزش به سلولهای عصبی لامسه، سلولها یاد می گیرند که به طرف جسم داغ نروند و با این الگوریتم سیستم می آموزد که خطای خود را اصلاح کند. یادگیری در این سیستم ها به صورت تطبیقی صورت می گیرد، یعنی با استفاده ازمثال ها وزن سیناپس ها به گونه ای تغییر می کند که در صورت دادن ورودی های جدید سیستم پاسخ درستی تولید کند.

اسلاید 12: به طور خلاصه یک شبکه عصبی باید خصوصیات زیر را داشته باشد: بتواند الگوها را طبقه بندی کند. به اندازه کافی کوچک باشد تا از نظر فیزیکی واقع گرایانه باشد. با به کار گیری آموزش، قابل برنامه ریزی باشد و قدرت یادگیری داشته باشد. یعنی توانایی تنظیم پارامترهای شبکه ( اوزان سیناپتیکی )، در مسیر زمان که محیط شبکه تغییر می کند و شبکه وارد شرایط جدیدی می شود. هدف از این کار این است که اگر شبکه برای یک وضعیت خاص آموزش دید و تغییر کوچکی در شرایط محیطی شبکه رخ داد، شبکه بتواند با آموزش مختصر، برای شرایط جدید نیز کارآمد باشد. دیگر این که اطلاعات در شبکه های عصبی در سیناپس ها ذخیره و هر نرون در شبکه به صورت بالقوه از کل فعالیت سایر نرون ها تأثیر می پذیرد. در نتیجه اطلاعات از نوع مجزا از هم نبوده و متأثر از کل شبکه می باشد. توانایی تعمیم را با استفاده از مثال های ارائه شده در فرآیند آموزش، داشته باشد.

اسلاید 13: کاربردهای شبکه های عصبی مصنوعی امروزه شبكه‌های عصبی در كاربردهای مختلفی نظير مسائل تشخيص الگو(Pattern Recognition) كه خود شامل مسائلی مانند تشخيص خط(Character Recognition)، شناسايی گفتار(Speech Recognition)، پردازش تصوير(Image Processing) و مسائلی ازاين دست می‌شود و نيز مسائل دسته‌بندي(Classification) مانند دسته‌بندی (Classification Problems)متون و يا تصاوير،به كار می‌روند.دركنترل يا مدل‌سازی سيستم‌هايی كه ساختار داخلی ناشناخته يا بسيار پيچيده‌ای دارند نيز به صورت روز افزون از شبكه‌های عصبی مصنوعی استفاده می‌شود . به عنوان مثال می‌توان در كنترل ورودی يك موتور از يك ANN استفاده نمود كه در اين صورت شبكه عصبی خود تابع كنترل را ياد خواهد گرفت.

اسلاید 14: کاربردهای شبکه های عصبی : تشخیص بیماریتشخیص چهرهانواع جدید سنسورهاپیگیری هدفهدایت جنگ افزارهاشناسایی تصویر /سیگنالبینایی ماشین مدل کردن غیر خطیترکیب صداکنترل فرآیند ساختآنالیز مالی

اسلاید 15: کاربردهای شبکه های عصبی :اختصار سخنبازبینی امضاارزیابی سرمایهپیش بینی فروشهای آینده و نیازهای محصولکلاسه بندی نمودارهای مشتری/بازارپیش بینی هواپیش بینی محصولمدل کردن کنترل فرآیندتشخیص هدفشبیه سازی مسیر

اسلاید 16: کاربردها:1. هوا و فضا·        خلبان خودکار هواپيما با کارايی بالا·        شبيه سازی مسير پرواز·        سيستم های کنترلی هواپيما·        بالا بردن کارايی خلبان خودکار·        شبيه سازی اجزای هواپيما·        تشخيص خطا در اجزای هواپيما

اسلاید 17: کاربردها:2. حمل و نقل·        سيستم راهنمای اتوماتيک اتومبيل·        تحليل گارانتی·        سيستم های ترمز کاميون ها·        زمان بندی وسايل نقليه·        سيستم های مسير يابی

اسلاید 18: 3. امور دفاعی·        راهبری سلاح ها·        تعقيب اهداف متحرک·        تشخيص اشياء·        تشخيص صورت·        رادار·        انواع جديد حسگرها·        پردازش سيگنال های تصويری و رادار با فشرده سازی داده ها·        استخراج ويژگی ها و حذف نويزها·        تشخيص تصاوير و سيگنال ها

اسلاید 19: 4. بانکداری·        ابزار خودکار خواندن چک و ساير اسناد·        کاربردهای ارزيابی کارت های اعتباری 5. الکترونيک·        پيش بينی ترتيب کد·        طراحی مدارات مجتمع·        کنترل فرايند·        تحليل نقص مدارات مجتمع·        بينايی ماشين·        توليد صدا·        مدلسازی غير خطی

اسلاید 20: 6. امور مالی·        ارزيابی ملک·        مشاور وام·        آزمايش رهن·        درجه بندی شرکت ها·        تحليل کاربرد خطوط اعتباری·        برنامه های تجارت سهام·        تحليل مالی شرکت ها·        پيش بينی قيمت ها 7. سرگرمی·        انيميشن·        جلوه های ويژه تصويری·        پيش بينی بازار

اسلاید 21: 8. صنعتشبکه های عصبی را می توان به جای تجهيزات بسيار گرانی که در گذشته، در صنعت مورد استفاده بوده اند، به کار گرفت. به عنوان مثال از شبکه های عصبی می توان برای پيش بينی مقدار گازهای خروجی از کوره برخی از فرايندهای صنعتی، استفاده نمود. 9. بيمه·        ارزيابی سياست های کاربردی·        بهينه سازی توليد

اسلاید 22: 10. ساخت و توليد·        کنترل فرايند ساخت·        تحليل و طراحی توليد·        تشخيص فرايند و ماشين·        تشخيص اجزاء بلادرنگ·        سيستم های بصری بازرسی کيفيت·        تحليل کيفيت جوشکاری·        مديريت و طرح ريزی·        پيش بينی کيفيت کاغذ·        تحليل کيفيت چيپ های کامپيوتری·        تحليل و طراحی توليدات شيميايی·        تحليل استقرار ماشين·        پيشنهاد پروژه·        مدلسازی پويا از فرايندهای شيميايی

اسلاید 23: 11. پزشکی·        تحليل سلول های سرطانی پستان·        تحليل EEG و ECG·        طراحی پروتز·        بهينه سازی زمان جراحی·        کاهش هزينه بيمارستان ها·        بهبود کيفيت بيمارستان ها 12. نفت و گاز·        اکتشاف13. رباتيک·        سيستم های بينايی·        ربات بالابر

اسلاید 24: 14. امنيت·        تحليل بازار·        ارزيابی خودکار·        سيستم های مشاور تجارت 15. گفتار·        تشخيص گفتار·        فشرده سازی گفتار·        طبقه بندی اصوات·        ايجاد گفتار از روی متن

اسلاید 25: 16. مخابرات·        فشرده سازی داده ها و تصاوير·        سرويس های خودکار شده اطلاعاتی·        ترجمه گفتار به صورت بلادرنگ·        سيستم های پردازش پرداخت مشتری  البته لازم به ذکر است که کاربرد شبکه های عصبی در علوم ياد شده، روز به روز در حال گسترش می باشد و هر روزه کاربرد جديدی از اين شبکه ها در مقالات معتبر، توسط پژوهشگران مطرح می گردد.

اسلاید 26: عناصر پردازشی:سیستم عصبی ما از شمار زیادی عناصر پردازشی فوق العاده بهم پیوسته تشکیل شده که برای حل یک مسأله با هم هماهنگ عمل می کند.به هر يك از اين عناصر پردازشی فوق العاده يك نرون(neurons) گفته ميشود.

اسلاید 27: چند نکته:گمان میرودکه مغز انسان از تعداد 11^10نرون تشکیل شده باشد.هر نرون با تقریبا 4^10نرون دیگر در ارتباط است.سرعت سوئیچنگ نرونها درحدود 3-^10ثانیه است .آدمی قادر است در 0.1 ثانیه تصویر یک انسان را بازشناسائی نماید.

اسلاید 28: ساختار نرون:  هر نرون طبيعي از سه قسمت اصلي تشكيل شده است :(dendrite) دندريت(some) بدنه سلول(axon) اكسون

اسلاید 29: دندريت ها :دندريت ها به عنوان مناطق دريافت سيگنال هاي الكتريكي هستند كه داراي سطح نامنظم و شاخه هاي انشعابي بي شمار مي باشند.

اسلاید 30: بدنه سلول: بدنه سلول ، وظیفه تامین انرژی مورد نیاز جهت فعالیت های نرون را به عهده دارد.

اسلاید 31: اكسون :اكسون بر خلاف دندريت ها از سطحي هموارتر و تعداد شاخه هاي كمتري برخوردار مي باشد. اكسون سيگنال هاي الكتروشيميايي دريافتي از هسته سلول را به نرون هاي ديگر منتقل مي كند.

اسلاید 32: سيناپس : محل تلاقي يك اكسون از يك سلول به دندريت هاي سلول هاي ديگر را سيناپس مي گويند.توسط سيناپس ها ارتباطات ما بين نرون ها برقرار مي شود. به فضاي مابين اكسون و دندريت ها فضاي سيناپسي گويند.

اسلاید 33: مبانی ANN ها شبکه های عصبی به طور کلی سیستمهای ریاضی یادگیر غیر خطی هستند. طرز کار این شبکه ها از روش کار مغز انسان الگو برداری شده است. در واقع شبکه های عصبی طبق تعریف ماشینی است برای ساخت یک مدل که می توان آن را بوسیله سخت افزار یا نرم افزار شبیه سازی کرد و عملکردی شبیه مغز انسان دارند.یک شبکه عصبی بر خلاف کامپیوترهای رقومی که نیازمند دستورات کاملا صریح و مشخص است٬ به مدل های ریاضی محض نیاز ندارد بلکه مانند انسان قابلیت یادگیری به وسیله تعدادی مٽال مشخص را دارد. هر شبکه عصبی سه مرحله آموزش٬ اعتبار سنجی و اجرا را پشت سر می گذارد. در واقع شبکه های عصبی را می توان در حل مسایلی که روابط دقیق ریاضی بین ورودی ها و خروجی های آن برقرار نیست بکار برد. آموزش دیدن شبکه های عصبی در واقع چیزی جز تنظیم وزن های ارتباطی این نرون ها به ازائ دریافت مٽال های مختلف نیست تا خروجی شبکه به سمت خروجی مطلوب همگرا شود.

اسلاید 34: ساختار مغز انسانمغز انسان به طور مستدل، پيچيده ترين شیء شناخته شده در جهان می باشد. با وجود اينکه مغز انسان در حدود 1.5 گيلو گرم وزن دارد، بيشتر آن را آب تشکيل می دهد و اگر از داخل جمجمه خارج گردد، بطور کامل فروريخته و ويران می شود.

اسلاید 35: ساختار مغز انسانسلول هايی که در مغز، وظيفه پردازش اطلاعات و توزيع آنها را بر عهده دارند، نرون (Neuron) ناميده می شوند. هر نرون 4 بخش مجزا دارد : هسته سلول، دندريت، اکسون و ترمينال های اکسون. هسته قسمت اصلی و حياتی يک سلول عصبی می باشد. دندريت ها از هسته سلول منشعب می گردند و اطلاعات را بصورت ايمپالس های الکتريکی، از نرون های ديگر به هسته سلول منتقل می کنند.اکسون ها بر خلاف دندريت ها، از سطحی هموارتر و تعداد شاخه های کمتری برخوردارند. اکسون طول بيشتری دارد و سيگنال الکتروشيميايی دريافتی از هسته سلول را به نرون های ديگر منتقل می کند. محل تلاقی يک اکسون از يک سلول، به دندريت های سلول ديگر را سيناپس می گويند.

اسلاید 36: ساختار مغز انسانفاصله بين نرون ها در حدود 25nm است که با وجود چنين فاصله کوچکی، نرون ها اطلاعات را به خوبی بين يکديگر رد و بدل می کنند. اين اطلاعات در سيناپس ها مورد پردازش قرار می گيرند.نرون ها بر اساس ساختارهايی که بين آنها پيام ها هدايت می شوند، به سه دسته تقسيم می گردند:1. نرون های حسی که اطلاعات را از ارگان های حسی به مغز و نخاع می فرستند.2. نرون های محرک که سيگنال های فرمان را از مغز و نخاع به ماهيچه ها و غدد هدايت میکنند.3. نرون های ارتباطی که نرون ها را به متصل می کنند.

اسلاید 37: ساختار مغز انسانشکل زیر يک نرون بيولوژيکی را نشان می دهد. 

اسلاید 38: شباهت مغز انسان با شبکه های عصبی: قدرتمند ترین شبکه های عصبی ، شبکه های عصبی بیولوژیک می باشند مغز انسان به او این امکان را می دهد که از تجارب خود استفاده کرده و آنها را تعمیم دهد. شبکه ها از ارتباطات عصبی موجود در مغز انسان الهام گرفته و آنها را روی کامپیوتر های دیجیتال پیاده سازی می کنند. در واقع از مغز و نحوه کار آن بمنظور ساخت کامپیوتر الگوبرداری می نماید. 

اسلاید 39: شباهت مغز انسان با شبکه های عصبی:اگرچه مكانیسم های دقیق كاركرد مغز انسان (یا حتی جانوران) به طور كامل شناخته شده نیست، اما با این وجود جنبه های شناخته شده ای نیز وجود دارند كه الهام بخش تئوری شبكه های عصبی بوده اند. سلول های عصبی قادرند تا با اتصال به یكدیگر تشكیل شبكه های عظیم بدهند. گفته می شود كه هر نرون می تواند به هزار تا ده هزار نرون دیگر اتصال یابد. قدرت خارق العاده مغز انسان از تعداد بسیار زیاد نرون ها و ارتباطات بین آنها ناشی می شود. ساختمان هر یك از نرون ها نیز به تنهایی بسیار پیچیده است. هر نرون از بخش ها و زیر سیستم های زیادی تشكیل شده است كه از مكانیسم های كنترلی پیچیده ای استفاده می كنند. سلول های عصبی می توانند از طریق مكانیسم های الكتروشیمیایی اطلاعات را انتقال دهند. برحسب مكانیسم های به كاررفته در ساختار نرون ها، آنها را به بیش از یكصدگونه متفاوت طبقه بندی می كنند.

اسلاید 40: شباهت مغز انسان با شبکه های عصبی:. در اصطلاح فنی، نرون ها و ارتباطات بین آنها، فرایند دودویی(Binary)، پایدار (Stable) یا همزمان (Synchronous) محسوب نمی شوند.در واقع، شبكه های عصبی شبیه سازی شده یا كامپیوتری، فقط قادرند تا بخش كوچكی از خصوصیات و ویژگی های شبكه های عصبی بیولوژیك را شبیه سازی كنند. در حقیقت، از دید یك مهندس نرم افزار، هدف از ایجاد یك شبكه عصبی نرم افزاری، بیش از آنكه شبیه سازی مغز انسان باشد، ایجاد مكانیسم دیگری برای حل مسائل مهندسی با الهام از الگوی رفتاری شبكه های بیولوژیك است. به طور خلاصه، یك نرون بیولوژیك، پس از دریافت سیگنال های ورودی (به شكل یك پالس الكتریكی) از سلول های دیگر، آن سیگنال ها را با یكدیگر تركیب كرده و پس از انجام یك عمل (operation) دیگر بر روی سیگنال تركیبی، آن را به صورت خروجی ظاهر می سازد.

اسلاید 41: شباهت مغز انسان با شبکه های عصبی:البته تحقیقات جدید نمایانگر این واقعیت هستند كه نرون های بیولوژیك بسیار پیچیده تر از مدل ساده ای هستند كه در بالا تشریح شد. اما همین مدل ساده می تواند زیربنای مستحكمی برای دانش شبكه های عصبی مصنوعی (Artificial Neural Network = ANN) تلقی گردد و متخصصان گرایش شبكه های عصبی یا هوش مصنوعی می توانند با پیگیری كارهای دانشمندان علوم زیست شناسی، به بنیان گذاری ساختار های مناسب تری در آینده دست بزنند

اسلاید 42: شباهت مغز انسان با شبکه های عصبی:

اسلاید 43: مغز چگونه کار میکند؟هر نرون از نرونهای دیگری ورودی دریافت میکند برخی نرونها به سلولهای گیرنده متصل هستند.نرونها با ارسال سیگنالهای الکتریکی با یکدیگر ارتباط برقرار میکنند.اثر هر ورودی به وزن ارتباط سیناپسی بستگی دارد.این وزنها به صورت افقی تغییر می یابند تا کل شبکه محاسبات را بدرستی انجام دهند.

اسلاید 44: مغز چگونه کار میکند؟هر بخش از قشر مغز وظیفه ای خاص دارد.-آسیب به هر بخش از مغز یک انسان بالغ باعث تاثیرات خاصی میشود.-در صورت انجام فعالیتهای خاص جریان خون در بخشی از بخشها افزایش می یابد.بخشهای مختلف قشر مغز بسیار شبیه به هم هستند.-در صورتیکه بخشی از آن آسیب ببیند بخش دیگر میتواند عهده دار وظایف آن بخش شود در واقع به نظر میرسد همه ی بخشها از یک شیوه ی یادگیری استفاده می کنند.

اسلاید 45: تقسیم بندی شبکه‌های عصبی بر مبنای آموزشوزن ثابت: آموزشی در کار نیست و مقادیر وزن‌ها به هنگام نمی‌شود. کاربرد: بهینه سازی اطلاعات (کاهش حجم، تفکیک پذیری و فشرده سازی) و حافظه‌های تناظریآموزش بدون سرپرست: وزن‌ها فقط بر اساس ورودی‌ها اصلاح می‌شوند و خروجی مطلوب وجود ندارد تا با مقایسه خروجی شبکه با آن و تعیین مقدار خطا وزن‌ها اصلاح شود. وزن‌ها فقط بر اساس اطلاعات الگوهای ورودی به هنگام می‌شوند.

اسلاید 46: آموزش با سرپرست: به ازای هر دسته از الگوهای ورودی خروجی‌های متناظر نیز به شبکه نشان داده می‌شود و تغییر وزن‌ها تا موقعی صورت می‌گیرد که اختلاف خروجی شبکه به ازای الگوهای آموزشی از خروجی‌های مطلوب در حد خطای قابل قبولی باشد. چنین شبکه‌ای به طور گسترده برای کارهای تشخیص الگو به کار گرفته می‌شود.آموزش تقویتی: کیفیت عملکرد سامانه به صورت گام به گام نسبت به زمان بهبود می‌یابد. الگوهای آموزشی وجود ندارد اما با استفاده از سیگنالی به نام نقاد بیانی از خوب و یا بد بودن رفتار سامانه بدست می‌آید (حالتی بین یادگیری با سرپرست و بدون سرپرست).

اسلاید 47: توپولوژی شبکهوضعیت نسبی سلولها در شبکه(تعداد و گروه بندی و نوع اتصالات آنها)را توپولوژی شبکه گویند.توپولوژی در واقع سیستم اتصال سخت افزار نورونها به یکدیگر است که توام با نرم افزار مربوطه (یعنی روش ریاضی جریان اطلاعات و محاسبه ی وزنها)نوع عملکرد شبکه ی عصبی را تعیین می کند.در این توپولوژی یک لایه ی ورودی وجود دارد که اطلاعات را دریافت می کند،تعدادی لایه ی مخفی وجود دارد که اطلاعات را از لایه های قبلی می گیرند و در نهایت یک لایه ی خروجی وجود دارد که نتیجه ی محاسبات به آنجا میرود و جوابها در آن قرار میگیرند.

اسلاید 48: شبکه های عصبی چند لایه یا MLPx0=1x1x2y0=1y1y2y3InputLayer 1HiddenLayer 2Output

اسلاید 49: كار با هر شبکه عصبی شامل سه مرحله می باشد: آموزش، تعمیم و اجرا. 1.در مرحله آموزش، شبکه الگوهای موجود در داده هاي ورودي را یاد می گیرد. هر شبکه عصبی برای یادگیری از قانون خاص استفاده می کند. 2. تعمیم، قدرت شبکه عصبی در ایجاد پاسخ های قابل قبول برای ورودی هایی است که عضو مجموعه آموزشی نبوده اند. 3. در مرحله اجرا نیز شبکه عصبی برای عملکردی که به آن منظور طراحی گردیده است، استفاده می شود. الگو های داده های ورودیمراحل کار با شبکه عصبیاجراآموزشتعمیمپاسخ برای ورودی های مجهول

اسلاید 50: نرم افزارهای شبکه های عصبینرم افزارهایی برای شبیه سازی ،مطالعه و تحقیق سیستمهای عصبی زیستی و گسترش شبکه های عصبی مصنوعی وAdaptive system ها .شبیه سازها: نرم افزارهایی برای شبیه سازی رفتار شبکه های عصبی زیستی و مصنوعی که به صورت مستقل عمل می کنند و قادرند فرآیند آموزش شبکه ی عصبی را به شکل تصویری نمایش دهند.شبیه سازهای تحقیقاتی :برای مطالعه ی الگوریتم ها و ساختارهای شبکه ی عصبی که به فهم بهتر رفتارها و خصوصیات شبکه ی عصبی کمک می کنند.(مطالعه ی ویژگی های شیمیایی و زیستی بافتهای عصبی و پالس های الکترومغناطیسی بین نورونها).رایجترین شبیه سازهای ANN ها :SNNS(stuttgart neural network simulator),PDP++(parallel distribution processing),JavaNNSرایجترین شبیه سازهای شبکه های زیستی:XNBC,BNN ToolBox

اسلاید 51: نرم افزارهای شبکه های عصبیشبیه سازهای آنالیز داده :علی رغم دسته ی اول ،کاربردهای عملی شبکه های عصبی را مطالعه می کنند.استفا ده از آنها نسبتا ساده است در عوض تواناییهاشان محدود است . بر روی Data miningوپیش بینی ها کار می کنند.بعضی از آنها عبارتند از:Microsoft Excel,MatlabDevelopment Environment ها:برای گسترش و آرایش شبکه های عصبی به کار می روند.رایج ترین نرم افزارهای این دسته عبارتند از:MathWorks NN ToolBox,GBlearn2

اسلاید 52: مقایسه ی مدل سازی کلاسیک و مدل سازی شبکه ی عصبیمدل سازی کلاسیک:این مدل از نخستین قدم خطای بزرگی مرتکب می شود که فقط در سیستمهای ساده (خطی یا نزدیک به خطی )قابل صرفنظر است و آن محاسبه ی شاخصهای تمایل به مرکز و پراکندگی است که به این ترتیب راهمیت فردی تک تک داده ها از بین می رود و در نتیجه سیستم قادر به کشف پیچیدگی ها نخواهد بود.مدل سازی شبکه ی عصبی :در این مدل هر یک از کانالهای ورودی دارای یک ضریب عددی هستند که وزن سیناپسی نامیده می شود.شدت تحریک الکتریکی در این ضریب ضرب می شود و به جسم سلولی می رسد.اگر مجموع تحریکات وارد به جسم سلولی به حد آستانه ی خاصی رسیده باشد،نورون شلیک می کند و در مسیرهای خروجی جریان الکتریکی ثابتی را ایجاد می کند.تحریکات لایه ی ورودی به یک یا چند لایه ی واسط می رود .ادامه ی جریان تحریکات در این لایه ها طوری هدایت میشود که پیچیدگیهای تاثیرات جریان ورودی را شبیه سازی می کند .سپس تحریکات به لایه ی خروجی می روند که هدف نهایی ماست.

اسلاید 53: مدل سازی شبکه ی عصبی(ادامه...)اگر هدف پیشگویی کمی باشد ،مجموع تحریکات آخرین عصب خروجی ،آن عدد خواهد بود.اگر هدف طبقه بندی باشد ،فعالیت یا عدم فعالیت (on یا off بودن)نورونهای لایه ی آخر نمایانگر این امر خواهد بود .مثلا شلیک نورون خروجی(فعال بودن آن)نشانگر حضور بیماری و خاموش بودن آن نشانه ی سلامتی است.سیستم شبکه ی عصبی در فرآیند یادگیری طوری وزنهای سیناپسی را تغییر می دهد که بتواند با هر سری تحریکات ورودی (یعنی داده های هر نمونه)جریان خروجی مناسب(پاسخ R)را تولید کند.چگونگی ریاضی این تغییر وزنها ظریفترین بخش مکانیسم عملکرد شبکه است.

اسلاید 54: تجزیه و تحلیل داده ها توسط ANN ها شبکه ی عصبی مدتی ”فکر“ می کند،داده های موجود را ”تجزیه و تحلیل“ می کند،روابط پیچیده ی بین پارامترها را ”کشف“ کرده و جوابی با دقت قابل قبول ارائه می دهد.در اینجا هیچ خبری از تستهای پیچیده ی آماری نیست.

اسلاید 55: ایده ی اصلی عملکرد شبکه های عصبی مصنوعی هر گره دارای دو وضعيت فعال و غيرفعال است(صفر يا يك) و هر يال نيز دارای يك وزن می‌باشد يال‌های با وزن مثبت بين دو گره تا گره فعال ديگری را تحريك می‌كنند و يال‌های با وزن منفی بين دو گره، گره فعال ديگری را غير فعال می‌سازند.    نحوه عملكرد شبكه بدين صورت است كه ابتدا يك گره به تصادف انتخاب می‌شود. اگر يك يا بيشتر از همسايه‌های آن گره فعال بودند جمع وزن‌دار يال‌های منتهی به آن گره‌ها حساب می‌شود. اگر اين جمع مثبت بود گره فعال می‌شود و در غير اين صورت گره مذكور غيرفعال باقی خواهد ماند. سپس مجددا يك گره ديگر به تصادف انتخاب شده و همين عمليات آنقدر تكرار می‌شود تا شبكه به يك حالت پايدار برسد. تز اصلی هاپفيلد : از هر حالت ابتدايی و با هر وزنی از يال‌ها كه شروع كنيم، شبكه در نهايت به حالت پايدار خواهد رسيد.

اسلاید 56: جمع بندی:شبکه های عصبی ابزاری نیرومند و انعطاف پذیر برای داده کاوی می باشند. شبکه های عصبی، سودمندی خود را در بسیاری از صنایع و کاربرد ها به اثبات رسانده اند و در حوزه های پیچیده ای نتیجه بخش بوده اند، حوزه هایی نظیر تحلیل سری های زمانی و تشخیص تقلب که سایر تکنیک ها نمی توانند به سادگی به حل مسائل موجود در آنها بپردازند. بزرگترین شبکه عصبی که تا به حال مورد استفاده قرار گرفته است، احتمالاً سیستمی می باشد که AT&T برای خواندن اعداد روی چک ابداع کرده است. این شبکه عصبی، صدها هزار واحد ساختاری دارد که در هفت لایه سازمان یافته اند.