مقدمه‌

سلام!

قالب کوئرا کالج

سیستم امتیازدهی و دریافت گواهی

آماده‌سازی محیط کار

محیط مجازی و کتابخانه‌های پایتون

VS Code

نگاه کلی بر یادگیری عمیق

اهداف فصل

یادگیری عمیق چیست؟

کاربرد یادگیری عمیق در صنعت

گذری بر تاریخ (علم اعصاب)

گذری بر تاریخ (شبکه‌ی عصبی مصنوعی و یادگیری عمیق)

ساختار نورون‌ها

شرایط نظارتی

کوییز

دست‌گرمی

مدیریت داده

منابع داده

مجموعه‌داده‌

برچسب‌گذاری داده‌ها

نسخه‌بندی داده‌

اکتشاف و پیش‌پردازش داده‌ها ۱

اکتشاف و پیش‌پردازش داده‌ها ۲

دوچرخه‌سواران

خونه چند؟

شبکه‌های عصبی کم‌عمق

نورون واحد

نزول گرادیان

تابع فعال‌ساز

شبکه‌ی کم‌عمق

کم‌عمق بازی

چقدر درس بخونم؟

شبکه‌های عصبی عمیق

شبکه چندلایه

انتشار رو به جلو و عقب

فریم‌ورک‌های یادگیری عمیق

مقدمه کراس

مدل ترتیبی کراس

مدل تابعی کراس

پیاده‌سازی عملی (تایتانیک) ۱

پیاده‌سازی عملی (تایتانیک) ۲

خونه جدید؟

بهینه‌سازی و هایپرپارامترها

ارزیابی مسائل رگرسیون

ارزیابی مسائل دسته‌بندی ۱

ارزیابی مسائل دسته‌بندی ۲

کوییز ۱

تابع زیان

بهینه‌سازها

بایاس و واریانس

کوییز ۲

رگولاریزیشن

حذف تصادفی

دروازه‌بان

بهینه‌سازی و هایپرپارامترها ۲

نرخ یادگیری

زمان‌بندی نرخ یادگیری

کال‌بک کراس

محوشدگی و انفجار گرادیان

کوییز ۳

مقداردهی اولیه‌ی پارامترها

اشباع در توابع فعال‌ساز

نرمال‌سازی دسته‌ای و لایه‌ای

تنظیم هایپرپارامترها

کوییز ۴

پیاده‌سازی عملی: صفر تا اجرا (بخش اول - تحلیل و پیش‌پردازش داده‌ها)

پیاده‌سازی عملی: صفر تا اجرا (بخش دوم - طراحی و یافتن بهترین پارامترها)

پیاده‌سازی عملی: صفر تا اجرا (بخش سوم ارزیابی مدل)

پروژه ۱

سفر نمی‌روم دگر!

رضایت مسافران

شبکه‌های عصبی کانولوشنی

کانولوشن چیست؟

لایه‌ی کانولوشنی

Padding و Stride

لایه‌ی Pooling

ساختار کلاسیک CNNها

خواندن تصویر در کراس

پیاده‌سازی با کراس

تقویت داده‌های تصویری

انتقال یادگیری

هنرمند

پیاده‌سازی عملی: قطعه‌بندی

پیاده‌سازی عملی: قطعه‌بندی ۲

پیاده‌سازی عملی: قطعه‌بندی ۳

گربه‌ یا سگ؟ مسئله این است!

پروژه ۲

دسته‌یاب تصویر

مدل‌های دنباله‌ای

شبکه‌های عصبی بازگشتی

انواع شبکه‌های بازگشتی

پیاده‌سازی در کراس

حافظه‌ی طولانی کوتاه‌مدت

واحد بازگشتی دروازه‌ای

پیاده‌سازی و مقایسه انواع مدل‌های دنباله‌ای

پیاده‌سازی عملی ساخت جز

قدم نو رسیده!

پروژه ۳

بازنمایی متن در کراس

لایه‌ی تعبیه در کراس

چی بخریم؟

دسته‌یاب متن

تنسورفلو

تنسور و متغیر

مشتق‌گیری خودکار

اپلای

ساخت مدل

آموزش شبکه

اجرای بی‌تابانه و اجرای گرافی

پیش‌بینی و ارزیابی

«خونه جدید؟» سطح پایین

پای‌تورچ

تنسور

تنسور‌ بازی

مجموعه‌داده و بارگیری آن

پالایش

بهینه‌سازی پارامترها

ذخیره‌سازی و بارگیری مدل

احساسات با پایتورچ

استقرار مدل

ساخت نمونه‌‌اولیه‌

پیش‌بینی دسته‌ای

مدل به‌عنوان سرویس

یادگیری مستمر

ارزیابی پس از بازآموزی

رصد یا مانیتور

مطالعه‌ی بیشتر

تنسور بورد (TensorBoard)

خودرمزگذار

قبل از آن‌که به سراغ درسنامه‌ها و تمرین‌های دوره بروید، لازم است تا محیطی را برای کد زدن آماده کنید. برای دست‌یافتن به چنین محیطی می‌توانید از پلتفرم‌های آنلاین که این محیط را برای شما آماده می‌سازند، استفاده کنید و یا این‌که نیازمندی‌های لازم را نصب کرده و محیط مناسب را روی کامپیوتر خود بسازید. در ادامه‌ی این درسنامه یکی از معروف‌ترین پلتفرم‌های آنلاین به نام گوگل‌کولب را معرفی می‌کنیم و همچنین در دو درسنامه‌ی بعدی، برای کسانی که می‌خواهند محیط گفته شده را روی کامپیوتر خودشان داشته باشند، محتوای مناسب را قرار داده‌ایم. با توجه به این‌که در این دوره، برای اجرای کد‌های مربوط به تمرین‌ها و پروژه‌ها نیازمند محاسبات سنگین هستیم، **اکیداً** پیشنهاد می‌شود که از **گوگل‌کولب** استفاده نمایید.

## گوگل‌کولب

**گوگل‌کولب *(Google Colab)*** یا به اختصار *کولب* پلتفرمی برای کار با فایل‌های نت‌بوک است که از محبوبیت زیادی میان جامعه‌ی هوش مصنوعی برخوردار است. در واقع می‌توان آن را یک نمونه‌‎ی موفق از پیاده‌سازی ژوپیتر (محیطی برای اجرای نوت‌بوک‌ها) در بستر وب دانست. در این درسنامه به مرور بعضی امکانات و ويژگی‌های کولب می‌پردازیم. به بیان سازندگانش، کولب در اولین مواجهه جایی‌ست که به شما اجازه می‌دهد با کمترین نیازمندی برای آماده‌سازی محیط، در مرورگرتان کد پایتون اجرا کنید؛ به *GPU* (پردازشگر‌های خاص منظور جهت انجام سریع‌تر محاسبات شبکه‌های عصبی و یادگیری ماشین) دسترسی داشته باشید و بتوانید به‌آسانی کارتان را با دیگران به اشتراک بگذارید.

| ![](/qbox/download/APRMIrJYnl/colab.png) |
| :---: |
| همان‌طور که می‌بینید محیط کولب شباهت بسیاری به ژوپیتر دارد و این شباهت تنها به‌ظاهر خلاصه نمی‌شود. |

در کولب می‌توانید مانند ژوپیتر کد‌های قابل اجرا به همراه متن و عکس و کد *HTML* و *LaTeX* را در یک نت‌بوک کنار هم داشته باشید. علاوه بر امکانات مشابه ژوپیتر، هنگامی‌که در کولب یک نت‌بوک می‌سازید بلافاصله در فضای ذخیره‌سازی ابری حساب کاربری گوگل شما (گوگل درایو) ذخیره خواهد شد، بنابراین می‌توانید به‌سادگی آن را با دوستان و همکاران خود به اشتراک گذاشته و از کامنت‌های آن‌ها بر کارتان بهره ببرید. همچنین مانند دیگر مدارک گوگل می‌توانید سطح دسترسی (ویرایش، کامنت‌گذاری و مشاهده‌) برای مخاطبین مختلف تعیین کنید. در این محیط علاوه بر آن‌که می‌توانید مستقیماً نت‌بوک جدید یا سلول کد جدید بسازید و در آن کد بزنید، می‌توانید آن را از رایانه شخصی خود یا منابع اینترنتی مانند گیت و... بارگذاری کنید. در [اینجا](https://colab.research.google.com/notebooks/basic_features_overview.ipynb) می‌توانید بیشتر با محیط گوگل‌کولب آشنا شوید. توجه کنید که برای استفاده از کولب، به یک اکانت گوگل نیاز دارید. آموزش ساخت اکانت گوگل را از [اینجا](https://support.google.com/accounts/answer/27441?hl=en) ببینید.

گوگل منابع نسبتاً قدرتمندی در اختیار کاربران قرار می‌دهد و برای اجرای عملیات سنگین می‌توان از آن استفاده کرد. *CPU،* هارد، رم، *GPU* و *TPU* از منابعی است که در کولب می‌توان از آنها استفاده کرد. برای استفاده از *GPU* یا *TPU* باید از تنظیمات کولب، آنها را فعال کنید (*TPU* یا *Tensor Processing Unit* سخت‌افزاری است شبیه به *GPU* است که گوگل در زیرساخت‌های خود از آن استفاده می‌کند و بیشتر توسط کتابخانه‌ی *TensorFlow* برای امور یادگیری ماشین مورد استفاده قرار می‌گیرد).

به‌طور پیش‌فرض کتابخانه‌های محبوب بسیاری روی کولب نصب هستند و در صورت نیاز می‌توان کتابخانه‌های مورد نیاز دیگر را با دستور `!pip install` روی کولب نصب کرد. گاهی لازم است تا آزمایش‌ها و عملیات یادگیری و محاسبات روی داده‌های بسیار حجیم انجام شود، اما دانلود و آپلود این داده‌ها با وضعیت اینترنت ما (🙄) زمان‌بر یا ناممکن خواهد بود. با کولب می‌توان این داده‌ها را مستقیماً از بستر اینترنت به کولب وارد کرد.

امکانات و مزایایی که ذکر شد مربوط به نسخه‌ی رایگان گوگل‌کولب بود. این امکانات تمام آن چیزی نیست که گوگل می‌تواند در اختیار کاربران قرار دهد. در نسخه‌ی پولی کولب منابع قدرتمندتری با محدوده فعالیت بیشتری در اختیار شما قرار می‌دهد. از معایب کولب می‌توان به این مورد اشاره کرد که هر بار فایلی در کولب (در کنار نت‌بوک) آپلود یا ساخته می‌شود، پس از مدتی ممکن است توسط کولب پاک شود یا نیاز باشد دسترسی به درایو برای خواندن آن فایل تمدید شود. حواس‌تان باشد که حافظه‌ی کولب، حافظه‌ای موقت است. در کولب از محیط مجازی ثابت هم خبری نیست و اگر پروژه‌ی شما نیازمندی خاصی دارد هر بار باید کتابخانه‌ها با نسخه‌ی مورد نظر را نصب کرد. در این دوره نیز نسخه‌ای از کتابخانه‌ی کراس (`keras`) که استفاده خواهیم کرد کراس ۳ می‌باشد ولی در حال حاضر نسخه پیش‌فرض آن در گوگل‌کولب کراس ۲ است. بنابراین در هر بار که یک نوت‌بوک در گوگل‌کولب می‌سازید، باید نسخه‌ی آن را به کراس ۳ ارتقا دهید. با اجرای دستور زیر این کار انجام می‌شود:
```
!pip install keras --upgrade
```
## استفاده از کولب در این دوره

برای اجرای نت‌بوک‌های تمرین‌ها و پروژه‌ها، یا نت‌بوک‌های آموزشی،‌ کارهای زیر را انجام می‌دهیم:

1.  ساخت اکانت گوگل (اگر از قبل ندارید)
2.  ورود به سایت کولب در [این آدرس](https://colab.research.google.com/)
3.  آپلود فایل نت‌بوک (و داده‌ها)
4.  ارتقا نسخه‌ی کراس، طبق دستور گفته‌شده در بالا
5.  نصب کتابخانه‌های مورد نیاز که به‌صورت پیش‌فرض روی گوگل‌کولب نصب نیستند
6.  اجرای عملیات دلخواه
7.  در صورت نیاز دانلود فایل نتیجه از کولب (و برای سوالات و پروژه‌ها آپلود آن برای داوری در کوئرا)

جامپ یادگیری عمیق