בקורס הזה תלמדו איך ליצור מודל הוספת כיתוב לתמונה באמצעות למידה עמוקה (Deep Learning). אתם תלמדו על הרכיבים השונים במודל הוספת כיתוב לתמונה, כמו המקודד והמפענח, ואיך לאמן את המודל ולהעריך את הביצועים שלו. בסוף הקורס תוכלו ליצור מודלים להוספת כיתוב לתמונה ולהשתמש בהם כדי ליצור כיתובים לתמונות
בקורס הזה נציג את הארכיטקטורה של טרנספורמרים ואת המודל של ייצוגים דו-כיווניים של מקודד מטרנספורמרים (BERT). תלמדו על החלקים השונים בארכיטקטורת הטרנספורמר, כמו מנגנון תשומת הלב, ועל התפקיד שלו בבניית מודל BERT. תלמדו גם על המשימות השונות שאפשר להשתמש ב-BERT כדי לבצע אותן, כמו סיווג טקסטים, מענה על שאלות והֶקֵּשׁ משפה טבעית. נדרשות כ-45 דקות כדי להשלים את הקורס הזה.
בקורס הזה לומדים בקצרה על ארכיטקטורת מקודד-מפענח, ארכיטקטורה עוצמתית ונפוצה ללמידת מכונה שמשתמשים בה במשימות של רצף לרצף, כמו תרגום אוטומטי, סיכום טקסט ומענה לשאלות. תלמדו על החלקים השונים בארכיטקטורת מקודד-מפענח, איך לאמן את המודלים האלה ואיך להשתמש בהם. בהדרכה המפורטת המשלימה בשיעור ה-Lab תקודדו ב-TensorFlow תרחיש שימוש פשוט בארכיטקטורת מקודד-מפענח: כתיבת שיר מאפס.
בקורס נלמד על מנגנון תשומת הלב, שיטה טובה מאוד שמאפשרת לרשתות נוירונים להתמקד בחלקים ספציפיים ברצף הקלט. נלמד איך עובד העיקרון של תשומת הלב, ואיך אפשר להשתמש בו כדי לשפר את הביצועים במגוון משימות של למידת מכונה, כולל תרגום אוטומטי, סיכום טקסט ומענה לשאלות.