المرحلة ٢ · متوسط · L4
تدريب نموذج لغوي
لا يسلّم التدريب المسبق النموذج حقيقة واحدة. بل يلتقط الحقائق بنفسه، لأن تخمين الكلمة التالية جيدًا مستحيل من دونها.
١٤ درسًا · ١٤٠ دقيقةمتقدّم
عن هذا الفصل
الهدف جملة واحدة: خمّن الرمز التالي، وادفع ثمن دهشتك. وكل ما يسميه الناس قدرة ينمو من فعل ذلك على نصٍّ كافٍ. يتابع هذا الفصل تجربة تدريب حقيقية من الدفعة الأولى إلى نقطة الحفظ الأخيرة، ثم عبر المراحل التي تحوّل متنبئًا بالنص إلى مساعد. ستراجع تجربة تدريب على فاتورتها، وتقرأ منحنى خسارة ساء مساره، وتخرج قادرًا على النظر في جدول معايير دون أن تنخدع به.
ما ستقدر عليه، درسًا بعد درس
- ١٩ دقائق
خمّن الرمز التالي
تقول ما الذي يُدرَّب عليه نموذج لغوي، ولماذا تجعله هذه المهمة الواحدة يتعلم الحقائق.
- ٢١٠ دقائق
تقييم التخمين
تقرأ خسارة نموذج لغوي حيرةً، وتقول متى لا تصح المقارنة بين حيرتين.
- ٣١٠ دقائق
من أين يأتي النص
تصف خليط تدريب مسبق حقيقيًا وتقول لماذا لا يطابق الخليطُ المخزون.
- ٤١٠ دقائق
تنظيف النص
تقول ما الذي يرميه مرشّح الويب، ولماذا التكرار أسوأ من الرداءة.
- ٥٩ دقائق
النوافذ والدفعات والرصّ
تشرح كيف تصير المستندات المتفرقة مستطيلًا من الرموز يقرؤه النموذج.
- ٦١٠ دقائق
الحلقة على نطاق واسع
تمشي في خطوة تدريب واحدة، وتقول ما الذي يضبط الوقت في تجربة بلا حِقب.
- ٧١٠ دقائق
إحماء ثم تباطؤ
تقرأ جدول معدل التعلم لتجربة حقيقية، وتقول لماذا يحتاج Adam إلى إحماء، ولماذا ابتعدت بعض المختبرات عن جيب التمام.
- ٨١٠ دقائق
أرقام صغيرة وقفزات كبيرة
تقول لماذا يستعمل التدريب تنسيقين للأرقام معًا، وماذا يفعل الفريق حين تقفز الخسارة.
- ٩١٠ دقائق
تقسيم العمل
تميّز بالصورة بين الطرق الثلاث لتقسيم التجربة على شرائح كثيرة.
- ١٠١١ دقيقة
الرموز مقابل المعاملات
تتحقق من تجربة منشورة بقاعدة 6ND، وتقول أي المعاملات تُحسب حين يكون النموذج خليطًا من الخبراء.
- ١١١٠ دقائق
من متنبئ إلى مساعد
تقول ما الذي يغيّره الضبط الدقيق المُشرَف، وما الذي يتركه كما هو تمامًا.
- ١٢١١ دقيقة
التعلّم من التفضيلات
تصف كيف يصير ردّان واختيارٌ بشري درجةً واحدة، ولماذا يلزم رِباط.
- ١٣١٠ دقائق
DPO، والاكتفاء بالأقل
تقارن DPO بـRLHF من حيث الأجزاء المتحركة، وتقول أين تحلّ قواعد مكتوبة محل التسميات البشرية.
- ١٤١٠ دقائق
قراءة جدول المعايير
تذكر ثلاثة أسباب تدعو إلى الحذر من رقم معياري، وتختبر واحدًا منها بنفسك.