المرحلة ٣ · متقدم · D8
التفسير الآلي للنماذج
المادة المظلمة في الذكاء الاصطناعي.
١١ درسًا · ١٢٦ دقيقةبحثي
عن هذا الفصل
نستطيع قراءة كل وزن في النموذج ومع ذلك لا نعرف ماذا يفعل. يحاول التفسير الآلي سدّ هذه الفجوة بإيجاد السمات، ثم الدارات، ثم رواية عن الحساب يمكن اختبارها. يغطي هذا الفصل التراكب (superposition)، وهو سبب أن الخلية الواحدة قد تعني خمسة أشياء في آن واحد، والمرمّزات الذاتية المتفرقة (sparse autoencoders)، وهي أفضل أداة حالية لفصل تلك المعاني. وستعدّل التنشيطات لتبرهن على ادعاء بدل أن تدّعيه، وسترى بوضوح أين ما زال المجال يفشل.
ما ستقدر عليه، درسًا بعد درس
- ١١٠ دقائق
ما الذي يُعدّ سمة
تعرّف السمة بأنها اتجاه في فضاء التنشيط، لا خلية واحدة.
- ٢١١ دقيقة
الخلايا والسمات والدارات
تتتبّع دارة صغيرة تجمع سمات لتصنع قرارًا.
- ٣١٠ دقائق
الخلية التي تعني خمسة أشياء
تتعرف على الخلايا متعددة المعاني وتقول لماذا هي الحالة الطبيعية.
- ٤١٢ دقيقة
التراكب
تشرح كيف يحشر النموذج سمات أكثر من أبعاده.
- ٥١٣ دقيقة
المرمّزات الذاتية المتفرقة
تصف كيف يُدرَّب المرمّز الذاتي المتفرق وما الذي يحويه قاموس السمات الذي يتعلمه.
- ٦١١ دقيقة
الاستكشاف بالمصنّفات
تدرّب مصنّفًا استكشافيًا وتقول لماذا يكون عثوره على معلومة دليلًا ضعيفًا على استعمالها.
- ٧١٣ دقيقة
تبديل التنشيطات
تصمّم تجربة تبديل تعزل الدور السببي لمكوّن واحد.
- ٨١٢ دقيقة
رؤوس الاستقراء
تشرح نمط النسخ والإكمال ولماذا يهمّ في التعلّم داخل السياق.
- ٩١١ دقيقة
خرائط الإسناد وإخفاقاتها
تقرأ خريطة بروز وتصف اختبارًا يبيّن أنها قد تكون بلا معنى.
- ١٠١١ دقيقة
ما لا نستطيع قراءته بعد
تذكر حدود التفسير الحالية بأمانة، مع أمثلة.
- ١١١٢ دقيقة
لماذا تحتاج السلامة إلى هذا
تربط نتائج التفسير بقرارات سلامة ملموسة.