المادة المظلمة في الذكاء الاصطناعي.
D8 · التفسير الآلي للنماذج
نستطيع قراءة كل وزن في النموذج ومع ذلك لا نعرف ماذا يفعل. يحاول التفسير الآلي سدّ هذه الفجوة بإيجاد السمات، ثم الدارات، ثم رواية عن الحساب يمكن اختبارها. يغطي هذا الفصل التراكب (superposition)، وهو سبب أن الخلية الواحدة قد تعني خمسة أشياء في آن واحد، والمرمّزات الذاتية المتفرقة (sparse autoencoders)، وهي أفضل أداة حالية لفصل تلك المعاني. وستعدّل التنشيطات لتبرهن على ادعاء بدل أن تدّعيه، وسترى بوضوح أين ما زال المجال يفشل.
- ما الذي يُعدّ سمة
- الخلايا والسمات والدارات
- الخلية التي تعني خمسة أشياء
- التراكب
- المرمّزات الذاتية المتفرقة
- الاستكشاف بالمصنّفات
- تبديل التنشيطات
- رؤوس الاستقراء
- خرائط الإسناد وإخفاقاتها
- ما لا نستطيع قراءته بعد
- لماذا تحتاج السلامة إلى هذا