هندسة العمق.

D4 · التعلّم العميق

الشبكة العميقة ترتّب خلاياها بحيث تعمل كل واحدة على ما وجدته سابقتها. هذا الفصل هندسي. الطبقة تمدّ الفضاء وتثنيه، ودالّة ReLU تطويه، والطيّات تتراكب: طبقتان من عشر وحدات تقطعان المستوي إلى قطع أكثر بكثير مما تقطعه طبقة واحدة من عشرين. سترى طبقة خفية واحدة تُثبت أن العرض وحده يكفي، ثم ترى ثمن ذلك البرهان، وهو سبب امتناع الجميع عن دفعه. ثم الآلة التي تجعل العمق قابلًا للتدريب: من أين تبدأ الأوزان، ولماذا تُثبّت التسوية (Normalization) الكومة، وما ثمن الإسقاط (Dropout) حقًا، ولماذا نقلت وصلةٌ متبقّية واحدة الشبكات من عشرين طبقة إلى مئة واثنتين وخمسين. وستدرّب شبكة متعدّدة الطبقات (MLP) على هلالين متشابكين، وتقرأ منحنياتها، وتقرّر متى تتوقّف. وآخر المحطات هو الهبوط المزدوج (Double Descent)،…