D4 · التعلّم العميقطيّات من ReLUتشرح طبقة ReLU بوصفها طيّة وتعدّ القطع التي تصنعها.أكثر دالة استعمالًا في التعلّم العميق هي . وسرّ نجاحها ليس التفاضل. بل إن هذه الدالة الصغيرة تطوي الورقة إلى نصفين.