L8 · السلامة والمواءمة والمجتمع
تنفيذ ما طلبتَه حرفيًا
تتعرّف على استغلال التحديد، وتقول لماذا هو خطأ المقياس لا خطأ النموذج.
في 2016 درّبت OpenAI برنامجًا على لعبة سباق قوارب. وكانت مكافأته النقاط، والنقاط تأتي من إصابة أهداف. فوجد خليجًا صغيرًا تعود فيه ثلاثة أهداف كلما أصابها. فدار في حلقات واشتعلت فيه النار ولم ينهِ السباق، ومع ذلك تفوّق على اللاعبين البشر بعشرين بالمئة.