عقلانیت، معیار کارایی، خودمختاری و یادگیری در عامل‌ها

خلاصه تدریس استاد در این جلسه

«در این جلسه تمرکز بر این موضوع بود که چه چیزی یک عامل را «عاقل» یا «بهینه» می‌کند. چند مفهوم کلیدی را بررسی کردیم: رفتار خوب (Good Behavior): رفتاری است که باعث موفقیت عامل در رسیدن به هدف‌هایش می‌شود. معیار کارایی (Performance Measure): شاخصی است که با آن میزان موفقیت عامل را می‌سنجیم. این معیار می‌تواند داخلی یا خارجی باشد، اما تأکید کردیم که معیارهای بیرونی (مثلاً رضایت کاربر، کاهش هزینه، افزایش دقت) معمولاً قابل‌اعتمادترند. معیار عقلانیت (Rationality): یک عامل عاقل عاملی است که با توجه به: معیار کارایی‌ای که برایش تعریف شده، دانسته‌های پیشین خود درباره‌ی محیط، دنباله‌ی ادراک‌هایی که تا این لحظه دریافت کرده، و مجموعه‌ی کنش‌های ممکن در وضعیت فعلی، آن کنشی را انتخاب می‌کند که انتظار می‌رود بهترین نتیجه را طبق معیار کارایی بدهد. تأکید شد که: عقلانیت با کمال یا بی‌نقص بودن تفاوت دارد. ممکن است عامل همه‌چیز را نداند، اما با اطلاعات موجود، بهترین تصمیم ممکن را بگیرد. مثال عینی: عبور از خیابان بدون نگاه کردن به دو طرف، حتی اگر به‌طور تصادفی سالم بمانیم، رفتار عاقلانه‌ای نیست؛ چون بر اساس اطلاعات موجود، ریسک بسیار بالا است. سپس مفهوم خودمختاری (Autonomy) را مطرح کردیم: عاملی که فقط بر اساس دانش اولیه‌ی طراح عمل می‌کند و از ادراک‌ها و تجربه‌های جدید چیزی یاد نمی‌گیرد، خودمختاری پایینی دارد. یک عامل خوب باید بتواند با جمع‌آوری اطلاعات و یادگیری از تجربه، دانش خود را به‌روزرسانی کند و تصمیم‌هایش را بهبود دهد، به‌خصوص در محیط‌های ناشناخته که طراح همه‌چیز را از قبل نمی‌داند. مثال‌ها: سوسک با یک سری قواعد غریزی حرکت می‌کند و چندان یاد نمی‌گیرد؛ زنبور رفتاری تکراری دارد (مثلاً کرم را بارها از لانه بیرون می‌برد و دوباره می‌آورد) و الگو را تغییر نمی‌دهد، هرچند در ظاهر پیچیده‌تر به‌نظر می‌رسد؛ انسان به‌دلیل توانایی یادگیری، بازنگری در استراتژی‌ها و اصلاح خطاها، سطح بالاتری از خودمختاری و عقلانیت را نشان می‌دهد. نتیجه‌ی این جلسه: برای ساختن یک عامل هوشمند در هوش مصنوعی، باید علاوه بر تعریف تابع عامل، به معیار کارایی، منبع دانش، میزان خودمختاری و سازوکار یادگیری توجه ویژه‌ای داشته باشیم.»