پرش به محتوای اصلی
اخبار هوش مصنوعی

آنتروپیک توضیح داد حافظه عامل‌های Claude چطور بازبینی می‌شود

آنتروپیک در پژوهشی تازه نحوه ذخیره، جست‌وجو و اصلاح حافظه عامل‌های Claude و محدودیت‌های این روش را بررسی کرده است.

۴ دقیقه مطالعه
اشتراک‌گذاری:
نمایی از رابط کاربری Claude؛ تصویر آرشیوی
نمایی از رابط کاربری Claude؛ تصویر آرشیوی
فهرست مطالب

آنتروپیک در پژوهشی که ۶ نوامبر ۲۰۲۶ منتشر کرد، توضیح داده است چگونه عامل‌های Claude می‌توانند تجربه‌های پیشین را بین جلسه‌ها نگه دارند و در زمان بیکاری آن‌ها را بازبینی کنند. این فرایند که پژوهشگران آن را «رؤیاپردازی» یا dreaming می‌نامند، برای اصلاح یادداشت‌های نادرست و ساخت نقشه‌ای از اطلاعات آزمایش شده است. این اصطلاح یک تشبیه فنی است و به معنی خوابیدن یا تجربه آگاهانه مدل نیست.

حافظه عامل چطور کار می‌کند؟

آنتروپیک در این تحقیق حافظه را اطلاعاتی تعریف می‌کند که عامل از تعامل‌ها و کارهای قبلی به دست می‌آورد و در قالب محتوایی قابل بازیابی برای جلسه‌های بعد نگه می‌دارد. این نوع حافظه با تغییر وزن‌های مدل و همچنین خلاصه‌سازی برای ادامه یک گفت‌وگوی طولانی تفاوت دارد.

عامل می‌تواند هنگام انجام کار، نکته‌های مهم را در یادداشت‌ها ذخیره کند. سپس فرایند پس‌زمینه به متن تعامل‌ها و یادداشت‌ها رجوع می‌کند تا خطاها را اصلاح کند، نکات مرتبط را کنار هم بگذارد یا صفحه‌های به‌هم‌پیوسته‌ای شبیه ویکی بسازد. بخشی از اطلاعات مهم نیز می‌تواند هنگام شروع جلسه بعد به زمینه عامل اضافه شود.

این پژوهش درباره طراحی حافظه عامل‌هاست و نباید همه نتایج آن را به قابلیت‌های در دسترس هر حساب Claude تعمیم داد. برای آشنایی با فضای کاری و اطلاعات پروژه‌ها، آموزش ساخت Project در کلود در فناوری کده را ببینید.

آزمایش حافظه در یک مسئله پایگاه داده

در یکی از ارزیابی‌ها، آنتروپیک از بخشی از آزمون CL-Bench 1.0 استفاده کرد. مدل باید در جلسه‌های جداگانه به پرسش‌های مربوط به یک پایگاه داده پاسخ می‌داد؛ پس از هر پاسخ، جواب درست را دریافت می‌کرد و امکان نوشتن یادداشت برای پرسش‌های بعدی داشت.

طبق نمودار آنتروپیک، میانگین امتیاز Claude Opus 5.5 در این مسئله از ۰٫۶۵۵ بدون حافظه به ۰٫۸۳۸ با حافظه رسید. این اعداد امتیاز همان آزمایش هستند و نباید آن‌ها را به درصد بهبود همه کاربردهای Claude تعمیم داد. محققان همچنین مشاهده کردند که بعضی مدل‌ها در ذخیره فرضیه‌های آزمون‌نشده یا انتخاب اطلاعات مهم ضعف دارند.

بازبینی بعدی چه فایده‌ای داشت؟

در یک نمونه از بازی Pokémon Red، عامل موقعیت یک نقطه مهم را اشتباه در حافظه نوشته بود. آنتروپیک می‌گوید عامل در بازبینی بعدی، یادداشت را با متن تعامل مقایسه کرد و خطا را اصلاح کرد؛ در اجرای دارای یادداشت اصلاح‌شده، عامل توانست مسیر خود را به شهر بعد ادامه دهد. این مثال یک مشاهده مشخص است و به‌تنهایی نرخ موفقیت عمومی سیستم را ثابت نمی‌کند.

محققان ساخت ویکی از مجموعه بزرگی از اسناد را هم آزمودند. در یک مجموعه ۲۵ پرسشی، بهترین نسخه ویکی همراه با ابزار جست‌وجو ۶۱ درصد از معیارهای ارزیابی را برآورده کرد؛ نتیجه جست‌وجوی تنها ۵۳ درصد بود. آنتروپیک در عین حال نشان داد که ویکی در بعضی کارها مزیت روشنی نداشت و حتی ممکن بود بیش از حد بزرگ شود.

محدودیت‌ها و اهمیت برای کاربران

یادداشت نادرست یا قدیمی می‌تواند در جلسه‌های بعد دوباره استفاده شود. بازبینی نیز هزینه محاسباتی دارد و مشخص نیست هر حافظه چه زمانی و چند بار باید کنترل شود. اضافه‌کردن اطلاعات زیاد به ابتدای هر جلسه هم فضا و منابع مصرف می‌کند، بدون آنکه پیروی از همه یادداشت‌ها را تضمین کند.

برای سازندگان عامل‌ها، نتیجه عملی این است که صرف ذخیره بیشتر اطلاعات کافی نیست. انتخاب اطلاعات مفید، امکان رجوع به منبع اصلی و بازبینی یادداشت‌های حساس به تغییر اهمیت دارند. نتایج منتشرشده از آزمایش‌های خود آنتروپیک می‌آیند و برای سنجش تعمیم‌پذیری به ارزیابی‌های مستقل و وظایف متنوع‌تر نیاز است.

جمع‌بندی

پژوهش آنتروپیک نشان می‌دهد حافظه قابل جست‌وجو و بازبینی دوره‌ای می‌توانند در برخی وظایف به عامل کمک کنند از تجربه‌های قبلی استفاده کند. اندازه‌گیری‌های گزارش‌شده محدود به آزمون‌های مشخص‌اند و خطا یا کهنه‌شدن حافظه همچنان مسئله است. برای کاربران، نکته کاربردی این است که اطلاعات مهم و تغییرپذیر را همچنان با منبع اصلی کنترل کنند.

منابع

برچسب‌ها:هوش مصنوعیکلودمدل زبانی بزرگیادگیری ماشین
اشتراک‌گذاری:

مطالب مرتبط

عضویت در خبرنامه

آخرین اخبار هوش مصنوعی و فناوری را در ایمیل خود دریافت کنید.

پس از عضویت یک ایمیل تأیید برایتان ارسال می‌شود. هر زمان می‌توانید اشتراک خود را لغو کنید و ایمیل شما برای هدفی جز ارسال خبرنامه استفاده نمی‌شود. جزئیات در صفحه حریم خصوصی آمده است.