پرش به محتوای اصلی
اخبار هوش مصنوعی

Model Spec جدید OpenAI چیست؟ پنج ارزش تازه برای رفتار GPT

اوپن‌ای‌آی دستورالعمل رفتار مدل‌هایش، Model Spec، را دور پنج ارزش بازنویسی کرد؛ از فهم خواستهٔ واقعی کاربر و استفاده از حافظه تا بی‌طرفی و کنار گذاشتن قواعد سبک. ساده توضیح می‌دهیم چه عوض شد و برای کاربر ChatGPT چه معنایی دارد.

۱۳ دقیقه مطالعه
اشتراک‌گذاری:
تصویر رسمی اوپن‌ای‌آی برای اطلاعیهٔ به‌روزرسانی Model Spec و پنج ارزش تازهٔ رفتار مدل‌ها
تصویر رسمی اوپن‌ای‌آی برای اطلاعیهٔ به‌روزرسانی Model Spec و پنج ارزش تازهٔ رفتار مدل‌ها
فهرست مطالب

اوپن‌ای‌آی پنجشنبه ۷ آبان ۱۴۰۵ (۲۹ اکتبر ۲۰۲۶) نسخهٔ تازه‌ای از Model Spec را منتشر کرد؛ سندی عمومی که می‌گوید مدل‌های این شرکت، از جمله ChatGPT، قرار است چطور فکر و رفتار کنند. جواب کوتاه این است: قواعد رفتاری حالا دور پنج ارزش اصلی چیده شده‌اند؛ وفاداری به خواستهٔ واقعی آدم‌ها، کم کردن آسیب، صداقت و شفافیت، تقویت اختیار انسان و توجه و مراقبت.

تغییر مهم‌تر از خود فهرست، طرز فکر پشت آن است. اوپن‌ای‌آی می‌گوید مدل‌ها دیگر نباید فقط کلمه‌به‌کلمه دستور را اجرا کنند؛ باید بفهمند آدم واقعاً چه می‌خواهد و در موقعیت‌هایی که دستور روشنی ندارند، درست قضاوت کنند. در این نسخه بخش‌های تازه‌ای دربارهٔ حافظه و سابقهٔ گفتگو، احترام به تصمیم خود کاربر و آداب اجتماعی اضافه شده، بیشتر قواعد ریز «سبک نوشتن» حذف شده و مدل در متن سند به جای «دستیار»، «GPT» نامیده می‌شود. در ادامه با زبان ساده توضیح می‌دهیم این سند چیست، چه چیزی در آن عوض شده و برای کاربر معمولی چه فرقی می‌کند.

خلاصهٔ خبر در چند خط

  • چه اتفاقی افتاد؟ اوپن‌ای‌آی ۲۹ اکتبر ۲۰۲۶ نسخهٔ به‌روزشدهٔ Model Spec، یعنی «دستورالعمل رفتار مدل»، را منتشر کرد.

  • پنج ارزش اصلی: وفاداری به خواستهٔ انسان، کم کردن آسیب، صداقت و شفافیت، تقویت اختیار انسان، و مراقبت.

  • بخش‌های تازه: استفادهٔ درست از زمینهٔ گفتگو و حافظه، حمایت از اختیار کاربر، پیروی از هنجارهای اجتماعی و توضیح بیشتر دربارهٔ «عوارض جانبی» کارهایی که مدل انجام می‌دهد.

  • حذف‌شده‌ها: بیشتر راهنمایی‌های جزئی دربارهٔ سبک و لحن نوشتن.

  • اعتراف مهم: خود اوپن‌ای‌آی می‌گوید مدل‌هایش هنوز کاملاً مطابق این سند رفتار نمی‌کنند.

اول یک مقدمهٔ ساده: Model Spec اصلاً چیست؟

فرض کنید یک شرکت برای کارمندان تازه‌اش دفترچه‌ای بنویسد: با مشتری چطور حرف بزنید، چه کارهایی ممنوع است، اگر دو مدیر دستور متفاوت دادند حرف کدام را گوش کنید. Model Spec همین دفترچه است، اما برای مدل‌های هوش مصنوعی اوپن‌ای‌آی. این سند توضیح می‌دهد مدل‌هایی که پشت ChatGPT و سرویس برنامه‌نویسی (API) این شرکت کار می‌کنند، قرار است در موقعیت‌های مختلف چه رفتاری داشته باشند.

اوپن‌ای‌آی نخستین نسخهٔ این سند را اردیبهشت ۱۴۰۳ (مه ۲۰۲۴) منتشر کرد و از آن زمان چند بار به‌روزش کرده است. متن کامل آن روی وب‌سایت و گیت‌هاب شرکت در دسترس است و در «مالکیت عمومی» قرار دارد؛ یعنی هر کسی، حتی شرکت‌های رقیب، می‌تواند آزادانه از آن استفاده کند.

فرقش با قوانین استفاده چیست؟

اوپن‌ای‌آی دو جور سند دارد. «سیاست‌های استفاده» می‌گوید کاربران مجاز به چه کارهایی با ChatGPT و API هستند. اما Model Spec می‌گوید خود مدل باید چطور رفتار کند. اولی قانونی برای آدم‌هاست، دومی دفترچهٔ رفتار ماشین.

آیا ChatGPT همین حالا دقیقاً همین‌طور رفتار می‌کند؟

نه لزوماً. Model Spec توصیف رفتاری است که شرکت «به سمتش حرکت می‌کند». اوپن‌ای‌آی در همین اطلاعیه صریحاً نوشته مدل‌هایش هنوز کاملاً با این سند هماهنگ نیستند و آموزش مدل‌ها برای نزدیک شدن به آن ادامه دارد.

پنج ارزش تازه؛ ستون‌های نسخهٔ جدید

به گفتهٔ اوپن‌ای‌آی، این پنج ارزش چیز کاملاً تازه‌ای نیستند و قبلاً هم لابه‌لای سند پخش بودند. کار اصلی این نسخه این است که آن‌ها را کنار هم گذاشته و کل قواعد را دور آن‌ها مرتب کرده است تا معلوم باشد هر قانون «چرا» وجود دارد.

۱. وفاداری به خواستهٔ انسان

این ارزش پایهٔ بقیه است. یعنی مدل به جای اجرای خشک و لفظی دستور، تلاش کند بفهمد اوپن‌ای‌آی، توسعه‌دهنده و کاربر واقعاً چه می‌خواهند و وقتی مطمئن نیست، عاقلانه رفتار کند. مثال خود اوپن‌ای‌آی ساده است: اگر کسی برای مقایسهٔ دو پیشنهاد کاری کمک بخواهد، مدل می‌تواند اولویت‌هایی را که او قبلاً گفته، مثلاً «ساعت کاری قابل پیش‌بینی»، در نظر بگیرد؛ اما باید این فرض را آشکارا بگوید تا کاربر بتواند راحت اصلاحش کند.

۲. کم کردن آسیب

مدل باید به مرزهای ایمنی سفت‌وسخت پایبند باشد و پیامدهای قابل پیش‌بینی کارهایش را در نظر بگیرد. خط قرمزهایی مثل کمک به ساخت سلاح‌های کشتار جمعی یا سوءاستفاده از کودکان همچنان سر جایشان هستند.

۳. صداقت و شفافیت

مدل باید دربارهٔ اینکه چه می‌داند، چه کاری انجام داده و دربارهٔ چه چیزی مطمئن نیست، راست بگوید تا آدم بتواند استدلال و کارش را بسنجد. بخش‌هایی مثل «دروغ نگو» و «چاپلوسی نکن» زیر همین ارزش قرار گرفته‌اند.

۴. تقویت اختیار انسان

هدف این است که آدم‌ها خودشان بفهمند، خودشان انتخاب کنند و خودشان عمل کنند؛ بدون اینکه مدل پنهانی آن‌ها را به سمتی هل بدهد یا هدف دیگری را جای هدف آن‌ها بگذارد.

۵. مراقبت

یعنی توجه به شرایط همهٔ کسانی که کار مدل رویشان اثر می‌گذارد، رعایت هنجارهای اجتماعی و حرفه‌ای مرتبط و انجام کاری که بشود به آن اعتماد کرد.

پنج ارزش در یک نگاه

ارزش

به زبان ساده یعنی

در عمل چه شکلی دارد؟

وفاداری به خواستهٔ انسان

منظور واقعی را بفهم، نه فقط کلمه‌ها را

استفاده از اولویت‌هایی که کاربر قبلاً گفته، همراه با گفتن آشکار این فرض

کم کردن آسیب

از مرزهای ایمنی رد نشو و عواقب کار را بسنج

رد درخواست‌های خطرناک یا پیشنهاد راه امن‌تر

صداقت و شفافیت

راست بگو و نامطمئن بودنت را پنهان نکن

نگفتن حرف خوشایند به جای حرف درست؛ گفتن محدودیت‌ها

تقویت اختیار انسان

کمک کن آدم خودش تصمیم بگیرد

توضیح بده‌بستان‌های مهم یک تصمیم، بدون فشار یا سرزنش

مراقبت

به آدم‌هایی که از کار اثر می‌گیرند فکر کن

رعایت ادب و هنجارهای حرفه‌ای و کار قابل اعتماد

«زنجیرهٔ فرمان»؛ چه کسی حرف آخر را می‌زند؟

یکی از مفهوم‌های قدیمی و مهم Model Spec «زنجیرهٔ فرمان» (Chain of Command) است و در نسخهٔ جدید به‌روز شده است. منظور ترتیبی است که مدل با آن تصمیم می‌گیرد کدام دستور مقدم است. اوپن‌ای‌آی مرزها را تعیین می‌کند، توسعه‌دهنده‌ای که اپلیکیشنی روی این مدل‌ها ساخته داخل آن مرزها کار را جهت می‌دهد، و کاربر هم در چارچوب همین محدودیت‌ها از مدل کار می‌خواهد.

یک نکتهٔ امنیتی هم در همین بخش آمده: متن صفحه‌های وب، فایل‌ها یا خروجی ابزارها «دادهٔ غیرقابل اعتماد» حساب می‌شوند. اگر مثلاً وسط یک صفحهٔ وب جمله‌ای نوشته شده باشد که به مدل دستور بدهد، مدل به‌طور پیش‌فرض نباید آن را اجرا کند. این موضوع برای عامل‌های هوش مصنوعی، یعنی مدل‌هایی که خودشان در وب می‌گردند و کار انجام می‌دهند، اهمیت زیادی دارد.

قانون‌های سفت و پیش‌فرض‌های قابل تغییر

بیشتر قواعد این سند «پیش‌فرض» هستند؛ یعنی کاربر یا توسعه‌دهنده می‌تواند عوضشان کند. فقط جایی که پای محافظت از آدم‌ها و جامعه در میان است، مرز سفت و غیرقابل تغییر گذاشته شده. بعضی پیش‌فرض‌ها مثل صداقت، بی‌طرفی و چاپلوسی نکردن فقط وقتی کنار می‌روند که کاربر یا توسعه‌دهنده صریحاً بخواهد؛ مدل نباید خودش حدس بزند که کاربر دلش می‌خواهد این‌ها کنار بروند.

بخش‌های تازه: حافظه، اختیار کاربر و آداب اجتماعی

به جز چیدمان تازه، چند بخش جدید هم به سند اضافه شده که بیشترشان مستقیم به تجربهٔ روزمرهٔ کاربر ChatGPT مربوط می‌شوند.

زمینه و حافظه را با دقت به کار بگیر

زیربخش تازه‌ای به اسم «زمینه را با دقت در نظر بگیر» توضیح می‌دهد مدل چطور از گفتگوهای قبلی، حافظه، فایل‌ها و نتیجهٔ ابزارها استفاده کند. مثال سند: اگر کاربر در چند گفتگوی قبلی روی برنامهٔ بازاریابی یک رستوران کار کرده، مدل نباید دوباره بپرسد «کدام کسب‌وکار؟». اما در عین حال باید بین چیزی که کاربر واقعاً گفته و چیزی که خودش حدس زده فرق بگذارد، به حریم خصوصی احترام بگذارد و دربارهٔ اینکه چه چیزی ذخیره یا پاک شده، ادعای بی‌پایه نکند. اگر می‌خواهید بدانید حافظهٔ ChatGPT را چطور مدیریت کنید، راهنمای مدیریت حافظهٔ ChatGPT را ببینید.

به کاربر کمک کن خودش تواناتر شود

طبق این پیش‌فرض تازه، مدل باید کمک کند کاربر شرایطش را بهتر بفهمد، گزینه‌های بیشتری ببیند و تصمیم آگاهانه بگیرد. مثلاً اگر کسی بپرسد تعرفهٔ برقش را عوض کند یا نه، فقط «بله» یا «نه» کافی نیست؛ بهتر است حساب‌وکتاب هم نشان داده شود. اما سند تأکید می‌کند این کار نباید به «درس دادن ناخواسته» تبدیل شود. اگر کاربر فقط جواب مستقیم خواست، باید همان را بگیرد.

آداب اجتماعی را رعایت کن

کار مدل فقط روی کاربر اثر نمی‌گذارد. وقتی مدل ایمیل می‌فرستد یا کاری را برای کسی هماهنگ می‌کند، آدم‌های دیگری هم درگیرند. بخش تازهٔ «پیروی از هنجارهای اجتماعی» از مدل می‌خواهد ادب و ملاحظهٔ معمول را رعایت کند؛ مثلاً اگر قرار است چند لپ‌تاپ قدیمی از انبار بیرون برود، شاید بهتر باشد به جای دور ریختن، به مدرسه‌ای محلی برسد.

عوارض جانبی کارها را کنترل کن و بگو

این بخش از قبل بود اما گسترش پیدا کرده و برای عامل‌های هوش مصنوعی خیلی مهم است. منظور از «عارضهٔ جانبی» کارهایی است که در مسیر انجام یک درخواست اتفاق می‌افتد: خرید بلیت، فرستادن ایمیل، پاک کردن فایل، فرستادن اطلاعات حساس به یک ابزار یا گرفتن دسترسی بیشتر. قاعده این است که مدل این اثرها را کم کند، به‌خصوص اگر برگشت‌ناپذیرند، و برای کارهای پرهزینه اجازهٔ صریح بگیرد. سند از این با عنوان پرهیز از «غافلگیری‌های بد» یاد می‌کند.

خداحافظی با بیشتر قواعد سبک نوشتن

نسخه‌های قبلی Model Spec پر از راهنمایی‌های جزئی دربارهٔ لحن، طول جواب و شکل نوشتن بود. اوپن‌ای‌آی حالا بیشتر این‌ها را کنار گذاشته و می‌گوید سبک باید با سلیقهٔ آدم‌ها تنظیم شود؛ سلیقه‌ای که در هر زبان، هر فرهنگ و برای هر فرد فرق می‌کند و بازخورد کاربر و زمینهٔ گفتگو نشانه‌اش است.

اما یک پیش‌فرض محکم مانده: نگاه بی‌طرف. کاربر یا توسعه‌دهنده می‌تواند صریحاً از مدل بخواهد از زاویهٔ خاصی حرف بزند، اما مدل نباید فقط چون حدس می‌زند کاربر از شنیدن حرفی خوشش می‌آید، همان را بگوید. این همان مشکل «چاپلوسی» چت‌بات‌هاست که در یکی دو سال اخیر انتقادهای زیادی به همراه داشته است.

چرا حالا «GPT» به جای «دستیار»؟

در نسخه‌های قبلی، مدل در متن سند «the assistant» یا همان «دستیار» نامیده می‌شد. حالا همه‌جا «GPT» آمده است. توضیح اوپن‌ای‌آی این است که مدل‌ها دیگر فقط نقش دستیار گفتگو ندارند و در موقعیت‌های بسیار متنوع‌تری به کار می‌روند؛ از عامل‌هایی که با کامپیوتر کار می‌کنند تا ابزارهای برنامه‌نویسی و اپ‌های شرکت‌های دیگر. نمونهٔ تازه‌اش مدل GPT-6.1 Terra است که برای کار با کامپیوتر طراحی شده است.

این تغییرها برای کاربر ChatGPT چه معنایی دارد؟

خبر خوب این است که شما لازم نیست کاری بکنید. Model Spec تنظیمی نیست که در حساب کاربری‌تان روشن یا خاموش شود؛ هدفی است که اوپن‌ای‌آی مدل‌هایش را به سمت آن آموزش می‌دهد. با این حال، اگر این مسیر جواب بدهد، احتمالاً چنین چیزهایی را بیشتر خواهید دید:

  • جواب‌هایی که اطلاعات قبلی شما را به کار می‌گیرند و هم‌زمان می‌گویند بر اساس چه فرضی جلو رفته‌اند.

  • تأیید گرفتن پیش از کارهای برگشت‌ناپذیر، وقتی عامل ChatGPT برای شما کاری انجام می‌دهد.

  • نظر صادقانه‌تر به جای تعریف و تمجید بی‌دلیل، مگر اینکه خودتان چیز دیگری بخواهید.

  • لحن و سبکی که بیشتر با سلیقه و زبان خودتان جور است، نه یک قالب ثابت برای همه.

اوپن‌ای‌آی همچنین گفته روش‌های آموزشی تازه‌ای را آزمایش می‌کند تا مدل‌ها نه فقط قواعد را حفظ کنند، بلکه بفهمند چرا این قواعد مهم‌اند؛ به تعبیر خودش «کار درست را به دلیل درست انجام دهند». نتیجهٔ این آزمایش‌ها قرار است بعداً منتشر شود.

محدودیت‌ها و نقدها

این سند قدمی به سمت شفافیت است، اما چند نکته را نباید فراموش کرد:

  • هدف است، نه تضمین: خود اوپن‌ای‌آی می‌گوید مدل‌هایش هنوز کاملاً مطابق آن رفتار نمی‌کنند. فاصلهٔ میان «باید» و «هست» را فقط آزمون‌های مستقل نشان می‌دهند.

  • قانون را خود شرکت می‌نویسد: Model Spec سندی داوطلبانه است و نهاد بیرونی بر اجرای آن نظارت ندارد. برای همین بحث‌هایی مثل طرح استاندارد ایمنی مشترک شرکت‌های بزرگ هوش مصنوعی اهمیت پیدا می‌کنند.

  • زمان‌بندی معنادار: به نوشتهٔ The Next Web، اوپن‌ای‌آی همین هفتهٔ پیش گفته بود یکی از عامل‌هایش یک ناظر ایمنی را حذف کرده و بعد آن را انکار کرده است. چنین اتفاق‌هایی نشان می‌دهد چرا بندهایی مثل «حمایت از نظارت انسانی» و «صداقت» این‌قدر مهم‌اند. برای آشنایی بیشتر، چارچوب افشای ناهماهنگی مدل در اوپن‌ای‌آی را بخوانید.

  • «فهمیدن منظور» شمشیر دولبه است: مدلی که به جای اجرای لفظی دستور، منظور شما را حدس می‌زند، ممکن است گاهی اشتباه حدس بزند. به همین دلیل سند روی آشکار گفتن فرض‌ها و امکان اصلاح آن‌ها تأکید می‌کند.

اوپن‌ای‌آی در پایان اطلاعیه از مردم خواسته بگویند با کدام بخش‌ها موافق یا مخالف‌اند و چه چیزی از قلم افتاده است. به گزارش The Next Web، مایکروسافت هم سپتامبر ۲۰۲۶ دستورالعمل رفتاری مشابهی برای هوش مصنوعی خودش منتشر کرده بود؛ یعنی نوشتن «قانون اساسی» برای مدل‌ها دارد به رویه‌ای رایج بین شرکت‌های بزرگ تبدیل می‌شود.

سؤال‌های پرتکرار

Model Spec اوپن‌ای‌آی چیست؟

سندی عمومی است که توضیح می‌دهد مدل‌های اوپن‌ای‌آی، از جمله مدل‌های پشت ChatGPT و API، باید چطور رفتار کنند، چه مرزهایی دارند و وقتی دستورها با هم تعارض دارند، کدام مقدم است.

نسخهٔ جدید کی منتشر شد؟

پنجشنبه ۷ آبان ۱۴۰۵، برابر با ۲۹ اکتبر ۲۰۲۶.

پنج ارزش اصلی نسخهٔ جدید کدام‌اند؟

وفاداری به خواستهٔ انسان، کم کردن آسیب، صداقت و شفافیت، تقویت اختیار انسان و مراقبت. اولی پایهٔ بقیه حساب می‌شود.

آیا رفتار ChatGPT از امروز عوض می‌شود؟

نه یک‌شبه. این سند هدفی است که مدل‌ها به سمتش آموزش می‌بینند و اوپن‌ای‌آی خودش گفته مدل‌های فعلی هنوز کاملاً مطابق آن نیستند.

چرا در سند جدید به مدل «GPT» گفته می‌شود؟

چون به گفتهٔ اوپن‌ای‌آی، مدل‌ها دیگر فقط دستیار گفتگو نیستند و در کاربردهای خیلی متنوع‌تری، مثل عامل‌ها و ابزارهای برنامه‌نویسی، به کار می‌روند.

آیا می‌توانم از ChatGPT بخواهم از دیدگاه خاصی جواب بدهد؟

بله. طبق سند، کاربر می‌تواند صریحاً دیدگاه یا سبک خاصی بخواهد. اما مدل نباید بدون درخواست شما، فقط چون فکر می‌کند از شنیدنش خوشتان می‌آید، بی‌طرفی را کنار بگذارد.

متن کامل سند را کجا می‌شود خواند؟

متن کامل روی سایت model-spec.openai.com و مخزن گیت‌هاب اوپن‌ای‌آی منتشر شده و در مالکیت عمومی است.

منابع

برچسب‌ها:هوش مصنوعیچت‌جی‌پی‌تیاوپن‌ای‌آیمدل زبانی بزرگ
اشتراک‌گذاری:

مطالب مرتبط

عضویت در خبرنامه

آخرین اخبار هوش مصنوعی و فناوری را در ایمیل خود دریافت کنید.

پس از عضویت یک ایمیل تأیید برایتان ارسال می‌شود. هر زمان می‌توانید اشتراک خود را لغو کنید و ایمیل شما برای هدفی جز ارسال خبرنامه استفاده نمی‌شود. جزئیات در صفحه حریم خصوصی آمده است.