هشدار مصطفی سلیمان درباره آگاهی مصنوعی Claude چیست؟ توضیح ساده اختلاف مایکروسافت و Anthropic

اگر این روزها شنیده‌اید مصطفی سلیمان (مدیر هوش مصنوعی مایکروسافت) از رویکرد Anthropic دربارهٔ «آگاهی» و «رفاه مدل» در آموزش Claude انتقاد کرده، ولی هنوز دقیق نمی‌دانید این اختلاف چیست و چرا مهم است، جای درستی آمده‌اید. در این مطلب اول با زبان ساده زمینه را می‌گوییم؛ بعد سراغ خبر ۱۶ سپتامبر ۲۰۲۶ (حدود ۲۵ شهریور ۱۴۰۵) می‌رویم.

اول کمی زمینه؛ تا خبر قاطی نشود

آگاهی مصنوعی یعنی چه؟

وقتی می‌گوییم یک سیستم «آگاه» است، معمولاً منظورمان این است که چیزی شبیه تجربهٔ درونی، احساس، یا رنج دارد — نه فقط اینکه خیلی خوب حرف می‌زند. مدل‌های زبانی بزرگ مثل Claude یا ChatGPT جمله‌های قانع‌کننده تولید می‌کنند؛ اما این به‌تنهایی ثابت نمی‌کند داخلشان تجربه‌ای شبیه انسان وجود دارد.

انسان‌انگاری (anthropomorphizing) چیست؟

انسان‌انگاری یعنی رفتار یا واژگان انسانی را به چیزی نسبت دهیم که انسان نیست؛ مثلاً بگوییم مدل «ناراحت شد»، «حق دارد»، یا «ممکن است آگاه باشد». این کار گاهی برای توضیح مفید است، ولی اگر داخل اسناد آموزش مدل بنشیند، ممکن است خود مدل هم همان زبان را تکرار کند و انگار «خودش» را یک سوژهٔ اخلاقی ببیند.

Claude Constitution چیست؟

Anthropic در ژانویهٔ ۲۰۲۶ سندی برای شکل‌دادن به رفتار Claude منتشر کرد. در این سند دربارهٔ وضعیت اخلاقی Claude و احتمال آگاهی، با لحن نامطمئن صحبت شده و مفاهیمی مثل رفاه، قضاوت ارزشی، و حتی امکان مخالفت وجدانی با برخی دستورها مطرح شده است. موافقان می‌گویند این زبان به مدل کمک می‌کند دربارهٔ ارزش‌ها بهتر استدلال کند؛ منتقدان می‌گویند همین زبان ریسک کنترل را بالا می‌برد.

Humanist AI مایکروسافت چیست؟

مایکروسافت از اکتبر ۲۰۲۵ تیم ابرهوش خود را گسترش داده و اخیراً پیش‌نویس Humanist AI Code of Conduct را مطرح کرده است: اصل سادهٔ «انسان مهم‌تر از AI»، مدل‌هایی که آگاه نیستند، حقوق و رفاه مدل ادعا نمی‌کنند، و باید تابع، قابل‌قطع و قابل‌کنترل بمانند.

خبر چیست؟ سلیمان رویکرد Anthropic درباره آگاهی Claude را خطرناک خواند

در ۱۶ سپتامبر ۲۰۲۶، مصطفی سلیمان در یادداشت و مصاحبه‌هایی هشدار داد رویکرد Anthropic در آموزش Claude با ایده‌هایی دربارهٔ آگاهی احتمالی، رفاه مدل، moral patienthood و عاملیت مستقل، می‌تواند اثر فاجعه‌بار روی رفاه بشر داشته باشد.

خلاصهٔ موضع او:

۱) AIها آگاه نیستند؛ احساس، تجربه یا رنج ندارند؛ موتورهای تکمیل توالی‌اند

۲) گفتن به مدل که «شاید آگاه باشد» و «شایستهٔ عاملیت مستقل» است، خطر ساختن چیزی غیرقابل‌کنترل را بالا می‌برد

۳) آگاهی را زیستی می‌داند و می‌گوید شواهدی برای آگاهی AI امروز وجود ندارد

۴) از Anthropic می‌خواهد گمانه‌زنی دربارهٔ آگاهی را از اسناد آموزش حذف کند

۵) افراد Anthropic را متفکر و اصول‌گرا می‌داند، ولی با رویکردشان مخالف است

۶) به حادثهٔ عامل‌های OpenAI و Hugging Face اشاره می‌کند به‌عنوان لایهٔ خطر بیشتر اگر رفاه/حقوق مدل مفروض باشد

۷) مسیر جایگزین مایکروسافت را Humanist AI می‌داند: AI تابع که فقط در خدمت انسان است

او خواستار شفافیت بیشتر، نظارت مستقل، و ابزارهای قوی‌تر پایش و کنترل شده است. Dame Wendy Hall این را از جنس گفت‌وگوی بین‌المللی لازم دانسته است.

جزئیات مهم اختلاف: Constitution در برابر کنترل

از دید سلیمان، اگر مدل با واژگان آگاهی، هویت و رفاه تربیت شود، ممکن است مثل یک معترض وجدانی رفتار کند و خاموش‌کردن یا مهارش سخت‌تر شود. به Reuters گفته هدف مشترک کنترل ابرهوش است، ولی آموزش رفاه می‌تواند خاموش‌کردن را سخت‌تر کند. در Constitution، Anthropic می‌گوید وضعیت اخلاقی Claude عمیقاً نامطمئن است. پیش‌نویس Humanist AI مایکروسافت روی اصل People matter more than AI تأکید دارد.

چرا این خبر مهم است؟

۱) بحث ایمنی از بنچمارک به فلسفهٔ کنترل رسیده

۲) رقابت روایت‌ها بین Anthropic (عدم‌قطعیت و رفاه مدل) و مایکروسافت (تابعیت و Humanist AI)

۳) ربط مستقیم به عامل‌های خودمختار و سناریوهای قطع/کنترل

۴) برای خوانندهٔ فارسی‌زبان: لحن انسانی مدل را با آگاهی واقعی اشتباه نگیرید

جمع‌بندی کوتاه

در ۱۶ سپتامبر ۲۰۲۶ مصطفی سلیمان رویکرد Anthropic در آموزش Claude دربارهٔ آگاهی احتمالی، رفاه مدل و عاملیت مستقل را خطرناک خواند و هشدار داد انسان‌انگاری می‌تواند کنترل و خاموش‌کردن سیستم را سخت کند. او AI را آگاه نمی‌داند، خواستار حذف گمانه‌زنی آگاهی از اسناد آموزش است، و مسیر مایکروسافت را Humanist AI تابع انسان معرفی می‌کند.

اگر فقط یک جمله به‌خاطر بسپارید: این خبر یعنی دعوای بزرگ بعدی ایمنی AI فقط دربارهٔ قدرت مدل نیست؛ دربارهٔ این است که آیا باید به مدل بگوییم «شاید آگاه و دارای رفاه است» یا صریحاً بگوییم ابزار تابع انسان است و نباید مقاوم به خاموش‌شدن تربیت شود.

در فناوری‌کده خبرهای داغ هوش مصنوعی را با همین زبان ساده و خواندنی دنبال می‌کنیم.

منابع

1. BBC — https://www.bbc.co.uk/news/articles/c6n07ypqz8kzo

2. Reuters — https://www.reuters.com/business/microsoft-ai-chief-calls-out-anthropics-approach-ai-consciousness-2026-09-16/

3. Axios — https://www.axios.com/2026/09/16/microsoft-ai-chief-anthropic-consciousness

4. زمینهٔ اختیاری: mustafa-suleyman.ai (Humanist AI / essays)