فهرست مطالب
در میانهٔ سپتامبر ۲۰۲۶ مدیران بزرگ هوش مصنوعی علناً دو دسته شدند. یک طرف داریو آمودی (Anthropic)، سم آلتمن (OpenAI) و دمیس هاسابیس (Google DeepMind) هستند که از کندسازی هماهنگ مدلهای پیشرفته و نظارت مستقل حمایت میکنند. طرف دیگر مارک زاکربرگ (Meta) و جنسن هوانگ (Nvidia) هستند که میگویند هر شرکت میتواند ایمنی را خودش مدیریت کند و انگیزهٔ بازار و مسئولیت حقوقی کافی است. اختلاف بر سر اهمیت ایمنی نیست؛ بر سر این است که چه کسی و چطور آن را تضمین کند.
در ادامه اول با زبان ساده توضیح میدهیم «کندسازی» یعنی چه. بعد حرفهای هر طرف را با نقلقولهای مستند مرور میکنیم و در آخر میگوییم این دعوا چرا برای همهٔ ما مهم است.
زمینهٔ کوتاه: کندسازی هماهنگ یعنی چه؟
وقتی از کندسازی هماهنگ (coordinated slowdown یا pacing) حرف میزنیم، منظور توقف کامل پژوهش نیست. منظور این است که شرکتهای پیشرو، وقتی توانایی مدلها سریعتر از کار ایمنی جلو میرود، با هم و گاهی با کمک دولتها سرعت را تنظیم کنند تا برای آزمایش و نظارت وقت بماند.
جرقهٔ این دعوا جستار داریو آمودی با عنوان «We Must Pace the Frontier» بود که در ۱۲ سپتامبر منتشر شد. او در آن از شرکتها خواست سرعت بهبود توانایی مدلها را کم کنند و به ارزیابهای مستقل دسترسیای شبیه کارمند بدهند. توضیح کامل طرح را در Pace the Frontier چیست؟ بخوانید.
اردوگاه اول: کندسازی و هماهنگی
داریو آمودی (Anthropic)
آمودی طرح سهمرحلهای دارد: ارزیابهای مستقل داخل شرکتها، هماهنگی میان شرکتها و دولتهای دموکراتیک، و در نهایت هماهنگی جهانی. او در کنفرانس Dreamforce سیلزفورس هم تکرار کرد که کم کردن سرعت، راهی است برای «الگو شدن و نشان دادن اینکه همه میتوانند بهتر باشند.»
سم آلتمن (OpenAI)
آلتمن در X نوشت تنظیم سرعت به معنای توقف نیست و پیشرفت هوش مصنوعی همچنان سریع میماند، «اما باید کندتر از آنچه ممکن بود باشد.» او افزود که «هیچ مقدار فشار رقابتی آمریکا نباید بیاحتیاطی را توجیه کند.» آلتمن در Dreamforce هم گفت خوب است صنعت با هم هماهنگ شود تا برای کار ایمن وقت کافی داشته باشد، و وقتی مردم حس کنند فشار تجاری باعث میشود شرکتی کار درست را نکند، میترسند.
دمیس هاسابیس و دیگران
هاسابیس نوشت: «جزئیات باید کار شود، اما جهت برای این لحظهٔ حساس درست است.» او پیشتر ساخت یک نهاد استاندارد برای هوش مصنوعی مرزی را پیشنهاد کرده بود. ایلان ماسک هم نوشت «داریو درست میگوید.» ساتیا نادلا، مدیرعامل مایکروسافت، از «سرعت سنجیده» و ارزیابهای داخلی حمایت کرد، به شرط اینکه کنترل آن فقط دست چند شرکت نباشد.
اردوگاه دوم: هر شرکت مسئول ایمنی خودش
مارک زاکربرگ (Meta)
زاکربرگ در ۱۵ سپتامبر در X و شبکههای دیگر نوشت: «هر آزمایشگاه مسئولیت و انگیزه دارد با سرعتی جلو برود که برای آموزش ایمن مدلهایش لازم است، و توانایی دارد خودش برای تضمین آن اقدام کند.» از نگاه او، چون آزمایشگاهها در صورت آسیبزدن مدلهایشان با «مسئولیت حقوقی قابلتوجه» روبهرو میشوند، خودشان انگیزهٔ پیشگیری دارند.
جملهٔ کلیدی او این بود: «بحث زیادی دربارهٔ کند کردن پیشرفت تواناییها تا رسیدن همراستایی (alignment) وجود دارد. نظر من این است که اعتماد و همراستایی دارند به مهمترین قابلیتهایی تبدیل میشوند که عاملها و مدلها را از هم متمایز میکنند.» به گفتهٔ او، آزمایشگاهی که روی همراستایی تمرکز نکند عقب میماند.
زاکربرگ برای مثال گفت Meta به دلایل «ایمنی و امنیت» و به تصمیم خودش عرضهٔ فناوریهای Muse را عقب انداخت: «این را بخشی از کار روزمرهمان انجام دادیم، چون به وضوح کار درستی برای مردم و برای ما بود.» دربارهٔ خود Muse در بررسی Meta Muse نوشتهایم.
جنسن هوانگ (Nvidia)
هوانگ در Dreamforce، در گفتوگو با مارک بنیوف، گفت سازندگان مدل باید خودشان مسئولیت محصولشان را بپذیرند و بهجای قانونگذاری تازه، سرعت خود را تنظیم کنند. او گفت: «نیروهای بازار همین حالا وجود دارند؛ نه قانون تازه لازم داریم، نه مقررات تازه.» هوانگ در برنامهٔ Mad Money شبکهٔ CNBC هم این قوانین را «کاملاً غیرضروری» خواند و گفت: «قوانین و مقررات زیادی داریم که بر قابلیت اطمینان و عملکرد محصولات حاکماند.» به نظر او نوآوری و ایمنی با هم تضادی ندارند.
جدول مقایسه: دو نگاه به ایمنی هوش مصنوعی
موضوع | اردوگاه کندسازی هماهنگ | اردوگاه خودمدیریتی |
|---|---|---|
چهرههای اصلی | آمودی، آلتمن، هاسابیس (و حمایت ماسک و نادلا) | زاکربرگ، هوانگ |
راه تضمین ایمنی | ارزیاب مستقل، استاندارد مشترک، نقش دولت | انگیزهٔ بازار، مسئولیت حقوقی، تصمیم مستقل هر شرکت |
نگاه به قانونگذاری | قانون بهترین مسیر برای قواعد مشترک است | قوانین موجود کافی است |
مثال عملی | تعهد Anthropic و OpenAI به ارزیاب تعبیهشده | تأخیر داوطلبانهٔ Meta در عرضهٔ Muse |
نکتهٔ ظریف: اختلاف دقیقاً سر چیست؟
هر دو طرف میگویند ایمنی مهم است. اختلاف بر سر سازوکار است. اردوگاه اول میگوید در رقابت شدید، هیچکس نمیخواهد اول کند شود؛ پس تعهد مشترک و نظارت بیرونی لازم است. اردوگاه دوم میگوید کاربران محصول ناامن را رها میکنند و شرکتها خودشان در صورت آسیب تاوان میدهند؛ پس هماهنگی اجباری لازم نیست.
داخل اردوگاه اول هم همه یک حرف نمیزنند. آمودی طرح مفصلی دارد که به هماهنگی جهانی میرسد، آلتمن بیشتر از «کندتر از حد ممکن» حرف میزند و نادلا بر مشارکت گستردهتر از چند شرکت بزرگ تأکید دارد. همزمان OpenAI، Anthropic و گوگل دربارهٔ همکاری ایمنی هم گفتوگو میکنند. خبرش را در همکاری ایمنی OpenAI، Anthropic و گوگل ببینید.
چرا این دعوا مهم است؟
سیاستگذاران دو روایت میشنوند. قانونگذاران آمریکا حالا هم پیشنهاد استاندارد مشترک را دارند و هم این استدلال را که بازار کافی است.
اعتماد کاربر محک میخورد. هر دو طرف از «ایمنی» حرف میزنند، اما مشتری باید بداند پشت این وعده چه سازوکاری هست. ارزیاب مستقل یا تصمیم داخلی شرکت؟ نمونهٔ عملی ارزیاب مستقل را در ارزیاب داخلی Anthropic با Accenture بخوانید.
بحث فقط سرعت نیست. همان هفته مصطفی سلیمان، مدیر هوش مصنوعی مایکروسافت، هم از زاویهٔ دیگری به Anthropic انتقاد کرد. ماجرایش را در هشدار سلیمان دربارهٔ آگاهی مصنوعی Claude نوشتهایم.
اثر روی ابزارهای روزمره. نتیجهٔ این دعوا روی سرعت و شکل عرضهٔ مدلها و ابزارهایی که هر روز استفاده میکنیم اثر میگذارد.
سؤالهای پرتکرار
زاکربرگ مخالف ایمنی هوش مصنوعی است؟
خیر. او میگوید ایمنی و همراستایی مهمترین مزیت رقابتی میشوند، اما با کندسازی هماهنگ میان شرکتها مخالف است و میگوید هر آزمایشگاه باید خودش سرعت ایمن را تعیین کند.
جنسن هوانگ دربارهٔ قوانین تازه چه گفت؟
گفت نیروهای بازار کافیاند و به قانون یا مقررات تازه نیازی نیست. او در CNBC این قوانین را «کاملاً غیرضروری» خواند.
آیا آلتمن خواهان توقف هوش مصنوعی است؟
خیر. آلتمن گفت تنظیم سرعت به معنای توقف نیست و پیشرفت همچنان سریع خواهد بود، اما باید کندتر از حد ممکن باشد.
Meta چه نمونهای از مدیریت ایمنی آورد؟
زاکربرگ گفت Meta به دلایل ایمنی و امنیت، به تصمیم خودش، عرضهٔ فناوریهای Muse را عقب انداخت.
این اختلاف کی علنی شد؟
بعد از انتشار جستار آمودی در ۱۲ سپتامبر ۲۰۲۶. واکنش زاکربرگ و صحبتهای هوانگ و آلتمن در Dreamforce در ۱۵ سپتامبر بود.



