فهرست مطالب
توافق خودنظارتی هوش مصنوعی در کاخ سفید چیست؟
سه‌شنبه ۲۹ سپتامبر ۲۰۲۶، کاخ سفید میزبان مدیرانی بود که معمولاً رقیب همدیگرند، نه شریک یک امضا. دونالد ترامپ و مدیران ارشد Anthropic، گوگل، متا، OpenAI، انویدیا و xAI توافق‌نامه‌ای داوطلبانه را امضا کردند که قرار است شرکت‌های سازنده قدرتمندترین مدل‌های هوش مصنوعی، خودشان — اما زیر نگاه یک حسابرس بیرونی — روی کار خودشان نظارت کنند. ترامپ این توافق را «اخلاقاً الزام‌آور» خواند و گفت شرکت‌ها فهمیده‌اند که باید خودشان را کنترل کنند.
این خبر، ادامه همان نشستی است که فناوری‌کده پیش‌تر از برگزاری‌اش خبر داده بود؛ با این تفاوت که حالا به‌جای وعده دیدار، یک سند امضاشده روی میز است.
چه کسانی امضا کردند؟
پای سند، علاوه بر ترامپ، امضای داریو آمودی، مدیرعامل Anthropic، سوندار پیچای، مدیرعامل گوگل، مارک زاکربرگ، مدیرعامل متا، گرگ براکمن، رئیس OpenAI، جنسن هوانگ، مدیرعامل انویدیا و ایلان ماسک، بنیان‌گذار xAI دیده می‌شود. مایک جانسون، رئیس مجلس نمایندگان آمریکا هم در نشست حضور داشت. هوانگ در جلسه ناهار سمت راست ترامپ نشسته بود و ماسک سمت چپ او.
چهار تعهدی که شرکت‌ها پذیرفتند
توافق، قانون نیست و جریمه‌ای هم در کار نیست؛ اما چهار لایه نظارتی مشخص دارد:
کنترل‌های داخلی قدرتمند: شرکت‌ها باید در طول آموزش و عرضه مدل‌ها، توانایی و رفتار آن‌ها را زیر نظر داشته باشند؛ به‌ویژه در برابر خطرهایی مثل حمله سایبری، تهدیدهای زیستی و شیمیایی، و این‌که مدل سر خود به سامانه‌های فنی دسترسی پیدا نکند یا آن‌ها را هک نکند.
حسابرس مستقل بیرونی: یک ارزیاب بیرون از شرکت باید بررسی کند که این کنترل‌ها واقعاً کار می‌کنند، نه این‌که فقط روی کاغذ باشند.
کمیته‌ای در هیئت‌مدیره: در هر شرکت، کمیته‌ای از هیئت‌مدیره گزارش‌های تیم‌های داخلی و حسابرس بیرونی را می‌خواند و ارزیابی می‌کند.
بازبینی داخلیِ خودِ نظارت: تیمی داخل شرکت موظف است مدام چک کند که سازوکار کنترل و پایش، همان‌طور که طراحی شده، کار می‌کند یا نه.
در متن توافق یک در هم برای آینده باز گذاشته شده: «با گذشت زمان، شاید منطقی باشد این گام‌ها به قانون و مقررات تبدیل شوند.» ترامپ هم گفته حدود ده نفر برای نظارت بر کل این سازوکار معرفی می‌شوند و در روزهای آینده، بعد از مشورت با خود صنعت، یک ناظر اصلی برای توافق انتخاب می‌کند.
چرا همین حالا؟
زمینه این امضا، فقط نگرانی از خود مدل‌ها نیست. شرکت‌های حاضر صدها میلیارد دلار برای ساخت زیرساخت هوش مصنوعی — از جمله دیتاسنترهایی در شهرها و مناطق مختلف آمریکا — خرج می‌کنند و همین دیتاسنترها مخالفت مردمی و دوحزبی راه انداخته‌اند. مدیران در نشست پذیرفتند برای آرام‌کردن این مخالفت‌ها، از مدرسه‌های محلی بیشتر حمایت مالی کنند یا برای پایین‌آوردن هزینه انرژی قدم بردارند. ترامپ هم هشدار داد اگر مخالفت‌ها ادامه پیدا کند، شرکت‌ها «مجبور می‌شوند به خارج بروند».
در همان روز، ترامپ از چت‌بات دولتی America.gov هم رونمایی کرد که قرار است شهروندان را در خدمات دولتی راهنمایی کند، و صریح گفت دولتش رشد هوش مصنوعی را محدود نمی‌کند و از «نرده محافظ» حرف نمی‌زند: «رشد فناوری‌ای را که از انقلاب صنعتی بزرگ‌تر خواهد بود، خفه نمی‌کنم.»
صدای مخالف: «به خودنظارتی این‌قدر اعتماد نکنید»
همه از این سند راضی نیستند. رابین جیا، استادیار علوم کامپیوتر دانشگاه کالیفرنیای جنوبی، می‌گوید گذاشتن این‌همه اعتماد روی خودنظارتی خطرناک است و باید مطمئن شد هدف آزمایشگاه‌های پیشرو با منفعت عموم مردم هم‌جهت است؛ او به افشای اخیر حادثه‌های هک اشاره می‌کند و هشدار می‌دهد هرچه مدل‌ها قوی‌تر شوند، پیامد این اتفاق‌ها هم بزرگ‌تر می‌شود.
الکس پاسکال، مدیر اجرایی مرکز Berkman Klein هاروارد، پا را فراتر می‌گذارد و زبان کلی و مبهم توافق را نقد می‌کند: از نظر او تنها راه کم‌کردن خطرها، مسئولیت حقوقی جدی، مقررات واقعی و عوض‌کردن منطق رقابتی‌ای است که سازنده‌های مدل‌های پیشرفته را به تصمیم‌های ناایمن هل می‌دهد.
در مقابل، شری نارایانان، استاد مهندسی برق و کامپیوتر همان دانشگاه، توافق را تلاشی برای تعادل میان آزادی نوآوری و مقررات می‌داند؛ تعادلی که فقط برای قوی‌ترشدن مدل‌ها نیست، برای امن‌تر و مطمئن‌تر شدنشان هم هست.
جالب این‌که محتاط‌ترین جمله روز را یکی از امضاکننده‌ها گفت. داریو آمودی، که از صداهای جدیِ کندکردن شتاب توسعه هوش مصنوعی است، گفت: «این فناوری خطرهای خیلی واقعی دارد» و سازوکار روبه‌روشدن با این خطرها هنوز در حال بحث است. یک روز قبل‌تر هم OpenAI عرضه یک مدل تازه را به‌خاطر نگرانی‌های ایمنی متوقف کرده بود و سم آلتمن در گفت‌وگویی تلویزیونی گفته بود شرکتش گاهی عمداً مدلی را آموزش نمی‌دهد تا اول از ایمنی آن مطمئن شود.
این توافق برای کاربر عادی چه معنایی دارد؟
فعلاً هیچ دکمه و تنظیم تازه‌ای به ChatGPT، جمینای یا کلود اضافه نمی‌شود. اثر این سند، پشت صحنه است: اگر شرکت‌ها به آن پایبند بمانند، پیش از عرضه هر مدل بزرگ، پای یک حسابرس بیرونی و یک کمیته هیئت‌مدیره هم به فرایند باز می‌شود — و همین می‌تواند سرعت عرضه بعضی مدل‌ها را کم و حاشیه امن‌شان را بیشتر کند. اما چون توافق داوطلبانه است، ارزش واقعی‌اش را فقط گزارش‌های حسابرسی آینده نشان می‌دهد، نه مراسم امضا.
جمع‌بندی
توافق کاخ سفید نه قانون است و نه لگام تازه‌ای بر هوش مصنوعی؛ یک تعهد داوطلبانه با چهار لایه کنترل داخلی و بیرونی است که شش بازیگر اصلی این صنعت پای آن را امضا کرده‌اند. حامیانش آن را تعادل ایمنی و نوآوری می‌دانند و منتقدانش، اعتماد بیش از حد به خودنظارتی. فناوری‌کده گزارش‌های حسابرسی و نام ناظر توافق را که در روزهای آینده اعلام می‌شود، دنبال می‌کند.
منبع: گزارش آسوشیتدپرس (AP) از نشست کاخ سفید، منتشرشده در ۳۰ سپتامبر ۲۰۲۶؛ عکس کاور نیز از همان گزارش است.
