پرش به محتوای اصلی
اخبار هوش مصنوعی

همکاری ایمنی OpenAI و Anthropic و گوگل

رقبای بزرگ هوش مصنوعی درباره استاندارد ایمنی حرف می‌زنند. در این مطلب با زبان ساده می‌فهمید ماجرا چیست، چرا مهم شده و روی کاربران چه اثری می‌گذارد.

۷ دقیقه مطالعه
اشتراک‌گذاری:
تصویر خبر واقعی — همکاری ایمنی OpenAI و Anthropic و گوگل
تصویر خبر واقعی — همکاری ایمنی OpenAI و Anthropic و گوگل
فهرست مطالب

OpenAI در ۱۵ سپتامبر ۲۰۲۶ تأیید کرد که با رقبای اصلی‌اش، Anthropic و گوگل، دربارهٔ همکاری برای حل نگرانی‌های ایمنی هوش مصنوعی گفت‌وگو می‌کند. به گفتهٔ سخنگوی OpenAI، این گفت‌وگوها از ژوئیه شروع شده؛ از وقتی که دمیس هاسابیس، رئیس Google DeepMind، پیشنهاد ساخت یک «نهاد استاندارد» به رهبری آمریکا را مطرح کرد. هنوز هیچ توافق امضاشده یا نهاد مشخصی اعلام نشده است. فعلاً در مرحلهٔ گفت‌وگو هستیم.

شاید عجیب باشد که شرکت‌هایی که هر هفته بر سر کاربر و توسعه‌دهنده رقابت می‌کنند، از همکاری حرف بزنند. در ادامه اول توضیح می‌دهیم این سه شرکت چه کسانی هستند و «نهاد استاندارد» یعنی چه. بعد خبر را باز می‌کنیم و می‌گوییم چرا درست حالا مطرح شده.

زمینهٔ کوتاه: رقبایی که حالا از همکاری حرف می‌زنند

سه بازیگر اصلی

  • OpenAI: سازندهٔ ChatGPT و مدل‌های GPT.

  • Anthropic: سازندهٔ Claude؛ شرکتی که روی ایمنی تأکید زیادی دارد.

  • Google و Google DeepMind: سازندهٔ خانوادهٔ مدل‌های جمینای.

این سه در بازار مدل‌های پیشرفته، فروش به سازمان‌ها و جذب نیروی متخصص رقیب سرسخت یکدیگرند. پس وقتی از همکاری حرف می‌زنند، موضوع چیزی فراتر از یک قرارداد تجاری است.

ایمنی هوش مصنوعی یعنی چه؟

اینجا منظور فقط جلوگیری از جواب‌های نامناسب نیست. ایمنی یعنی جلوگیری از سوءاستفادهٔ خطرناک، کنترل عامل‌هایی که خودسرانه عمل می‌کنند، گزارش شفاف حادثه‌ها و ارزیابی جدی مدل‌های قوی پیش از عرضه.

نهاد استاندارد چه شکلی دارد؟

هاسابیس در ژوئیه در جستاری در X پیشنهاد کرد یک همکاری دولتی‌خصوصی یا یک سازمان خودتنظیم‌گر با نظارت دولت فدرال ساخته شود. او این نهاد را به FINRA (سازمان خودتنظیم‌گر صنعت مالی آمریکا) تشبیه کرد. به گفتهٔ او، چنین نهادی پروتکل‌های ارزیابی و آزمایش در حوزه‌های مرتبط با امنیت ملی را تدوین می‌کند و احتمالاً برای جذب متخصصان و تأمین توان پردازشی لازم، به بودجهٔ صنعت نیاز دارد. دربارهٔ نگاه گوگل به هوش مصنوعی عمومی، DeepMind Institute چیست؟ را هم بخوانید.

خبر ۱۵ سپتامبر چه بود؟

سخنگوی OpenAI به CNBC تأیید کرد که این شرکت با شرکت‌های دیگر، از جمله Anthropic و گوگل، دربارهٔ همکاری در حل نگرانی‌های ایمنی گفت‌وگو کرده است. پیش‌تر نشریهٔ The Information از این گفت‌وگوها خبر داده بود. گوگل و Anthropic در آن زمان به درخواست CNBC برای اظهار نظر پاسخ ندادند.

این خبر در هفته‌ای منتشر شد که فشار برای کند کردن سرعت توسعه بالا گرفته بود:

  • داریو آمودی، مدیرعامل Anthropic، در ۱۲ سپتامبر از شرکت‌ها خواست سرعت بهبود مدل‌های پیشرفته را کم کنند. طرح او را در Pace the Frontier چیست؟ توضیح داده‌ایم.

  • هاسابیس نوشت: «جستار داریو به مسیر درست اشاره می‌کند. جزئیات باید کار شود، اما جهت درست است.»

  • سم آلتمن هم گفت با لزوم تنظیم سرعت موافق است، کند کردن سرعت در هفته‌های اخیر «موضوع اصلی» بحث در OpenAI بوده و شرکت «به‌زودی» جزئیات بیشتری اعلام می‌کند.

موضع OpenAI: استاندارد صنعتی، با یا بدون دولت

کمی پیش از این خبر، کریس لهان، مدیر امور جهانی OpenAI، در یک پست وبلاگی گفت شرکت روی «استانداردهای صنعت‌محور» کار می‌کند و یک تلاش داوطلبانه را «با یا بدون حمایت دولت» با شرکت‌های دیگر پیش می‌برد. او تأکید کرد: «هر استاندارد صنعت‌محوری مکمل حفاظت‌های اجباری فدرال و نظارت دموکراتیک خواهد بود، نه جایگزین آن.» لهان همچنین نوشت OpenAI از رویکردهای بین‌المللی سازگار دفاع می‌کند، از جمله برای تعیین اینکه توسعه «چه زمانی و چگونه باید کند یا متوقف شود، حتی اگر به معنای کند شدن پیشرفت توانایی مدل‌ها باشد.»

به گفتهٔ لهان، چارچوب فدرال مطلوب OpenAI شامل آزمایش مشترک و ارزیابی مستقل، حفاظت‌های امنیت سایبری قوی‌تر، قواعد روشن گزارش حادثه، آمادگی ملی بیشتر و روش‌های مشترک برای ردیابی پیشرفت سیستم‌هایی است که خودشان را بهبود می‌دهند. در کنگرهٔ آمریکا هم لایحه‌ای در همین فضا مطرح است. توضیحش را در لایحه FRONTIER Act چیست؟ بخوانید.

جدول خلاصه: چه کسی چه گفته؟

شرکت / فرد

موضع اعلام‌شده

OpenAI (سخنگو)

تأیید گفت‌وگو با Anthropic و گوگل دربارهٔ همکاری ایمنی، از ژوئیه

OpenAI (کریس لهان)

استاندارد داوطلبانهٔ صنعت، با یا بدون دولت؛ مکمل قانون، نه جایگزین آن

Google DeepMind (هاسابیس)

پیشنهاد نهاد استاندارد شبیه FINRA؛ حمایت از جهت کلی جستار آمودی

Anthropic (آمودی)

کند کردن سرعت مدل‌های مرزی، ارزیاب مستقل و هماهنگی میان شرکت‌ها

چرا درست حالا؟

CNBC می‌گوید این سه شرکت در هفته‌های اخیر زیر فشار شدیدی برای پاسخ به نگرانی‌های فزایندهٔ ایمنی و امنیت بوده‌اند. چند عامل این فضا را ساخته است: حادثه‌های مربوط به عامل‌های خارج از کنترل، افشای مشکلات ناهماهنگی مدل‌ها (نمونه‌اش را در افشای ناهماهنگی مدل OpenAI ببینید)، و فشار رسانه‌ای و سیاسی در آمریکا. در چنین فضایی، همکاری ایمنی هم پیامی برای جلب اعتماد عمومی است و هم تلاشی برای شکل دادن قواعد پیش از آنکه قانون سخت‌گیرانه‌ای از بیرون تحمیل شود.

این همکاری چه چیزی نیست؟

  • ادغام یا پایان رقابت نیست. شرکت‌ها همچنان در محصول و بازار رقیب‌اند.

  • توافق امضاشده نیست. تا امروز فقط گفت‌وگو تأیید شده و خروجی ملموسی مثل چارچوب ارزیابی مشترک اعلام نشده است.

  • جایگزین نظارت مستقل نیست. همکاری رقبای بزرگ اگر نظارت بیرونی نداشته باشد، می‌تواند به بهانهٔ ایمنی رقابت را کم کند. برای همین آمودی هم معافیت ضدانحصار را فقط «محدود» پیشنهاد کرده است.

بازار هوش مصنوعی این روزها فقط حول این سه شرکت نمی‌چرخد. بازیگران دیگری هم با روایت «کنترل و حاکمیت» جلو می‌آیند؛ مثلاً ادغام Cohere و Aleph Alpha برای هوش مصنوعی حاکمیتی.

برای کاربران و کسب‌وکارها چه معنایی دارد؟

اگر کاربر ChatGPT، Claude یا جمینای هستید، فردا دکمهٔ جدیدی نمی‌بینید. اثر این خبر میان‌مدت است: احتمال ارزیابی مستقل و گزارش حادثه بیشتر می‌شود و ممکن است عرضهٔ برخی قابلیت‌های حساس کندتر و محدودتر شود. اگر کسب‌وکارتان به APIهای این شرکت‌ها وابسته است، از همین حالا سیاست داده، سطح دسترسی‌ها و ثبت استفاده را مرتب کنید تا اگر الزامات سخت‌تر شد غافلگیر نشوید.

به‌روزرسانی: همین شرکت‌ها، این بار همراه مایکروسافت، روی یک سیگنال مشترک دیگر هم توافق کرده‌اند؛ یک خط در robots.txt که به همهٔ آن‌ها می‌گوید محتوای یک سایت را برای آموزش هوش مصنوعی برندارند. جزئیات و زمان اجرای آن را در سیگنال مشترک robots.txt برای منع آموزش هوش مصنوعی توضیح داده‌ایم.

سؤال‌های پرتکرار

آیا OpenAI، Anthropic و گوگل توافق ایمنی امضا کرده‌اند؟

خیر. OpenAI فقط تأیید کرده که گفت‌وگو دربارهٔ همکاری ایمنی جریان دارد. توافق یا نهاد مشخصی اعلام نشده است.

این گفت‌وگوها از کی شروع شد؟

به گفتهٔ سخنگوی OpenAI، از ژوئیهٔ ۲۰۲۶، پس از پیشنهاد هاسابیس برای ساخت نهاد استاندارد.

نهاد استاندارد هاسابیس چیست؟

یک همکاری دولتی‌خصوصی یا سازمان خودتنظیم‌گر با نظارت فدرال، شبیه FINRA در صنعت مالی، که پروتکل‌های ارزیابی و آزمایش مدل‌ها را تدوین کند.

آیا این همکاری جای قانون را می‌گیرد؟

به گفتهٔ OpenAI نه. لهان گفته استانداردهای صنعتی مکمل حفاظت‌های اجباری فدرال و نظارت دموکراتیک‌اند، نه جایگزین آن‌ها.

Anthropic و گوگل چه گفتند؟

در زمان گزارش CNBC به درخواست اظهار نظر پاسخ ندادند. اما آمودی و هاسابیس پیش‌تر علناً از هماهنگی و استاندارد مشترک حمایت کرده بودند.

منابع

برچسب‌ها:هوش مصنوعیکلوداوپن‌ای‌آیگوگل
اشتراک‌گذاری:

مطالب مرتبط

عضویت در خبرنامه

آخرین اخبار هوش مصنوعی و فناوری را در ایمیل خود دریافت کنید.

پس از عضویت یک ایمیل تأیید برایتان ارسال می‌شود. هر زمان می‌توانید اشتراک خود را لغو کنید و ایمیل شما برای هدفی جز ارسال خبرنامه استفاده نمی‌شود. جزئیات در صفحه حریم خصوصی آمده است.