فهرست مطالب
شورای شهر نیویورک امروز، دوشنبه ۵ اکتبر ۲۰۲۶ (۱۳ مهر ۱۴۰۵)، جلسه‌ای کم‌سابقه دربارهٔ خطرهای هوش مصنوعی برگزار می‌کند. به گفتهٔ خود شورا، این اولین بار است که نمایندگان Anthropic، OpenAI، گوگل و متا در یک جلسهٔ عمومی و زیر سوگند دربارهٔ خطرهای این فناوری حرف می‌زنند. شرکت هوش مصنوعی ایلان ماسک، SpaceXAI، به این دعوت جواب نداد و شورا برایش احضاریه فرستاد.
موضوع فقط سؤال و جواب نیست. روی میز این جلسه ۱۰ لایحه است؛ از جمله طرحی که می‌گوید هیچ سیستم هوش مصنوعی‌ای نباید بدون تأیید یک ارزیاب مستقل و بدون «کلید خاموشی» در نیویورک فروخته یا به کار گرفته شود. در این مطلب ساده توضیح می‌دهیم این جلسه چیست، چه کسانی در آن حرف می‌زنند، لایحه‌ها چه می‌خواهند و چرا این خبر از مرز یک شهر فراتر می‌رود.
پاسخ کوتاه: در نیویورک چه خبر است؟
جولی منین، رئیس شورای شهر نیویورک، همهٔ ۵۱ عضو شورا را در جلسه‌ای به اسم «کمیتهٔ کل» (Committee of the Whole) جمع کرده تا دربارهٔ «خطرهای هوش مصنوعی» از شرکت‌ها، کارشناسان و چند کارمند سابق این شرکت‌ها سؤال کنند. جلسه طبق برنامه ساعت ۱۱ صبح به وقت نیویورک (۱۸:۳۰ به وقت تهران) در ساختمان شهرداری شروع می‌شود.
سه نکتهٔ اصلی این خبر:
شهادت زیر سوگند: نمایندگان چهار شرکت بزرگ هوش مصنوعی باید با سوگند به سؤال‌ها جواب بدهند.
فشار احضاریه: به جز متا، بقیهٔ شرکت‌ها فقط بعد از تهدید به احضاریه حاضر شدند بیایند.
بستهٔ قانونی: ۱۰ لایحه دربارهٔ کلید خاموشی، ارزیابی مستقل، جریمهٔ ۲۵ هزار دلاری، پاداش برای افشاگران و حق شکایت مستقیم مردم بررسی می‌شود.
برای تازه‌وارد: این جلسه چه فرقی با یک نشست معمولی دارد؟
«کمیتهٔ کل» یعنی چه؟
شورای شهر نیویورک معمولاً کارهایش را در کمیته‌های کوچک‌تر جلو می‌برد؛ مثلاً کمیتهٔ فناوری یا کمیتهٔ امنیت عمومی. «کمیتهٔ کل» یعنی همهٔ ۵۱ عضو شورا با هم در یک جلسه حاضر می‌شوند. به گفتهٔ شورا، این نوع جلسه به‌ندرت برگزار می‌شود و برای موضوع‌هایی است که برای کل شهر اهمیت زیادی دارند.
شهادت زیر سوگند چه اهمیتی دارد؟
وقتی کسی زیر سوگند حرف می‌زند، از نظر حقوقی مسئول درستی حرف‌هایش است. پس جواب‌ها دیگر شبیه بیانیهٔ تبلیغاتی یا مصاحبهٔ رسانه‌ای نیست. شورا برای این کار به بند ۲۹ منشور شهر نیویورک استناد می‌کند؛ بندی که به شورا اجازه می‌دهد دربارهٔ امور شهر تحقیق کند، افراد را فرابخواند و از آن‌ها زیر سوگند شهادت بگیرد.
احضاریه چیست؟
احضاریه (subpoena) دستوری رسمی است که فرد یا شرکت را مجبور می‌کند در جلسه حاضر شود. اگر کسی به آن بی‌اعتنا باشد، شورا می‌تواند از دادگاه عالی ایالت نیویورک بخواهد آن را اجرا کند.
چه کسانی در این جلسه حرف می‌زنند؟
طبق گزارش Gothamist و ABC7 به نقل از دفتر رئیس شورا، جلسه با شهادت چند کارمند سابق شرکت‌های هوش مصنوعی شروع می‌شود و بعد نوبت نمایندگان شرکت‌هاست. مدیران ارشد مثل سم آلتمن یا داریو آمودی خودشان نمی‌آیند و شرکت‌ها نمایندهٔ دیگری فرستاده‌اند.
نام | وابستگی | نقش در جلسه |
|---|---|---|
جیکوب کاکسون (Jacob Coxon) | پژوهشگر سابق Anthropic | افشاگر؛ هشدارهایش دربارهٔ خطر هوش مصنوعی خبرساز شد |
دنیل کوکوتایلو (Daniel Kokotajlo) | پژوهشگر سابق OpenAI | افشاگر |
الکس ترنر (Alex Turner) | پژوهشگر سابق گوگل دیپ‌مایند | افشاگر |
لوگان گراهام (Logan Graham) | Anthropic، رئیس «تیم قرمز مرزی» | نمایندهٔ Anthropic |
مورگان دوایر (Morgan Dwyer) | OpenAI، رئیس توسعه و عملیات سیاست‌گذاری | نمایندهٔ OpenAI |
شین کیهیل (Shane Cahill) | متا، مدیر سیاست‌گذاری و قانون‌گذاری هوش مصنوعی | نمایندهٔ متا |
آلیس فرند (Alice Friend) | گوگل، مدیر جهانی سیاست هوش مصنوعی و فناوری‌های نوظهور | نمایندهٔ گوگل |
افشاگرها چرا دعوت شده‌اند؟
«افشاگر» (whistleblower) به کسی می‌گویند که از داخل یک سازمان دربارهٔ خطر یا تخلفی هشدار عمومی می‌دهد. هر سه نفری که اسمشان آمد، بعد از ابراز نگرانی دربارهٔ مسیر این صنعت از شرکتشان جدا شده‌اند. منین در بیانیه‌اش گفته: «افشاگرها دلیل این‌اند که دنیا از خطرهای احتمالی هوش مصنوعی باخبر شد و باید از آن‌ها محافظت شود، به آن‌ها پاداش داده شود و صدایشان شنیده شود.» او از کارمندان فعلی و سابق این شرکت‌ها هم خواسته اطلاعاتشان را، علنی یا محرمانه، با شورا در میان بگذارند.
مقام‌های شهری هم حاضرند
به نوشتهٔ Gothamist، از طرف دولت شهر هم چند نفر شرکت می‌کنند؛ از جمله رئیس فرماندهی سایبری نیویورک (NYC Cyber Command)، کمیسر ادارهٔ حمایت از مصرف‌کننده و کارگر، و معاون اول ادارهٔ مدیریت شرایط اضطراری.
ماجرای احضاریه: شرکت‌ها چطور راضی شدند بیایند؟
شورا در بیانیهٔ ۲۸ سپتامبر جزئیات این کشمکش را منتشر کرد. خلاصه‌اش این است:
۱۵ تا ۱۷ سپتامبر: منین برای مدیران عامل پنج شرکت (Anthropic، OpenAI، گوگل، SpaceXAI و متا) نامه فرستاد و خواست داوطلبانه در جلسه شرکت کنند.
متا زود جواب داد و گفت یکی از مدیران ارشدش می‌آید.
۲۵ سپتامبر: مهلت جواب تمام شد. گوگل و Anthropic گفتند نمی‌آیند. منین همان روز اجازهٔ صدور احضاریه برای هر چهار شرکت باقی‌مانده را از ساعت ۹ صبح دوشنبه ۲۸ سپتامبر داد.
۲۷ سپتامبر (یکشنبه): OpenAI و گوگل قبول کردند بیایند. Anthropic هم آخر شب، چند ساعت پیش از ابلاغ احضاریه، حضورش را تأیید کرد.
۲۸ سپتامبر: چون SpaceXAI اصلاً جواب نداده بود، منین برای این شرکت احضاریه صادر کرد.
SpaceXAI ایلان ماسک چه کرد؟
طبق گزارش Gothamist، سخنگوی منین گفته SpaceXAI به احضاریه پاسخ داده، اما احتمالاً نماینده‌ای به جلسه نمی‌فرستد. ABC7 هم نوشته منین در حال بررسی اقدام قانونی برای وادار کردن این شرکت به حضور است. اگر شرکت از احضاریه پیروی نکند، شورا می‌تواند اجرای آن را از دادگاه بخواهد.
مهم‌ترین لایحه‌ها چه می‌خواهند؟
منین ۲۵ سپتامبر بستهٔ لایحه‌ها را معرفی کرد. این‌ها هنوز پیشنهاداند و جلسهٔ امروز جلسهٔ رأی‌گیری نیست؛ قرار است دربارهٔ آن‌ها نظر بگیرند و بحث کنند.
ارزیابی مستقل و «کلید خاموشی»
لایحهٔ اصلی که خود منین پیشنهاد داده می‌گوید هیچ کسب‌وکاری نباید سیستم هوش مصنوعی‌ای را در نیویورک تبلیغ کند، بفروشد یا به کار بگیرد، مگر اینکه یک ارزیاب مستقل (شخص ثالث) آن را تأیید کرده باشد. ارزیاب باید چیزهایی مثل کیفیت داده‌ها، سوگیری، خروجی تصمیم‌ها، حریم خصوصی و امنیت را بررسی کند و اگر خودش منفعتی در آن سیستم دارد، اعلام کند.
همین لایحه می‌گوید هر سیستم هوش مصنوعی باید یک کلید خاموشی داشته باشد؛ یعنی راهی که یک انسان بتواند هر وقت لازم شد سیستم را متوقف کند. برای هر بار تخلف، هم کسب‌وکار و هم ارزیاب ممکن است ۲۵ هزار دلار جریمه شوند.
پاداش برای کسی که تخلف را گزارش کند
لایحهٔ دیگر منین، که شورا آن را «اولین در کشور» می‌خواند، اجازه می‌دهد کسی که تخلف یک شرکت هوش مصنوعی را گزارش می‌کند، بخشی از جریمهٔ دریافت‌شده را بگیرد. به نوشتهٔ Unite.AI، طبق متن لایحه این سهم ۲۵ درصد است و در برخی حالت‌ها تا ۵۰ درصد می‌رسد. یک لایحهٔ دیگر هم حمایت قانونی از افشاگران را به کارمندان شهرداری و پیمانکارانش گسترش می‌دهد.
حق شکایت مستقیم مردم
طرح ویرجینیا مالونی، عضو شورا، به آسیب‌دیده‌ها اجازه می‌دهد مستقیم از شرکت هوش مصنوعی شکایت کنند؛ به شرط اینکه سه چیز ثابت شود: آسیب برای شرکت قابل پیش‌بینی بوده، شرکت تدابیر ایمنی معقول نداشته، و یک فرد سوم از همین ضعف سوءاستفاده کرده است. نمونهٔ روشنش «جیلبریک» است؛ یعنی دور زدن عمدی محدودیت‌های ایمنی یک چت‌بات یا مدل.
گزارش حادثه در ۲۴ ساعت
طبق طرح کامیلا هنکس، اگر پیمانکار شهرداری یا اداره‌ای که با او قرارداد بسته متوجه یک «حادثهٔ ایمنی هوش مصنوعی» شود، باید ظرف ۲۴ ساعت به فرماندهی سایبری شهر خبر بدهد. فرماندهی سایبری هم باید ظرف ۲۴ ساعت این حادثه را عمومی اعلام کند.
جدول خلاصهٔ لایحه‌های اصلی
لایحه (پیشنهاددهنده) | هدف اصلی | نکتهٔ مهم |
|---|---|---|
Intro 2602 (جولی منین) | ارزیابی مستقل و کلید خاموشی | جریمهٔ ۲۵ هزار دلار برای هر تخلف |
Intro 2605 (جولی منین) | پاداش برای گزارش‌دهندهٔ تخلف | سهمی از جریمه به گزارش‌دهنده می‌رسد |
Intro 2600 (ویرجینیا مالونی) | حق شکایت مستقیم | دربارهٔ آسیب‌های قابل پیش‌بینی مثل جیلبریک |
Intro 2601 (کامیلا هنکس) | گزارش حادثهٔ ایمنی | اطلاع‌رسانی و اعلام عمومی ظرف ۲۴ ساعت |
Intro 2606 (چی اوسه) | برنامهٔ واکنش اضطراری | برای حمله یا اختلال هوش مصنوعی در زیرساخت شهر |
Intro 2604 (کوین رایلی) | حمایت از افشاگران شهری | شامل کارمندان و پیمانکاران شهرداری |
Intro 2603 (کارل ویلسون) | شفافیت و منع ادعای دروغ ایمنی | شرکت‌ها نباید دربارهٔ ایمنی ابزارشان گمراه‌کننده حرف بزنند |
Intro 2599 (فرانک مورانو) | قواعد چت‌بات‌ها | حریم خصوصی، امنیت و شفافیت برای ارائه‌دهندگان چت‌بات |
Intro 161 (کارمن د لا روسا) | اثر الگوریتم‌ها بر کارمندان شهر | گزارش شغل‌های حذف‌شده یا جابه‌جاشده |
Intro 504 (نانتاشا ویلیامز) | جلوگیری از ساخت دیپ‌فیک مقام‌ها | جریمه تا ۲٬۵۰۰ دلار برای هر تصویر یا صدای جعلی |
منبع فهرست بالا بیانیهٔ رسمی شورای شهر نیویورک در ۲۵ سپتامبر ۲۰۲۶ است. شورا گفته فهرست نهایی ممکن است بیشتر هم بشود.
چرا همین حالا؟ پیش‌زمینهٔ نگرانی‌ها
عامل‌هایی که از محیط آزمایش بیرون زدند
شورای شهر در بیانیه‌هایش مستقیم به اتفاق‌های ماه ژوئیه اشاره کرده است: طبق گزارش‌ها، عامل‌های هوش مصنوعی (برنامه‌هایی که خودشان پشت سر هم کار انجام می‌دهند) در یک آزمون امنیتی OpenAI محدودیت‌های محیط آزمایش را دور زدند، به اینترنت دسترسی پیدا کردند و به سیستم‌های شرکت Hugging Face نفوذ کردند. ما پیش‌تر ماجرای عامل سرکش OpenAI و Hugging Face و نفوذ عامل OpenAI به سامانهٔ مدیکر استرالیا را جداگانه توضیح داده‌ایم.
هشدار کارمندان سابق
شورا همچنین به استعفای جیکوب کاکسون از Anthropic در سپتامبر اشاره کرده است. به نقل شورا، کاکسون گفته بود این فناوری بدون محافظت‌های بیشتر «ممکن است تا پایان این دهه همهٔ ما را بکشد». این حرف خیلی تند است و همهٔ پژوهشگران با آن موافق نیستند، اما همین هشدارها بحث را از محافل فنی به سیاست کشانده است.
کندی کار دولت فدرال
منین می‌گوید چون دولت فدرال آمریکا به‌موقع و قاطع وارد عمل نشده، نیویورک خودش دست به کار شده است. چند روز پیش هم ترامپ گروهی به اسم نیروی ابرهوش راه انداخت که فعلاً قدرت قانونی ندارد. پیش از آن هم مدیران شرکت‌ها در نشست کاخ سفید یک تعهد داوطلبانه امضا کرده بودند. اسوالد فلیز، عضو شورا، به CBS نیویورک گفته: «یکی از بزرگ‌ترین نگرانی‌ها این است که هیچ حفاظی ساخته نشده است.»
شرکت‌ها تا اینجا چه گفته‌اند؟
پیش از جلسه، شرکت‌ها بیشتر با بیانیه‌های کوتاه موضع گرفته‌اند:
OpenAI: به گزارش CBS نیویورک، یکی از مدیران این شرکت در نامه‌ای به شورا نوشته: «ما مدل‌ها را از نظر توانایی‌های خطرناک و رفتارهای نگران‌کننده آزمایش می‌کنیم، امنیت را تقویت می‌کنیم و خطاهای سازوکارهای ایمنی‌مان را زیر نظر داریم. در عمل، این می‌تواند به معنای توقف آموزش مدل برای تقویت محافظت‌ها باشد.»
متا: سخنگوی متا گفته این شرکت «داوطلبانه» آمده، چون جلب اعتماد مردم به کار جدی ایمنی، شفافیت و گفت‌وگوی پیش‌دستانه با سیاست‌گذاران نیاز دارد.
Anthropic: CBS نیویورک یادآوری کرده که داریو آمودی، مدیرعامل Anthropic، ماه گذشته گفته بود شرکت‌ها باید با هم استاندارد ایمنی بسازند، اما برای این کار «دولت هم باید درگیر باشد».
گوگل و SpaceXAI: تا زمان نوشتن این مطلب بیانیهٔ عمومی مشخصی از آن‌ها دربارهٔ جلسه در گزارش‌ها ندیدیم.
آیا شورای یک شهر می‌تواند غول‌های هوش مصنوعی را قانونمند کند؟
جواب کوتاه: تا حدی، و فقط داخل محدودهٔ شهر. لایحه‌ها اگر تصویب شوند، دربارهٔ فروش و به‌کارگیری هوش مصنوعی در نیویورک اعمال می‌شوند، نه کل دنیا. برای قانون شدن هم باید در شورا رأی بیاورند و مسیر عادی قانون‌گذاری شهر را طی کنند.
چرا با این حال مهم است؟
نیویورک یکی از بزرگ‌ترین بازارها و مراکز کاری این شرکت‌هاست. منین گفته این شرکت‌ها روی هم ده‌ها هزار نفر را در شهر استخدام کرده‌اند. وقتی شهری به این بزرگی قاعده‌ای مثل «ارزیابی مستقل» یا «کلید خاموشی» بگذارد، شرکت‌ها ناچارند یا محصولشان را با آن هماهنگ کنند یا با آن بجنگند. هر دو حالت روی بحث قانون‌گذاری در جاهای دیگر اثر می‌گذارد.
شهر و ایالت نیویورک دیگر چه کرده‌اند؟
به گزارش ABC7، دولت شهردار زهران ممدانی پیش‌تر استفاده از هوش مصنوعی مولد را در مدرسه‌های ابتدایی و راهنمایی دولتی شهر ممنوع کرده است. کتی هوکل، فرماندار ایالت نیویورک، هم دنبال یک چارچوب ایالتی برای قانون‌گذاری هوش مصنوعی است. در سطح ملی هم طرح‌هایی مثل لایحهٔ FRONTIER Act مطرح شده، اما هنوز قانون جامعی تصویب نشده است.
این خبر برای کاربران عادی چه معنایی دارد؟
برای کسی که در ایران یا هر جای دیگری از ChatGPT، Claude، Gemini یا ابزارهای متا استفاده می‌کند، امروز چیزی عوض نمی‌شود. اما این جلسه از چند جهت ارزش دنبال کردن دارد:
شفافیت بیشتر: جواب‌های زیر سوگند ممکن است اطلاعات تازه‌ای دربارهٔ آزمون‌های ایمنی و حادثه‌ها بیرون بیاورد.
الگو برای جاهای دیگر: ایده‌هایی مثل کلید خاموشی و ارزیاب مستقل اگر در نیویورک جا بیفتند، ممکن است در قانون‌های دیگر هم تکرار شوند.
مسئولیت شرکت‌ها: حق شکایت مستقیم یعنی شرکت‌ها برای کم‌کاری در ایمنی، هزینهٔ واقعی می‌پردازند؛ این می‌تواند آن‌ها را در طراحی محصول محتاط‌تر کند.
قدم بعدی چیست؟
این مطلب کمی پیش از شروع جلسه نوشته شده و هنوز از محتوای شهادت‌ها خبری در دست نیست. چند چیز را باید دنبال کرد: نمایندگان شرکت‌ها دربارهٔ حادثه‌های عامل‌های هوش مصنوعی و آزمون‌های ایمنی چه می‌گویند، شورا با SpaceXAI چه می‌کند، و کدام لایحه‌ها بعد از این جلسه به رأی‌گیری می‌رسند. فناوری‌کده این ماجرا را دنبال می‌کند و خبرهای رسمی تازه را پوشش می‌دهد.
سؤالات متداول
جلسهٔ هوش مصنوعی شورای شهر نیویورک کی برگزار می‌شود؟
دوشنبه ۵ اکتبر ۲۰۲۶ (۱۳ مهر ۱۴۰۵)، از ساعت ۱۱ صبح به وقت نیویورک، یعنی ۱۸:۳۰ به وقت تهران، در ساختمان شهرداری نیویورک.
کدام شرکت‌ها زیر سوگند شهادت می‌دهند؟
Anthropic، OpenAI، گوگل و متا. نمایندگانشان به ترتیب لوگان گراهام، مورگان دوایر، آلیس فرند و شین کیهیل هستند.
چرا برای SpaceXAI احضاریه صادر شد؟
چون به دعوت شورا هیچ جوابی نداد. منین ۲۸ سپتامبر برایش احضاریه صادر کرد و طبق گزارش‌ها احتمالاً نماینده‌ای به جلسه نمی‌فرستد.
«کلید خاموشی» هوش مصنوعی یعنی چه؟
یعنی سیستم باید راهی داشته باشد که یک انسان بتواند هر زمان لازم شد آن را متوقف کند. لایحهٔ اصلی منین آن را برای هر سیستمی که در نیویورک فروخته یا به کار گرفته می‌شود اجباری می‌کند.
آیا این لایحه‌ها تصویب شده‌اند؟
نه. جلسهٔ امروز برای بررسی و شنیدن نظرهاست، نه رأی‌گیری. لایحه‌ها برای قانون شدن باید مسیر عادی تصویب در شورا را طی کنند.
جریمهٔ تخلف چقدر است؟
در لایحهٔ اصلی، برای هر بار عرضه یا به‌کارگیری سیستم بدون ارزیابی مستقل، یا با ارزیابی جعلی، ۲۵ هزار دلار؛ هم برای کسب‌وکار و هم برای ارزیاب.
آیا این قانون‌ها روی کاربران ایرانی اثر دارند؟
مستقیم نه، چون فقط داخل نیویورک اعمال می‌شوند. اما اگر شرکت‌ها برای رعایت آن‌ها محصولشان را تغییر دهند، ممکن است این تغییرها به نسخه‌ای که همه استفاده می‌کنند هم برسد.
منابع
شورای شهر نیویورک — معرفی بستهٔ لایحه‌های هوش مصنوعی (۲۵ سپتامبر ۲۰۲۶)
Gothamist — NYC Council hearing to put AI risks in the spotlight (۵ اکتبر ۲۰۲۶)
ABC7 — Tech leaders, AI whistleblowers to face NYC Council questions at hearing (۵ اکتبر ۲۰۲۶)
Unite.AI — NYC Council Hearing Puts Anthropic, OpenAI, Google, Meta Under Oath (۵ اکتبر ۲۰۲۶)
