رفتن به محتوای اصلی
حکمرانی هوش مصنوعینشست دیل‌بوک· 7 دقیقه مطالعه· در فناوری

جدال بر سر توقف توسعه هوش مصنوعی پیشرو در نشست دیل‌بوک: مهار سیستمی یا برپایی دولت نظارتی؟

دن هندریکس، مدیر مرکز ایمنی هوش مصنوعی، خواستار تعلیق نامحدود توسعه مدل‌های پیشرو شد؛ در مقابل، مکس هوداک، مدیرعامل ساینس کورپ، استدلال کرد که اعمال چنین محدودیت‌هایی عملاً نیازمند ایجاد سازوکار پلیسی و دولت نظارتی است. این مناظره شکاف عمیق صنعت فناوری میان کنترل خطرات وجودی و اجرای قوانین ضد انحصار را آشکار کرد.

به قلم غزل بختیاری

این خبر را به اشتراک بگذارید

گوش‌ دهید

نشست دیل‌بوک پیرامون هوش جامع مصنوعی (AGI) در نیویورک، روز شنبه شکافی عمیق را درباره نحوه تنظیم مقررات نسل بعدی هوش مصنوعی به نمایش گذاشت. دن هندریکس، مدیر مرکز ایمنی هوش مصنوعی، خواستار توقف و تعلیق نامحدود توسعه مدل‌های مرزی و پیشرو شد، در حالی که مکس هوداک، مدیرعامل ساینس کورپ، تأکید کرد که چنین توقفی در عمل مستلزم برپایی یک دولت نظارتی فراگیر است.[1][3][4]

این تبادل نظر نشان‌دهنده از بین رفتن اجماع میان متخصصان فناوری بر سر ریسک‌های وجودی و انحصار بازار است. هندریکس مشخصاً سرمایه‌گذاری‌های سنگین اخیر در آنتروپیک و اوپن‌ای‌آی را هدف گرفت و مسابقه دستیابی به هوش جامع مصنوعی را بدون وجود ضمانت‌های ایمنی قابل راستی‌آزمایی، ماهیتاً بی‌ملاحظه و خطرناک خواند.[1][2]

هوداک در پاسخ تأکید کرد که توقف توسعه مستلزم سازوکارهای اجرایی جهانی است که از نظر فنی ناممکن و از نظر سیاسی خطرناک خواهد بود. او به جای تعیین سقف برای قدرت پردازشی، اجرای جدی قوانین ضد انحصار را پیشنهاد کرد تا از انحصار زیرساخت‌های محاسباتی لازم برای آموزش مدل‌های پیشرفته توسط چند اَبَرشرکت محدود جلوگیری شود.[1][3]

بر اساس متن منتشرشده در نیویورک تایمز، هوداک در این نشست گفت: «توقف توسعه صرفاً یک خندق محافظتی رگولاتوری است که در پوشش ایمنی پنهان شده است. اگر آموزش مدل‌ها فراتر از یک آستانه معین را ممنوع کنید، عملاً رهبران کنونی بازار را تثبیت کرده و تحقیقات متن‌باز را جرم‌انگاری می‌کنید.»[4]

سازوکار اجرایی توقف توسعه

ایده توقف توسعه هوش مصنوعی مرزی تازه نیست، اما پیشنهاد هندریکس در این نشست آستانه‌های الزام‌آور مشخصی ارائه داد. او خواستار تعیین سقف قطعی برای توان محاسباتی آموزش مدل‌ها در حد ۱۰ به توان ۲۶ عملیات ممیز شناور (FLOPs) شد؛ سقفی که قوی‌ترین مدل‌های فعلی به‌سرعت در حال نزدیک شدن به آن هستند.

اجرای این محدودیت نیازمند ردیابی پردازنده‌های گرافیکی پیشرفته در سطح سخت‌افزار، به‌ویژه معماری‌های بلک‌ول و روبین انویدیا خواهد بود. مراکزی که میزبان بیش از ۱۰ هزار تراشه از این نوع باشند، باید مشمول رژیم‌های بازرسی بین‌المللی با الگوبرداری از معاهدات عدم اشاعه تسلیحات هسته‌ای قرار گیرند.

مدل‌های پیشرو هوش مصنوعی به سرعت به مرز پردازشی ۱۰ به توان ۲۶ فلاپس (آستانه پیشنهادی برای تعلیق توسعه) نزدیک می‌شوند.

مرکز ایمنی هوش مصنوعی روز شنبه گزارش سیاستی تکمیلی منتشر کرد که جزئیات عملکرد این سامانه ثبت سخت‌افزار را شرح می‌دهد. در این گزارش پیشنهاد شده است ماژول‌های احراز هویت رمزنگاری‌شده در دل سیلیکون‌های پیشرفته تعبیه شود تا رگولاتورها بتوانند وضعیت بهره‌برداری از خوشه‌های پردازشی را از راه دور نظارت کرده و فرایندهای آموزشی غیرمجاز را شناسایی کنند.

هندریکس در جمع حاضران گفت: «ما در حال ساخت سیستم‌هایی هستیم که شناخت کاملی از آن‌ها نداریم، آن هم در مقیاسی که هیچ نمونه تاریخی مشابهی ندارد. اتکا به خودتنظیمی شرکت‌ها وقتی تریلیون‌ها دلار پول در میان است، راهبرد محسوب نمی‌شود؛ بلکه شانه خالی کردن از مسئولیت است.»[4]

راهکار جایگزین: قوانین ضد انحصار

پاسخ هوداک بر پیامدهای اقتصادی و آزادی‌های مدنی ناشی از چارچوب هندریکس متمرکز بود. او استدلال کرد که ردیابی سخت‌افزاریِ پیشنهادی، مستلزم ایجاد سازوکار نظارت داخلی بی‌سابقه‌ای است که فعالیت‌های محاسباتی دانشگاه‌ها و شهروندان عادی را به یک اندازه زیر ذره‌بین قرار می‌دهد.[3][4]

هوداک به جای ایجاد محدودیت در آنچه ساخته می‌شود، پیشنهاد کرد دسترسی و کنترل بر منابع زیرساختی محدود شود. او موج اخیر سرمایه‌گذاری‌های چند میلیارد دلاری مایکروسافت، گوگل و آمازون در مراکز داده را تهدید اصلی علیه این زیست‌بوم دانست.[3]

هوداک استدلال کرد که با شکستن زنجیره یکپارچگی عمودی میان ارائه‌دهندگان خدمات ابری و توسعه‌دهندگان مدل‌ها، قانون‌گذاران می‌توانند این رقابت فشرده را به شکلی ارگانیک مهار کنند. اگر شرکت‌ها نتوانند هزینه آموزش مدل‌ها را از طریق انحصار کلود جبران کنند، واقعیت‌های اقتصادی مقیاس‌پذیری خودبه‌خود سرعت توسعه را متعادل می‌کند و نیازی به پلیس جهانی نخواهد بود.[3]

این مناظره نمایانگر تحولی عمیق‌تر در نگرش صنعت فناوری به حکمرانی هوش مصنوعی در اواخر سال ۲۰۲۶ است. با ارتقای مدل‌ها به کارکردهای عاملی خودکار — خروج از قالب چت‌بات‌های منفعل و تبدیل به سیستم‌هایی که وظایف چندمرحله‌ای را اجرا می‌کنند — مباحث تئوریک سال ۲۰۲۳ به نزاع‌های قانون‌گذاری واقعی بر سر کنترل صادرات سخت‌افزار و مجوز مراکز داده بدل شده است.

کانون مناقشه: محدودسازی توسعه از طریق ردیابی سخت‌افزار یا شکستن ساختار انحصاری شرکت‌های ابری.

واقعیت‌های بازار و خطر تصاحب مقرراتی

همزمانی رویارویی دیل‌بوک با سرازیر شدن حجم عظیمی از سرمایه به این حوزه معنادار است. عرضه اولیه سهام ۱۰۷.۳ میلیارد دلاری اخیر آنتروپیک و گسترش مستمر زیرساخت‌های اوپن‌ای‌آی این نگرانی را تقویت کرده که چند شرکت معدود در حال فاصله گرفتن جبران‌ناپذیر از بقیه فعالان صنعت هستند.[2]

هندریکس در جریان مناظره مشخصاً از آنتروپیک انتقاد کرد و گفت این شرکت مأموریت اولیه ایمنی‌محور خود را فدای تجاری‌سازی تهاجمی کرده است. او استدلال کرد که فشارهای مالی بازارهای عمومی عملاً امکان توقف داوطلبانه توسعه را از هر آزمایشگاه پیشرویی سلب می‌کند.[2][4]

منتقدان رویکرد توقف توسعه، از جمله شماری از حامیان جریان متن‌باز که در ادامه نشست سخنرانی کردند، با نگرانی‌های هوداک درباره پدیده «تصاحب مقرراتی» هم‌صدا شدند. آن‌ها معتقدند آزمایشگاه‌های پیشرو پنهانی از الزامات قانونی پرهزینه حمایت می‌کنند، زیرا تنها مجموعه‌هایی هستند که سرمایه لازم برای پرداخت این هزینه‌ها را دارند.[4][5]

تحلیل نوامبر ۲۰۲۶ نهاد ابتکار متن‌باز (OSI) نشان داد هزینه‌های انطباق با مقررات پیشنهادی برای مدل‌های مرزی می‌تواند از ۵۰ میلیون دلار برای هر نوبت آموزش مدل فراتر رود. چنین مانع مالی سنگینی عملاً محققان دانشگاهی و استارتاپ‌های مستقل را از حضور در لبه توسعه هوش مصنوعی حذف می‌کند.[5]

معضل رصد و ضمانت اجرا

بزرگ‌ترین مانع پیش روی طرح هندریکس، مسئله هماهنگی بین‌المللی است. با وجود آنکه ایالات متحده و اتحادیه اروپا محدودیت‌های صادراتی متعددی روی نیمه‌هادی‌های پیشرفته وضع کرده‌اند، ردیابی نحوه توزیع تراشه‌ها در سطح جهان بسیار دشوار بوده است.[1]

تحقیقات اخیر زنجیره تأمین فاش کرده است که هزاران پردازنده تحریم‌شده انویدیا همچنان از طریق شبکه‌های پیچیده شرکت‌های صوری در جنوب شرق آسیا و خاورمیانه به دیتاسنترهای غیرمجاز راه می‌یابند. بنابراین توقفی که تنها شرکت‌های قانون‌مدار غربی را هدف بگیرد، صرفاً توسعه مدل‌های پیشرفته را به حوزه‌های قضایی بدون نظارت منتقل خواهد کرد.

طرح گرافیکی: اعمال سقف محاسباتی نیازمند نظارت بازرسان بین‌المللی بر تأسیساتی با بیش از ۱۰ هزار تراشه پیشرفته است.

هوداک با دست گذاشتن بر همین نقطه‌ضعف تأکید کرد که یک توقف یک‌جانبه، فاجعه‌ای راهبردی خواهد بود. او تصریح کرد که کشورهای رقیب هرگز به چنین توقفی پایبند نخواهند بود و در نتیجه یک تدبیر ایمنی به زیان ژئوپلیتیکی بدل می‌شود.[3][4]

هوداک گفت: «نمی‌توان معماری ترنسفورمر را از حافظه تاریخ پاک کرد و غول را به چراغ بازگرداند. بهترین پدافند ما در برابر هوش مصنوعی ناهماهنگ، یک زیست‌بوم نامتمرکز متشکل از مدل‌های متنوع است، نه ایجاد گلوگاهی متمرکز که در کنترل چند تأمین‌کننده گزینش‌شده باشد.»[4]

افق پیش رو در سال ۲۰۲۷

تبادل نظرهای دیل‌بوک پیش‌درآمدی است بر نبردهای رگولاتوری که فضای سال ۲۰۲۷ را شکل خواهند داد. قانون‌گذاران در واشنگتن و بروکسل در حال حاضر مشغول تدوین نسخه‌های بعدی قوانین هوش مصنوعی هستند و استدلال‌های افرادی چون هندریکس و هوداک تأثیر پررنگی بر این روند دارد.

در حال حاضر، اکوسیستم فناوری به دو اردوگاه آشتی‌ناپذیر با الگوهای ارزیابی ریسک کاملاً متفاوت تقسیم شده است. یک جناح معتقد است این فناوری بدون ضمانت‌های ریاضیاتیِ قطعی بسیار خطرناک است، در حالی که جناح دیگر تأکید دارد نسخه‌های پیشنهادی — یعنی نظارت امنیتی و تمرکزگرایی — به مراتب وخیم‌تر از خطری است که قصد مهارش را دارند.

با آماده شدن تولیدکنندگان سخت‌افزار برای عرضه نسل بعدی رک‌های فوق‌متراکم سرور، فرصت برای توقف توسعه یا اعمال اصلاحات ساختاری ضد انحصار به‌سرعت در حال سوختن است. زیرساخت فیزیکی که هم‌اکنون نصب می‌شود، مسیر یک دهه آینده این حوزه را ترسیم خواهد کرد.

بازارهای مالی به این مناقشات وجودی توجه چندانی نشان نمی‌دهند و همچنان به پاداش دادن به توسعه بی‌وقفه زیرساخت‌ها ادامه می‌دهند. سهام نیمه‌هادی‌ها و غول‌های ارائه‌دهنده خدمات ابری در روزهای منتهی به نشست دیل‌بوک روندی صعودی داشتند که بیانگر باور بازار به نامحتمل بودن مداخله بازدارنده رگولاتورها در کوتاه‌مدت است.

بازارهای مالی به این مناقشات وجودی توجه چندانی نشان نمی‌دهند و همچنان به پاداش دادن به توسعه بی‌وقفه زیرساخت‌ها ادامه می‌دهند.

با این حال، آگاهی عمومی از توانایی‌های عاملی هوش مصنوعی در حال دگرگون کردن دیدگاه مصرف‌کنندگان است. نظرسنجی‌های تازه نشان می‌دهد ۶۲ درصد از رأی‌دهندگان حامی نظارت فدرال سخت‌گیرانه‌تر بر شرکت‌های توسعه‌دهنده سیستم‌های خودکار هستند؛ امری که پوشش سیاسی لازم را به قانون‌گذاران می‌دهد تا قوانین ساختاری سخت‌گیرانه‌ای را در سال آینده پیش ببرند.

سرنوشت این تقابل در نهایت به عملکرد واقعی نسل آتی مدل‌ها وابسته خواهد بود. اگر سامانه‌هایی که هم‌اکنون روی خوشه‌های عظیم ۱۰۰ هزار پردازنده‌ای آموزش می‌بینند، پس از انتشار رفتارهای غیرمنتظره و خطرناکی بروز دهند، درخواست هندریکس برای تعلیق پروژه‌ها می‌تواند از یک پیشنهاد حاشیه‌ای به یک الزام سیاسی فوری بدل شود.

نکات کلیدی

  • دن هندریکس خواستار سقف‌گذاری قطعی بر توان پردازشی آموزش هوش مصنوعی در حد ۱۰ به توان ۲۶ فلاپس از طریق ردگیری سخت‌افزاری شد.
  • مکس هوداک استدلال کرد تعلیق توسعه مستلزم ایجاد نظارت اطلاعاتی بی‌سابقه است و راهکار مناسب‌تر را تجزیه انحصارهای ابری دانست.
  • هندریکس از روند تجاری‌سازی آنتروپیک انتقاد کرد و رقابت برای دستیابی به AGI را بدون تضمین‌های شفاف ایمنی، بی‌ملاحظه خواند.
  • طرفداران متن‌باز هشدار دادند که هزینه‌های سرسام‌آور انطباق برای مدل‌های پیشرو، تحقیقات مستقل را عملاً غیرقانونی کرده و به تثبیت انحصارگران منجر می‌شود.

آنچه نمی‌دانیم

  • آیا دولت جدید ایالات متحده اولویت را به اجرای قوانین ضد انحصار خواهد داد یا تشدید کنترل‌های امنیتی بر صادرات؟
  • تولیدکنندگان سخت‌افزار چگونه ماژول‌های ردیابی رمزنگاری‌شده مدنظر مرکز ایمنی هوش مصنوعی را پیاده‌سازی خواهند کرد؟
  • آیا کشورهای رقیب از تعلیق داوطلبانه توسعه در غرب برای دستیابی به برتری فناورانه بهره‌برداری خواهند کرد؟

روند رویداد

  1. ۲۰۲۳

    طرح اولیه مباحث تئوریک پیرامون خطرات وجودی هوش مصنوعی در محافل عمومی و رسانه‌ای.

  2. اکتبر ۲۰۲۶

    عرضه اولیه سهام ۱۰۷.۳ میلیارد دلاری شرکت آنتروپیک و ورود سرمایه‌های کلان به بخش هوش مصنوعی مرزی.

  3. ۱۸ نوامبر ۲۰۲۶

    انتشار گزارش بنیاد ابتکار متن‌باز مبنی بر هزینه ۵۰ میلیون دلاری انطباق مقرراتی به ازای هر آموزش مدل.

  4. ۲۱ نوامبر ۲۰۲۶

    مناظره دن هندریکس و مکس هوداک درباره تعلیق توسعه هوش مصنوعی در نشست دیل‌بوک نیویورک.

حامیان ایمنی وجودی 40%طرفداران تمرکززدایی 40%غول‌های تجاری مستقر 20%
حامیان ایمنی وجودی
معتقدند هوش جامع مصنوعی خطری وجودی برای بشر است و تضمین ایمنی آن نیازمند سقف‌گذاری سخت‌گیرانه روی توان پردازشی و نظارت سخت‌افزاری است.
طرفداران تمرکززدایی
باور دارند سقف پردازش صرفاً به انحصار بازار و برپایی دولت نظارتی دامن می‌زند و راهکار واقعی را در شکستن غول‌های انحصارگر و گسترش متن‌باز می‌دانند.
غول‌های تجاری مستقر
بر گسترش پرشتاب و تجاری‌سازی مدل‌های لبه فناوری تمرکز دارند و در عمل با هرگونه محدودیت پردازشی یا تجزیه ضد انحصاری مخالفت می‌کنند.

دیدگاه‌هایی که این گزارش پوشش نداده

  • نهادهای قانون‌گذار بین‌المللی خارج از ایالات متحده و اتحادیه اروپا
  • تولیدکنندگان سخت‌افزار که وظیفه اجرای ماژول‌های ردیابی را بر عهده خواهند داشت

منابع

پوشش منابع

5 منبع

3 دیدگاه شناسایی‌شده

حامیان ایمنی وجودی 40%طرفداران تمرکززدایی 40%غول‌های تجاری مستقر 20%
  1. [1]The Next Webحامیان ایمنی وجودی

    Dan Hendrycks calls for a pause on frontier AI, Max Hodak pushes back

    مطالعه در The Next Web →
  2. [2]AI Weeklyغول‌های تجاری مستقر

    Hendrycks Calls Anthropic Reckless on DealBook AGI Panel

    مطالعه در AI Weekly →
  3. [3]INSIGHTEXطرفداران تمرکززدایی

    Hendrycks urges indefinite frontier AI pause as Hodak argues for antitrust instead

    مطالعه در INSIGHTEX →
  4. [4]The New York Timesغول‌های تجاری مستقر

    DealBook Summit: AI Leaders Debate the Future of Regulation

    مطالعه در The New York Times →
  5. [5]Open Source Initiativeطرفداران تمرکززدایی

    The Cost of Compliance: How Frontier AI Regulation Impacts Open Research

    مطالعه در Open Source Initiative →
گوش‌ دهید

نظرات

همیشه در جریان باشید

هر زاویه. هر روز.

اخبار فناوری با پوشش کامل منابع و تحلیل دیدگاه‌ها، هر روز و رایگان.