گزارشی از یک هفته پرهیاهو در سیاست‌گذاری برای آینده هوش مصنوعی

ناهار در کاخ سفید

سه‌شنبه ۲۹ سپتامبر ۲۰۲۶ (۷ مهر ۱۴۰۵) دونالد ترامپ میزبان رهبران بزرگ‌ترین شرکت‌های هوش مصنوعی جهان بود. داریو آمودی از آنتروپیک، ساندار پیچای از گوگل، مارک زاکربرگ از متا، گرگ براکمن از اوپن‌ای‌آی، جنسن هوانگ از انویدیا و ایلان ماسک، بنیان‌گذار ایکس‌ای‌آیکه اکنون بخشی از اسپیس‌اکس است، سندی را امضا کردند که ترامپ بعدتر آن را در شبکه اجتماعی تروث سوشال منتشر کرد. به نوشته آسوشیتدپرس جف بزوس بنیانگذار آمازون هم در نشست حضور داشته است.

پیمانی با نام ابرهوش

نام رسمی سند، «پیمان کاخ سفید درباره‌ ابرهوش: تعهد مشترک درباره مسئولیت‌های هوش مصنوعی مرزی» است. مایک جانسون، رئیس مجلس نمایندگان، آن را داوطلبانه خواند و ترامپ تأکید کرد که صنعت «خودش را پلیس می‌کند». وقتی خبرنگاران از او پرسیدند پیمان الزام‌آور است یا نه، ترامپ گفت از نظر اخلاقی الزام‌آور است. او آن را «تقریباً مثل یک قانون اساسی» هم توصیف کرد.

اما محتوای این سند چیست؟ طبق گزارش سی‌بی‌اس، شرکت‌ها به «چهار لایه کنترل و ممیزی» متعهد شده‌اند: ارزیابی درونی، ممیزی توسط یک شرکت بیرونی و بازبینی هیئت‌مدیره هر شرکت. ترامپ گفت درباره کمیته‌ای ده‌نفره برای نظارت هم صحبت شده و قصد دارد ظرف سه چهار روز آینده یک «مسئول ارشد هوش مصنوعی» معرفی کند.

منتقدان به کم‌جزئیاتی سند اشاره می‌کنند. ای‌بی‌سی نیوز می‌نویسد سند فقط می‌گوید امضاکنندگان «باور دارند» هر شرکت «باید» مجموعه‌ای از کنترل‌ها و ممیزی‌ها را اجرا کند. یک سایت تحلیلی نیز تأکید می‌کند که این پیمان شش شرکت را در بر می‌گیرد و هیچ جریمه‌ای ندارد. واژه «ابرهوش» هم بخشی از ماجراست. کاخ سفید این نام را در بحبوحه تلاش ترامپ برای جایگزینی «هوش مصنوعی» در اسناد دولتی انتخاب کرد. با این حال با وجود حضور این واژه در عنوان، توافق صریحی میان شرکت‌ها برای استفاده از آن وجود ندارد. دیوید ساکس، مشاور سابق ترامپ در حوزه هوش مصنوعی، از پیمان استقبال کرد و گفت فقط ترامپ می‌توانست رهبران شرکت‌های تراشه، مراکز داده و مدل‌های مرزی را دور یک میز جمع کند. یک وب‌سایت تحلیلی هم، بدون تأیید مستقل، نوشته که مارک زاکربرگ نگرانی‌اش از مقررات آینده را با جانسون در میان گذاشته و سپس از جیسون هوانگ خواسته در تدوین اصولی کمک کند که صنعت بتواند آن‌ها را به نشست بعدی با ترامپ ببرد.

بیل گیتس: به صنعت تکیه نکنید!

چند روز پیش از نشست، بیل گیتس، هم‌بنیان‌گذار مایکروسافت، در گفت‌وگو با کریستن ولکر در برنامه‌ «ملاقات با مطبوعات» ان‌بی‌سی (پخش شده در یکشنبه ۲۷ سپتامبر) موضع دیگری گرفت. او گفت هیچ‌کس خودتنظیمی را کافی نمی‌داند. به گفته او قانون‌گذاران و مأموران اجرای قانون باید وارد بحث درباره‌ پادمان‌ها و نظارت شوند و این باید الزامی باشد. او در گفت‌وگو با نیویورک تایمز هم گفت به همین دلیل با صدای بلند حرف می‌زند: نمی‌شود روی خودتنظیمی صنعت حساب کرد. هشدارهای او تند بود: هوش مصنوعی آن‌قدر قدرتمند هست که رویدادهایی را رقم بزند که یک میلیارد کشته بر جا بگذارد. او گفت هوش مصنوعی می‌تواند به طراحی مولکول‌های تازه و حتی عاملی بدتر از آبله کمک کند، کاری که پیش‌تر به منابع یک دولت نیاز داشت و حالا از دست گروه‌های کوچک هم برمی‌آید. به باور او خطر فوری استفاده‌ افراد بدخواه از این ابزارها از خطر بلندمدت خروج هوش مصنوعی از کنترل بزرگ‌تر است. درباره «کلید خاموشی» هم گفت داشتن آن به‌تنهایی کافی نیست!

اما بیل گیتس طرفدار توقف توسعه هوش مصنوعی نیست. به گزارش فوربس، او اعلام کرده در دیدار احتمالی با ترامپ خواستار الزامی برای همه سامانه‌های هوش مصنوعی در آمریکا خواهد بود و نه کند کردن توسعه آنها. او معتقد است این مقررات کمی سربار برای صنعت دارد و سرعت کار را چشمگیر کم نمی‌کند. او به پرسشی درباره کنترل‌ناپذیر بودن هوش مصنوعی پاسخ منفی داد و گفت: هم تنظیم‌گری دولتی لازم است و هم خودتنظیمی صنعت. گیتس همچنین گفت این نگرانی‌ها اصلاً «شیادی» نیست، در جواب ترامپ که پیش‌تر درخواست‌ها برای قانون‌گذاری جدید را عمومی شیادی خوانده بود.

مایکل بری: آیا این هیاهوها ترفندی تجاری است؟

صدای سوم در این موضوع از سمت وال‌استریت شنیده شد. مایکل بری، سرمایه‌گذاری که در بحران بازار مسکن سال ۲۰۰۸ به شهرت رسید، در نیمه سپتامبر در شبکه اجتماعی ایکس نوشت: باید لحظه‌ای فکر کرد که گفتگوی مدیران اوپن‌ای‌آی، آنتروپیک و ابرمقیاس‌داران درباره کند کردن روند به نظر بیشتر خدمت‌گذاری به خودشان است تا دیگران! او برای استدلال خود چند دلیل بر شمرد از جمله اینکه: مدل‌های زبانی بزرگ هوش مصنوعی واقعی نیستند و هنوز به سطح هوش عمومی نمی‌رسند، پس چیزی برای کند کردن وجود ندارد. یا اینکه رقابت دارد سریع بالا می‌گیرد و کند کردن به نفع بازیگران جاافتاده بازار است که برای عرضه اولیه سهام به هیاهو و سر و صدا نیاز دارند.

هشدارهای مایک بری ودر توئیتر مورد توجه و تایید جیکوب کاکسون، کارمند سابق آنتروپیک، قرار گرفت. بخش دوم حرف بری، یعنی اتهام تسخیر نهاد ناظر، بیشتر از بقیه‌ استدلال‌های او جلب توجه کرده و ران دسانتیس، فرماندار فلوریدا، هم گفته شرکت‌های بزرگ ساختاری می‌خواهند که شرکت‌های کوچک‌تر را از رقابت کنار بگذارد.

ادعاهای بری قابل بحث است اما چندان مستحکم و مبتنی بر شواهد نیستند. خصوصا آنجا که خود او هم به عنوان یک سرمایه‌گذار در این بین ذینفع است! نهایتا یک سؤال مهم هنوز بی‌پاسخ باقی مانده‌است: اگر این پیمان فردا به یک قانون در آمریکا تبدیل شود، چه کسی بار مالی ممیزی‌های بیرونی و هیئت‌مدیره‌ها را تحمل خواهد کرد؟ شرکت‌های شش‌گانه با میلیاردها دلار سرمایه، یا بقیه صنعت؟