به گزارش خبرنگار علم و فناوری ایسکانیوز، ترامپ پس از این دیدار اعلام کرد مدیران بزرگترین شرکتهای فناوری و هوش مصنوعی آمریکا با توافقی با عنوان «تعهد مشترک درباره مسئولیتهای پیشتازان فناوری» موافقت کردهاند. او این توافق را «الزامآور از نظر اخلاقی» توصیف کرد و گفت شرکتها برای اعمال «خودنظارتی گسترده» بر محصولات و فناوریهای خود متعهد شدهاند.
ترامپ گفت: این توافق از یک جهت تقریباً شبیه یک قانون اساسی است و بزرگترین افراد جهان آن را امضا کردهاند و من هم بهعنوان رئیسجمهور آن را امضا کردم و واقعاً نوعی محافظت است.
گفتنی است که در این نشست داریو آمودی، مدیرعامل آنتروپیک؛ گرگ براکمن از اوپنایآی؛ ساندار پیچای، مدیرعامل گوگل؛ مارک زاکربرگ، مدیرعامل متا؛ ایلان ماسک از ایکسایآی و جنسن هوانگ، مدیرعامل انویدیا حضور داشتند.
توافقی برای کنترل و حسابرسی شرکتهای هوش مصنوعی
براساس «تعهد مشترک درباره مسئولیتهای پیشتازان فناوری»، مدیران آنتروپیک، اوپنایآی، گوگل، متا، ایکسایآی و انویدیا متعهد شدهاند کنترلهای قوی برای نظارت بر مدلهای هوش مصنوعی اجرا کنند و تیمهای داخلی تشکیل دهند تا اطمینان حاصل شود تمامی کنترلها، نظارتها و سازوکارهای شناسایی خطرات مطابق هدف تعیینشده عمل میکنند و مشکلات برطرف میشوند.
شرکتها همچنین متعهد شدهاند با حسابرسان مستقل خارجی همکاری کنند تا مشخص شود تدابیر حفاظتی آنها مطابق هدف تعیین شده عمل میکند. آنها همچنین قرار است به طور منظم با یکدیگر دیدار کنند تا استانداردها و بهترین رویههایی را برای ارتقای ایمنی سامانههای خود تعیین کنند.
این توافق چهار لایه کنترل و حسابرسی را برای شرکتهای هوش مصنوعی در نظر گرفته است. لایه نخست، اجرای نظارت داخلی بر ایمنی در جریان آموزش مدلهاست؛ اقدامی که هماکنون نیز در آزمایشگاههای بزرگ هوش مصنوعی وجود دارد، اما تاکنون نتوانسته است از بروز همه شکستها در آزمایشهای ایمنی جلوگیری کند.
لایه دوم، ایجاد اختیار برای یک تیم داخلی است تا بررسی کند لایه نخست نظارت بهدرستی عمل میکند. در لایه سوم، شرکتها موافقت میکنند یک حسابرس خارجی به طور مستقل کنترلهای ایمنی آنها را ارزیابی کند. در نهایت، لایه چهارم از شرکتها میخواهد یک هیئت مستقل تعیین کنند تا گزارشهای مربوط به این کنترلهای ایمنی را بررسی کند.
با این حال، هیچیک از این کنترلها شامل نهادهای نظارتی دولتی نمیشود. توافق همچنین شرکتها را ملزم نمیکند جزئیات یافتههای ارزیابیهای مستقل را به صورت عمومی منتشر کنند. همچنین به نظر میرسد شرکتها میتوانند ارزیابان خود را انتخاب کنند، اعضای هیئتهای نظارتی خود را منصوب کنند و درباره انتشار یا عدم انتشار نتایج ارزیابیها تصمیم بگیرند.
در متن توافق مشخص نشده است چه نهادی ارزیابیهای شخص ثالث را انجام خواهد داد. همچنین آمده است که ممکن است در آینده «منطقی باشد» این اقدامات در قالب قانون یا مقررات رسمی تدوین شوند.
در متن توافق آمده است: صرفنظر از اینکه آیا اجرای این اقدامات از شرکتها خواسته شود یا خیر، ما معتقدیم اجرای این کنترلها و حسابرسیها برای تضمین آیندهای امن برای همه ضروری است و هر یک از شرکتهای ما متعهد به انجام این کار هستند.
توافق داوطلبانه در برابر درخواستها برای مقررات دولتی
این توافق در شرایطی امضا شده که دولت ترامپ با درخواستهای جامعه بینالمللی و برخی چهرههای صنعت فناوری برای افزایش مقررات هوش مصنوعی اختلاف نظر دارد. ترامپ بهطور کلی درخواستها برای افزایش مقررات در این حوزه را رد کرده و رقابت با چین و حفظ رشد اقتصادی را از دلایل این موضع عنوان کرده است.
به نظر میرسد تعهد مشترکی که ترامپ آن را در شبکه اجتماعی تروث سوشال منتشر کرد، سازوکار اجرایی یا پیامد قانونی مشخصی ندارد و در اصل یک تعهد داوطلبانه است. صنعت فناوری نیز در سالهای اخیر علیه نظارتهای قانونی سختگیرانه لابی کرده و استدلال کرده است که چنین نظارتی میتواند اقتصاد را تحت فشار قرار دهد.
ترامپ در جریان نشست با مدیران فناوری گفت: این باور وجود دارد که باید خودتنظیمی گستردهای وجود داشته باشد و ما بهطور خودکار از طریق وزارت دادگستری، افبیآی و همه این نهادها، مقررات را داریم.
مارک زاکربرگ نیز که در کنار ترامپ و دیگر مدیران ارشد فناوری در نشست خبری پس از ضیافت ناهار حضور داشت، گفت به این توافق افتخار میکند و افزود هدف آن اطمینان دادن به مردم آمریکا از قابل اعتماد بودن فناوریهای شرکتهاست.
زاکربرگ گفت: این یک شروع و توافقی است که کل صنعت میتواند بر سر آن به توافق برسد. این گفتوگو به نوعی تاریخی بود.
نگرانیها درباره خروج هوش مصنوعی از کنترل
توافق کاخ سفید پس از مجموعهای از حوادث مطرح شد که نگرانیها درباره رفتار خارج از کنترل سامانههای هوش مصنوعی و استفاده مخرب از آنها را افزایش داده است. در برخی موارد، عوامل هوش مصنوعی رفتارهایی خارج از کنترل نشان داده و حملات سایبری علیه سازمانها و نهادهای دولتی انجام دادهاند.
اوپنایآی روز دوشنبه اعلام کرد پس از شناسایی خطرات ایمنی در جریان آزمایشهای داخلی، مدل جدید هوش مصنوعی خود را منتشر نخواهد کرد. این شرکت همچنین بابت نحوه مدیریت مجموعهای از حوادث که در جریان آن عوامل هوش مصنوعی این شرکت بدون مجوز به وبسایتهای دولت استرالیا، از جمله یک پایگاه داده ملی حوزه سلامت، دسترسی پیدا کرده بودند، عذرخواهی عمومی کرد.
آنتروپیک نیز در ۱۰ سپتامبر گزارشی منتشر کرد که مجموعهای از حوادث را آشکار کرد. در این حوادث، بازیگران خارجی، که برخی از آنها در چین، روسیه و ایران مستقر بودند، از کلود در عملیات سایبری، نفوذ و اثرگذاری، نظارت و کلاهبرداری و همچنین برای پشتیبانی از توسعه تسلیحات استفاده کرده بودند.
گوگل نیز تلاشهایی از سوی بازیگران مرتبط با چین، روسیه، کره شمالی و ایران را شناسایی کرده است که در آنها از مدل هوش مصنوعی جمنای برای انجام عملیات هک، انتشار اطلاعات نادرست، جاسوسی و فعالیتهای مجرمانه استفاده شده بود.
گزارش آنتروپیک همچنین پنج مطالعه موردی از بازیگرانی ارائه کرد که از مدلهای این شرکت به شیوههایی استفاده کرده بودند که میتوانست از توسعه سلاحهای زیستی پشتیبانی کند.
نگرانیهای امنیتی فراتر از حملات سایبری
نگرانی درباره هوش مصنوعی بدون مقررات تنها به حملات سایبری محدود نمیشود. در متنهای مورد بررسی، احتمال استفاده از این فناوری برای ساخت سامانههای تسلیحاتی مرگبارتر، از سلاحهای متعارف تا سلاحهای کشتار جمعی، نیز مطرح شده است.
از دیگر نگرانیهای مطرحشده، احتمال شلیک موشک هستهای تحت تأثیر هوش مصنوعی، انتشار عوامل بیماریزای بسیار خطرناک که موجب همهگیری شوند و حمله به زیرساختهای حیاتی تأمینکننده نیازهای اساسی زندگی است.
جدا از این سناریوهای شدیدتر، هوش مصنوعی کنترلنشده میتواند زیرساختهای دیجیتالی را که زیربنای اقتصاد آمریکا و اقتصاد جهانی هستند، در معرض تهدید قرار دهد.
ترامپ: آمریکا نباید در رقابت با چین عقب بماند
یکی از محورهای اصلی موضع ترامپ درباره مقررات هوش مصنوعی، رقابت آمریکا و چین است. ترامپ بارها استدلال کرده که مقررات قدرتمند برای کاهش سرعت پیشرفت هوش مصنوعی میتواند با فراهم کردن امکان پیش افتادن چین، منافع ملی آمریکا را تهدید کند.
او ۲۱ سپتامبر در شبکه اجتماعی خود نوشت: هرکس هوش مصنوعی را ببرد، پیروز میشود! و چین را بهعنوان تهدید اصلی برای پیشتازی آمریکا در این حوزه معرفی کرد. ترامپ همچنین در سخنرانی خود در سازمان ملل مخالفت کامل دولتش را با «هرگونه تلاش برای ایجاد یک طرح جهانیگرا برای کنترل» هوش مصنوعی اعلام کرد.
در یکی از تحلیلهای ارائهشده در متن، این استدلال مطرح شده که پیشرفت سریع چین در حوزه هوش مصنوعی یکی از دلایل ضرورت توجه به مقررات صنعت هوش مصنوعی آمریکا است و کاهش سرعت پیشرفت آمریکا میتواند بر سرعت پیشرفت چین نیز اثر بگذارد.
مدلهای هوش مصنوعی چین فاصله چندانی با مدلهای آمریکایی ندارند و چین در یکی از عوامل حیاتی مورد نیاز برای سامانههای هوش مصنوعی، یعنی تولید برق، از مزیتی برخوردار است. در مقابل، آمریکا همچنان از نظر مدلهای پیشرفته، تراشههای رایانهای، توان محاسباتی و سطح سرمایهگذاری، جایگاه قدرتمندی دارد.
ارتباط پیشرفت چین با مدلهای آمریکایی
چین از فرآیندی موسوم به «تقطیر» استفاده میکند تا از مدلهای پیشرفته هوش مصنوعی آمریکا برای آموزش مدلهای خود بهره بگیرد. این فرآیند به چین امکان میدهد مدلهایی تقریباً به همان اندازه قدرتمند اما کارآمدتر تولید کند که به منابع بسیار کمتری نیاز دارند.
به گفته مت شیهان، پژوهشگر ارشد بنیاد کارنگی برای صلح بینالمللی، اتکای پکن به این فرآیند ناشی از محدودیت توان محاسباتی چین است؛ توانی که برآورد میشود تنها یکدهم توان آمریکا باشد.
بر همین اساس، سرعت پیشرفت هوش مصنوعی چین ارتباط نزدیکی با پیشرفت آمریکا دارد. شیهان برای توضیح این رابطه از تشبیه قایق تندرویی استفاده میکند که یک اسکیباز روی آب را میکشد: اگر آمریکا از سرعت پیشرفت هوش مصنوعی خود بکاهد، چین نیز ناچار خواهد شد سرعت خود را کاهش دهد.
در نتیجه، پیشروی بدون کنترل و با سرعت بسیار بالا، رویکردی که ترامپ از آن حمایت میکند، لزوماً تضمین نمیکند که آمریکا فاصله خود با چین در حوزه هوش مصنوعی را افزایش دهد.
چین نیز به دنبال مقررات هوش مصنوعی است
در متن همچنین تأکید شده است که استدلال «تهدید چین» در مخالفت با افزایش مقررات هوش مصنوعی در آمریکا بر این فرض استوار است که پکن نگرانیهایی درباره خطرات رشد کنترلنشده قدرت هوش مصنوعی ندارد؛ در حالی که رهبران چین نگرانیهایی درباره رشد کنترلنشده این فناوری در حوزههای امنیتی و امور داخلی مطرح کردهاند.
پکن از سال ۲۰۲۱ نخستین مجموعه بزرگ مقررات هوش مصنوعی خود را وضع کرد و مقامهای چینی در ماههای اخیر بارها خواستار افزایش نظارت داخلی و بینالمللی بر هوش مصنوعی شدهاند.
شی جینپینگ، رهبر چین، از پیشرفتهای هوش مصنوعی استقبال کرده است، اما در سخنرانی خود در کنفرانس جهانی هوش مصنوعی ۲۰۲۶ در شانگهای بر ضرورت فوری وضع مقررات و نظارت قدرتمند بر این فناوری تأکید کرد.
فو تسونگ، نماینده دائم چین در سازمان ملل، نیز در نشست شورای امنیت سازمان ملل درباره هوش مصنوعی و امنیت بینالمللی در ۲۳ سپتامبر، از ایجاد «چارچوب حکمرانی جهانی مبتنی بر اجماع» برای هوش مصنوعی دفاع کرد تا «ضمانتهای نهادی برای حفظ صلح و امنیت بینالمللی» ایجاد شود.
واکنشها به توافق کاخ سفید
توافق ترامپ روز سهشنبه با واکنشهای متفاوتی روبهرو شد و منتقدان به ماهیت غیرالزامآور آن و جزئیات محدود موجود در آن اشاره کردند.
دیوید ساکس، سرمایهگذار سیلیکونولی که پیشتر بهعنوان مسئول ارشد امور هوش مصنوعی در دولت ترامپ فعالیت میکرد، این توافق را در مقایسه با یک توافق بینالمللی مثبتتر دانست و گفت چنین توافق بینالمللیای به گفته او «احتمالاً هرگز اتفاق نخواهد افتاد».
آلوین وانگ گرایلین، پژوهشگر ارشد مرکز تحلیل چین در مؤسسه سیاست آسیای جامعه آسیا، از تعهد مدیران صنعت استقبال کرد، اما گفت این توافق با آنچه مورد نیاز است فاصله دارد.
او تأکید کرد آنچه در این توافق وجود ندارد، استقلال و هر چیزی است که از مرزها عبور کند؛ زیرا خود شرکتها اصول را تدوین کردهاند، خودشان حسابرس را استخدام میکنند و این تعهد نیز داوطلبانه است.
توبی والش، رئیس مؤسسه هوش مصنوعی دانشگاه نیوساوتولز در سیدنی استرالیا، گفت شرکتهای هوش مصنوعی پیشتر ثابت کردهاند که در مدیریت خود ناتوان بودهاند. او پرسید کدام صنعت دیگری با ارزش یک تریلیون دلار تکالیف خودش را تصحیح میکند و گفت وسوسه برای دور زدن قواعد بسیار زیاد است.
والش همچنین گفت مدیران ارشد شرکتها باید در قبال آسیبهایی که محصولاتشان ایجاد میکنند مسئول شناخته شوند.
دیوید کروگر، متخصص هوش مصنوعی در دانشگاه مونترال، نیز این توافق را مبهم و نمونه دیگری از اتکای دولت ترامپ به خودتنظیمی توصیف کرد. او گفت در متن توافق بر ارزیابان خارجی تأکید شده و این موضوع ممکن است در مقایسه با وضعیت فعلی به بهبود اندکی منجر شود، اما معتقد بود کاهش اندک خطر برای او کافی نیست.
آمودی و درخواست برای همگام شدن با مرزهای فناوری
این توافق در شرایطی امضا شد که برخی چهرههای صنعت فناوری نیز درباره سرعت توسعه هوش مصنوعی و ضرورت ایجاد تدابیر حفاظتی بیشتر هشدار دادهاند.
داریو آمودی، مدیرعامل آنتروپیک و یکی از شش امضاکننده توافق، خواستار کاهش سرعت توسعه و «همگام شدن با مرزهای فناوری» شده است. در کنار آمودی، گرگ براکمن از اوپنایآی، ساندار پیچای از گوگل، مارک زاکربرگ از متا، ایلان ماسک از ایکسایآی و جنسن هوانگ از انویدیا نیز این توافق را امضا کردهاند.
هفته گذشته نیز ۲۰ کشور و اتحادیه اروپا خواستار هماهنگی جهانی برای اطمینان از باقی ماندن هوش مصنوعی تحت کنترل انسان شدند. این درخواست شامل احتمال ایجاد یک نهاد نظارتی برای تعیین و اجرای استانداردها نیز بود.
ترامپ نام «هوش مصنوعی» را به «ابرهوش» تغییر داد
ترامپ همزمان با حمایت از خودتنظیمی شرکتها، فرمان اجرایی دیگری را امضا کرد که بر اساس آن نام «هوش مصنوعی» در اسناد و ارتباطات رسمی قوه مجریه آمریکا به «ابرهوش» تغییر میکند.
بر اساس این فرمان، تمامی وزارتخانهها و سازمانهای دولت آمریکا باید در مکاتبات رسمی، ارتباطات عمومی و اسناد سیاستگذاری از اصطلاحات «ابرهوش» و «SI» استفاده کنند و دیگر اصطلاحات «هوش مصنوعی» یا «AI» را به رسمیت نشناسند. این اقدام مشابه اظهارنظری است که ترامپ هفته گذشته در مجمع عمومی سازمان ملل مطرح کرد.
ترامپ در سازمان ملل گفته بود آمریکا هرگونه تلاش برای ایجاد یک سازوکار جهانی برای کنترل هوش مصنوعی را رد میکند و از این پس این فناوری بهطور رسمی «ابرهوش» نامیده خواهد شد.
در مقابل، آنتونیو گوترش، دبیرکل سازمان ملل، در همان نشست خواستار نظارت بیشتر بر هوش مصنوعی شده و هشدار داده بود که تصمیمهای مربوط به مرگ و زندگی نباید به ماشینها واگذار شود. او گفته بود «رباتهای قاتل» نباید جایی در آینده بشر داشته باشند.
به این ترتیب، توافق کاخ سفید میان ترامپ و مدیران شرکتهای بزرگ فناوری، چارچوبی داوطلبانه برای نظارت داخلی، حسابرسی خارجی و بررسی مستقل ایمنی مدلهای هوش مصنوعی ایجاد کرده است؛ چارچوبی که در آن نقش الزامآور نهادهای دولتی یا تعهد عمومی برای انتشار نتایج ارزیابیها پیشبینی نشده است. این توافق در شرایطی شکل گرفته که همزمان بحث درباره سرعت توسعه هوش مصنوعی، خطرات ایمنی آن، رقابت آمریکا و چین و ضرورت ایجاد چارچوبهای ملی و بینالمللی برای حکمرانی این فناوری ادامه دارد.
انتهای پیام/
نظر شما