به گزارش خبرنگار علم و فناوری ایسکانیوز؛ چند روز پیش جو بایدن، رئیس جمهور آمریکا، دستور اجرایی گسترده‌ای را برای کنترل هوش مصنوعی با الزام آزمایش‌های ایمنی قبل از انتشار مدل‌های عمومی صادر کرد و در همین راستا «کامالا هریس»، معاون رئیس جمهور که «تزار هوش مصنوعی» لقب گرفته است، هدف از این اقدام را ایجاد نظم و ثبات جهانی و همچنین تبدیل نشدن این فناوری به سلاح دانسته است.

هریس همچنین ادعا کرد که آمریکا رهبر جهانی در هوش مصنوعی است و دولت آمریکا همین الان هم برای رسیدگی به خطرات رسانه‌های اجتماعی دیر جنبیده است، زیرا کار به جایی رسیده که جوانان آمریکایی با مسائل مربوط به سلامت روان دست و پنجه نرم می‌کنند.

هریس گفت که او و بایدن در یک جلسه توجیهی با تمرکز بر ایمنی، امنیت و اعتماد سیستم‌هایی مانند چت‌جی‌پی‌تی شرکت OpenAI بارد شرکت گوگل صحبت کرده‌اند و این جلسه توجیهی برای مهار هوش مصنوعی و قبل از آن است که این فناوری بتواند مفاهیم اولیه حقیقت را با تصاویر نادرست تحریف کند، نابرابری‌های نژادی و اجتماعی را عمیق‌تر کند، ابزاری را برای کلاهبرداران و مجرمان فراهم کند و برای جنگ استفاده شود.

هریس همچنین قرار است که امروز به بریتانیا سفر کند تا در اجلاس جهانی ایمنی هوش مصنوعی شرکت کند. خودش در این مورد گفت: در این کنفرانس، با متحدان و شرکای خود برای اعمال قوانین و هنجارهای بین‌المللی موجود با هدف ارتقای نظم و ثبات جهانی کار خواهیم کرد.

تقریباً ۱۵ شرکت پیشرو با اجرای تعهدات داوطلبانه ایمنی هوش مصنوعی موافقت کرده‌اند، اما دستور اجرایی با هدف ارائه مقررات مشخص برای توسعه فناوری است. چندین شرکت، از جمله مایکروسافت و OpenAIنیز در مقابل کنگره شهادت داده‌اند و از شرایط ایمنی چت‌بات‌هایشان دفاع کرده‌اند.

دستور اجرایی جدید هوش مصنوعی چیست؟

دستور جدید نشان دهنده تلاش دولت برای شکل دادن به چگونگی تکامل هوش مصنوعی به گونه‌ای است که بتواند امکانات خود را به حداکثر برساند و خطرات آن را مهار کند.

هوش مصنوعی با پتانسیل تأثیرگذاری بر اقتصاد و امنیت ملی، منبع علاقه عمیق شخصی بایدن است. بایدن قبل از امضای این دستور گفت که هوش مصنوعی با «سرعت پیچیده» باعث ایجاد تغییرات می‌شود و پتانسیل فوق‌العاده و همچنین خطراتی را به همراه دارد. برای تحقق وعده هوش مصنوعی و اجتناب از خطر، باید این فناوری را مدیریت کنیم.

بیشتر بخوانید:

غول‌های فناوری و اعضای کنگره آمریکا برای تعیین قانون هوش مصنوعی گردهم آمدند

به گفته بایدن، دیپ‌فیک‌ها اطلاعات نادرست را به اشتراک می‌گذارند، روبات‌های هوش مصنوعی از مردم کلاه‌برداری می‌کنند و چت‌بات‌ها نشانه‌هایی از جانبداری را نشان می‌دهند.

این در حالی است که ماه مه گذشته، سام آلتمن، بنیانگذار OpenAI به مدت پنج ساعت در مورد اینکه چت‌جی‌پی‌تی و مدل‌های آن چگونه می‌توانند «تاریخ بشر» را بهتر یا بدتر شکل دهند و به ماشین چاپ یا بمب اتمی تبدیل شوند، استنطاق شد.

به گفته «جف زینتز»، رئیس کارکنان کاخ سفید، بایدن به تیم خود دستور داده که فورا در مورد خطرات هوش مصنوعی اقدام کنند، زیرا این فناوری اولویت اصلی است. بایدن همواره تکرار کرده که ما باید به همان سرعتی حرکت کنیم که هوش مصنوعی در حال توسعه و پیشرفته است.

کاخ سفید در بیانیه خود نوشته است: یکی از اهداف مهم فرمان اجرایی رئیس جمهور، تدوین مقررات اجرایی برای پیشگیری از به کار بردن فناری هوش مصنوعی برای تشدید تبعیض در زمینه‌هایی مثل اجاره و خرید و فروش مسکن، خدمات اجتماعی دولت فدرال و همچنین تخصیص قراردادهای دولتی است.

آزمایش هوش مصنوعی

قرار است که شرکت‌های هوش مصنوعی آزمایش‌های خود را برای از بین بردن اطلاعات نادرست، تعصب یا نژادپرستی انجام ‌دهند. ترس از هوش مصنوعی در حالی است که کارشناسان پیش‌بینی می‌کنند تا سال ۲۰۴۵ به «تکینگی» دست یابد، یعنی از هوش انسانی پیشی بگیرد و از کنترل انسان خارج شود.

براساس دستورالعمل جدید بایدن، توسعه دهندگان پیشرو هوش مصنوعی باید نتایج تست ایمنی و سایر اطلاعات را با دولت به اشتراک بگذارند. این دستور همچنین شرکت‌های توسعه دهنده هوش مصنوعی را ملزم می‌کند که اگر مدل‌ها نشانه‌هایی از خطر برای امنیت ملی، سلامت عمومی و ایمنی نشان دادند، به دولت فدرال اطلاع دهند.

مؤسسه ملی استاندارد و فناوری باید استانداردهایی ایجاد کند تا اطمینان حاصل شود که ابزارهای هوش مصنوعی قبل از انتشار عمومی ایمن و ایمن هستند.

وزارت بازرگانی قرار است در خصوص برچسب‌گذاری و واترمارک کردن محتوای تولید شده توسط هوش مصنوعی راهنمایی‌هایی را صادر کند تا به تمایز بین تعاملات معتبر و آنهایی که توسط نرم‌افزار تولید می‌شوند، کمک کند.

در دستورالعمل آمده است که هدف آن محافظت در برابر خطرات استفاده از هوش مصنوعی برای مهندسی مواد بیولوژیکی خطرناکی است که مستلزم ارائه استانداردهای جدید قوی برای غربالگری سنتز بیولوژیکی است. این دستور همچنین به حریم خصوصی، حقوق مدنی، حمایت از مصرف کننده، تحقیقات علمی و حقوق کارمندان اشاره می‌کند.

دید مثبت بایدن

در حالی که بیشتر دستورها به خطرات توسعه هوش مصنوعی مربوط می‌شود، بایدن از پتانسیل این فناوری برای بهره‌مندی عموم از طریق ساخت محصولات بهتر، ارزان‌تر و گسترده‌تر کاملا آگاه است و از آن حمایت می‌کند.

مزایای هوش مصنوعی با توسعه داروهای مقرون‌به‌صرفه و نجات‌دهنده دیده شده است، و فرمان اجرایی بیان می‌کند که وزارت بهداشت و خدمات انسانی هم یک برنامه ایمنی برای دریافت گزارش‌ها و اقداماتی برای اصلاح مضرات یا اقدامات ناایمن مراقبت‌های بهداشتی شامل هوش مصنوعی ایجاد خواهد کرد.

تبعات دستور جدید

در فرمان اجرایی که در کاخ سفید به امضای جو بایدن رسید، تمام تولیدکنندگان فناوری هوش مصنوعی موظف خواهند شد که طبق «قانون تولیدات دفاعی»، قبل از عرضه محصولات خود، نتایج آزمایش‌های ایمنی و تاثیر آن بر امنیت ملی، اقتصاد، سلامت عمومی و ایمنی مردم را در اختیار دولت قرار دهند. این فرمان اجرایی در عین حال، تمامی نهادهای دولت فدرال را موظف می‌کند که برای آزمایش این فناوری و ریسک احتمالی شیمیایی، رادیواکتیو، هسته‌ای و سایبری آنها مقررات دقیقی تدوین کنند.

«نت چویس»، اتحادیه سراسری تجاری که دربرگیرنده شرکت‌های بزرگ فناوری دیجیتال است، این فرمان اجرایی را «مقررات دست و پاگیری» توصیف کرد که با جلوگیری از ورود شرکت‌های جدید به این بازار، قدرت دولت فدرال را برای کنترل اختراعات و نوآوری‌ها در آمریکا به شکل چشمگیری افزایش می‌دهد.

مدیر یک شرکت مالی که در فناوری دیجیتال و هوش مصنوعی سرمایه‌گذاری کلانی دارد، ضمن استقبال از این تصمیم هشدار داد که بسیاری از شرکت‌های مخترع در عرصه هوش مصنوعی از بیم درز کردن اطلاعات مربوط به اختراعاتشان به شرکت‌های رقیب، با دولت به ‌طور کامل همکاری نخواهند کرد.

او افزود: ایده اصلی این فرمان عالی است، اما بدون یک مکانیسم قوی اجرایی که به نظر می‌رسد این فرمان فاقد آن است، پایبندی به آن بسیار محدود خواهد بود.

کاخ سفید با انتشار بیانیه‌ای در این زمینه اعلام کرد: به عنوان بخشی از این فرمان اجرایی، وزارت بازرگانی راهنماهایی در مورد راستی آزمایی و ثبت محصولاتی که با هوش مصنوعی تولید شده و یا کار می‌کنند، منتشر خواهد کرد تا نظرات دولت در این زمینه به‌ طور کامل روشن شود.

یک مقام ارشد آمریکایی پیش از صدور فرمان اجرایی رئیس جمهور، انتقادها از کندی واشنگتن در این زمینه را در مقایسه با اتحادیه اروپا مردود دانست و گفت: از نظر کاخ سفید اقدام کنگره آمریکا نیز در این مورد ضروری است. او خاطر نشان کرد که دولت بایدن از کنگره خواسته است در این زمینه، به‌خصوص حفاظت از داده‌های خصوصی شهروندان، قوانین موثری تصویب کند.

مارک وارنر، رئیس دموکرات کمیته امور امنیتی مجلس سنا، نیز در بیانیه خود، اقدام دولت را گام بسیار مثبتی دانست و افزود: اما ما به تصویب قوانین بیشتری نیاز داریم.

مقامات آمریکایی هشدار داده‌اند که فناوری هوش مصنوعی می‌تواند خطر انتشار مضامین جانبدارانه و نقض حقوق مدنی در این کشور را افزایش دهد.

نشست نگرانی‌های ایمنی هوش مصنوعی در بریتانیا

دولت بایدن با سفر رهبران جهانی و مدیران ارشد فناوری به پارک بلچلی بریتانیا برای نشستی در مورد نگرانی‌های ایمنی در مورد هوش مصنوعی، با تمرکز ویژه بر سناریوهای فاجعه‌بار از راه‌های سوء استفاده از هوش مصنوعی، مجموعه‌ای از اقدامات مرتبط با هوش مصنوعی را انجام می‌دهد. در حالی که بقیه کشورها - به ویژه اتحادیه اروپا - برای تنظیم هوش مصنوعی رقابت می‌کنند، دولت بایدن تلاش می‌کند نشان دهد که آمریکا نه تنها در نوآوری صنعت، بلکه در سیاست نیز پیشتاز است.

کامالا هریس امروز از ابتکارات جدیدی برای رسیدگی به نگرانی‌های ایمنی در مورد هوش مصنوعی رونمایی خواهد کرد، زیرا دولت بایدن به دنبال این است که نشان دهد که در مقررات هوش مصنوعی در جهان پیشگام است.

او در طی یک سخنرانی در لندن اعلام خواهد کرد که آمریکا در حال ایجاد یک موسسه ایمنی هوش مصنوعی جدید است که ارزیابی‌هایی را به نام «تیمینگ قرمز» برای ارزیابی خطرات سیستم‌های هوش مصنوعی توسعه می‌دهد. او همچنین پیش‌نویس مقررات جدیدی را در مورد استفاده کارمندان فدرال از هوش مصنوعی که می‌تواند پیامدهای گسترده‌ای در سراسر سیلیکون ولی داشته باشد، رونمایی خواهد کرد.

انتظار می‌رود این سخنرانی برنامه‌ریزی متقابلی را برای تمرکز اجلاس بر سناریوهای روز رستاخیز فناوری، از جمله روش‌هایی که هوش مصنوعی می‌تواند برای استقرار سلاح‌های زیستی استفاده کند، ارائه دهد. به گفته یکی از مقامات کاخ سفید، انتظار می‌رود معاون رئیس‌جمهور از جامعه بین‌المللی بخواهد تا به طیف کامل خطرات هوش مصنوعی، از جمله مشکلاتی مانند تبعیض، رسیدگی کند.

انتهای پیام/