به گزارش خبرنگار علم و فناوری ایسکانیوز، هوش مصنوعی در شرایطی با سرعتی بی‌سابقه در حال توسعه است که نگرانی درباره پیامدهای آن، از ایمنی و حریم خصوصی تا تبعیض، نظارت و استفاده‌های مخرب، در میان افکار عمومی و حتی مدیران شرکت‌های بزرگ فناوری افزایش یافته است. در گزارشی که هم‌زمان با برگزاری چهارمین مجمع جهانی یونسکو درباره اخلاق هوش مصنوعی منتشر شد، ۷۳ درصد مردم درباره خطرات احتمالی هوش مصنوعی ابراز نگرانی کرده‌اند و ۷۱ درصد نیز خواستار وضع مقررات برای کاهش این خطرات بوده‌اند. در همین حال، گزارش مذکور پیش‌بینی می‌کرد ۴۰ درصد شرکت‌ها استفاده خود از هوش مصنوعی را گسترش دهند و سرمایه‌گذاری جهانی در این حوزه از ۲۰۰ میلیارد دلار فراتر رود.

چهارمین مجمع جهانی یونسکو درباره اخلاق هوش مصنوعی (GFEAI ۲۰۲۶) از ۱۴ تا ۱۷ سپتامبر ۲۰۲۶ در ریاض برگزار شد؛ رویدادی که با مشارکت یونسکو و عربستان سعودی و با نمایندگی سازمان داده و هوش مصنوعی عربستان سعودی (SDAIA) و مرکز بین‌المللی پژوهش و اخلاق هوش مصنوعی (ICAIRE) برگزار شد و موضوع اصلی آن «تحول همکاری جهانی برای حکمرانی اخلاقی هوش مصنوعی» بود.

این مجمع در شرایطی برگزار شد که بحث درباره سرعت توسعه هوش مصنوعی حتی در میان مدیران بزرگ این صنعت نیز بالا گرفته است. چند روز پیش از آغاز مجمع، داریو آمودی، مدیرعامل آنتروپیک، در مقاله‌ای با عنوان «We Must Pace the Frontier» خواستار کاهش سرعت توسعه هوش مصنوعی پیشرو و اختصاص زمان بیشتر به ایمنی، ارزیابی و نظارت مستقل شد. سم آلتمن، مدیرعامل OpenAI، ایلان ماسک و دمیس هاسابیس، مدیر دیپ‌مایند گول، از این پیشنهاد حمایت کردند. آلتمن اعلام کرد OpenAI نیز از ارزیابان مستقل برای بررسی اقدامات ایمنی استفاده خواهد کرد.

چهارمین دوره این مجمع، که نخستین بار در یک کشور عربی برگزار شد، دولت‌ها، سازمان‌های بین‌المللی، دانشگاه‌ها، صنعت و جامعه مدنی را گرد هم آورد تا چگونگی تبدیل «توصیه‌نامه یونسکو درباره اخلاق هوش مصنوعی» به سیاست‌ها و اقدامات عملی را بررسی کنند. این مجمع از سال ۲۰۲۲ فعالیت خود را آغاز کرده و پیش از این در جمهوری چک، اسلوونی و تایلند برگزار شده است.

در روزهای برگزاری مجمع، بیش از ۱۰۰ نشست، کارگاه و برنامه جانبی برگزار شد و ۶۰ وزیر و رئیس هیأت و نمایندگان سازمان‌های بین‌المللی و حدود ۲۰۰ سخنران در آن حضور داشتند و بیش از ۱۰ هزار نفر از برنامه‌ها بازدید کردند. محورهای اصلی نیز حکمرانی مسئولانه، مدیریت ریسک، ظرفیت‌سازی، نوآوری مسئولانه و تقویت همکاری‌های بین‌المللی بود.

الغامدی: اصول اخلاقی باید از سند به سیاست و اقدام عملی تبدیل شوند

عبدالله بن شرف الغامدی، رئیس سازمان داده و هوش مصنوعی عربستان سعودی (SDAIA)، در مراسم افتتاحیه مجمع گفت میزبانی عربستان از این رویداد در سالی انجام می‌شود که این کشور ۲۰۲۶ را «سال هوش مصنوعی» نام‌گذاری کرده است. به گفته او، این نام‌گذاری نشان‌دهنده تعهد عربستان به توسعه هوش مصنوعی به‌عنوان عاملی برای پیشرفت، افزایش رقابت‌پذیری و توسعه انسانی است.

الغامدی گفت عربستان از همان مراحل اولیه دریافت که پرداختن به هوش مصنوعی تنها به معنای پذیرش فناوری‌های جدید نیست، بلکه به ایجاد یک زیست‌بوم ملی یکپارچه شامل نهادها، چارچوب‌های مقرراتی، ظرفیت‌های انسانی و فنی و مشارکت‌های بین‌المللی نیاز دارد.

او با اشاره به تأسیس SDAIA در سال ۲۰۱۹ گفت این سازمان نمونه‌ای از رویکرد عربستان برای نهادینه‌کردن فعالیت‌های مرتبط با داده و هوش مصنوعی در سطح ملی است. به گفته او، این چارچوب در سطح بین‌المللی نیز با تأسیس ICAIRE در ریاض در سال ۲۰۲۲ گسترش یافت؛ مرکزی که با حمایت یونسکو در زمینه پژوهش، سیاست‌گذاری، ظرفیت‌سازی، همکاری بین‌المللی و تبدیل اصول اخلاق هوش مصنوعی به ابزارها و رویه‌های عملی فعالیت می‌کند.

رئیس SDAIA همچنین به تصویب قانون حفاظت از داده‌های شخصی در عربستان در سال ۲۰۲۱ و ایجاد نظام یکپارچه سیاست‌ها و ضوابط حاکمیت داده اشاره کرد؛ نظامی که موضوعاتی مانند طبقه‌بندی، اشتراک‌گذاری، دسترس‌پذیری، حفاظت و استفاده از داده‌ها را پوشش می‌دهد.

او افزود عربستان در سال ۲۰۲۲ اصول اخلاق هوش مصنوعی خود را همسو با توصیه‌نامه یونسکو راه‌اندازی کرده است. این اصول بر عدالت، حریم خصوصی، امنیت، ایمنی، شفافیت و پاسخگویی در توسعه و استفاده از سامانه‌های هوش مصنوعی تأکید دارند.

الغامدی همچنین بر سرمایه‌گذاری در نیروی انسانی تأکید کرد و گفت عربستان از طریق برنامه «یک میلیون سعودی در هوش مصنوعی» بیش از یک میلیون نفر را در زمینه مبانی هوش مصنوعی آموزش داده است. در گزارش دیگری از این مجمع، تعداد افراد آموزش‌دیده در این طرح بیش از ۱.۲ میلیون نفر و تعداد برنامه‌های دانشگاهی راه‌اندازی‌شده در حوزه داده و هوش مصنوعی بیش از ۴۰ برنامه اعلام شد.

او در ادامه بر ضرورت همکاری جهانی تأکید کرد و گفت دولت‌ها، پژوهشگران، جامعه مدنی، جوانان و جوامع محلی همگی در شکل‌دهی به آینده هوش مصنوعی نقش دارند. از دیدگاه او، کشورها باید اصول مشترک را به اقدام عملی تبدیل کنند، ابزارها و تخصص‌ها را با یکدیگر به اشتراک بگذارند و از گفت‌وگو به سمت اجرای عملی اصول اخلاقی حرکت کنند.

الغامدی همچنین بر ایجاد توازن میان سرعت نوآوری و حکمرانی مؤثر تأکید کرد و گفت سیاست‌ها و سازوکارهای حکمرانی باید به‌گونه‌ای طراحی شوند که در کنار حمایت از توسعه هوش مصنوعی، اطمینان حاصل شود منافع این فناوری به افراد، جوامع و بخش‌های مختلف می‌رسد.

در نشست وزیران نیز که با حضور بیش از ۶۰ وزیر و نماینده بین‌المللی برگزار شد، الغامدی و آسا رگنر ریاست مشترک جلسه را بر عهده داشتند. در بیانیه این نشست بر تقویت همکاری بین‌المللی، کاهش شکاف دسترسی کشورها به زیرساخت و ظرفیت‌های هوش مصنوعی، تقویت مهارت‌ها و دانش، نوآوری مسئولانه و مشارکت دولت‌ها، سازمان‌های بین‌المللی، دانشگاه‌ها، بخش خصوصی و جامعه مدنی تأکید شد.

آسا رگنر: سرعت هوش مصنوعی از توان حکمرانی پیشی گرفته است

آسا رگنر، معاون مدیرکل یونسکو، در افتتاحیه مجمع از عربستان سعودی بابت میزبانی این رویداد تشکر کرد و همکاری میان یونسکو، SDAIA و ICAIRE را مهم دانست. او گفت عربستان سال گذشته فرایند «روش‌شناسی ارزیابی آمادگی» یونسکو (RAM) را تکمیل کرده و ICAIRE نیز به شبکه مراکز نوع ۲ یونسکو پیوسته است؛ مراکزی که با هدف تقویت پژوهش و ظرفیت‌سازی در حوزه اخلاق هوش مصنوعی فعالیت می‌کنند.

رگنر گفت جهان در یک «مقطع تعیین‌کننده» قرار دارد و هوش مصنوعی با سرعتی بی‌سابقه در حال پیشرفت است، در حالی که دولت‌ها و چارچوب‌های حکمرانی برای همگام شدن با این سرعت با چالش روبه‌رو هستند.

او به نخستین گفت‌وگوی جهانی سازمان ملل درباره حکمرانی هوش مصنوعی که در ژوئیه در ژنو برگزار شد اشاره کرد و گفت این نشست بر ضرورت تقویت همکاری‌های بین‌المللی و اطمینان از مشارکت همه کشورها در شکل‌دهی به قواعد حکمرانی هوش مصنوعی تأکید کرده است.

به گفته رگنر، ۱۰۹ کشور عضو یونسکو اجرای توصیه‌نامه اخلاق هوش مصنوعی را آغاز کرده‌اند و روش‌شناسی ارزیابی آمادگی نیز در ۷۸ کشور در حال اجراست. او همچنین تأکید کرد فعالیت یونسکو به طراحی سیاست‌ها محدود نمی‌شود و این سازمان از دولت‌ها و نهادها برای تبدیل اصول اخلاقی به اقدامات عملی حمایت می‌کند.

رگنر با اشاره به آموزش نیروی انسانی گفت بیش از ۵۰ هزار کارمند دولت و کارکنان بخش قضایی در سراسر جهان از برنامه‌های آموزشی مورد حمایت یونسکو در زمینه هوش مصنوعی بهره‌مند شده‌اند. او همچنین از آموزش معلمان و دانش‌آموزان برای استفاده ایمن از هوش مصنوعی، از جمله در آفریقا، سخن گفت.

معاون مدیرکل یونسکو بر ضرورت فراگیری بیشتر نیز تأکید کرد و گفت پول و قدرت در صنعت هوش مصنوعی تا حد زیادی در اختیار تعداد محدودی از بازیگران متمرکز شده است. از نظر او، حکمرانی هوش مصنوعی باید تنوع زبانی و فرهنگی جهان را نیز منعکس کند و زبان‌هایی مانند عربی که در فضای دیجیتال کمتر مورد توجه قرار گرفته‌اند، سهم بیشتری در توسعه این فناوری داشته باشند.

رگنر همچنین به حضور زنان در صنعت هوش مصنوعی پرداخت و گفت زنان تنها ۲۶ درصد نیروی کار حوزه داده و هوش مصنوعی را تشکیل می‌دهند. او هشدار داد نبود زنان در طراحی سامانه‌ها و فرایندهای تصمیم‌گیری می‌تواند باعث شود سوگیری‌های موجود در خود فناوری نیز بازتولید شوند و بر ضرورت استفاده بیشتر از ظرفیت علمی و فکری زنان تأکید کرد.

او همچنین بر دسترسی گسترده‌تر مردم و کشورها به منافع هوش مصنوعی، سیاست‌های فراگیر، حفظ کنترل انسان بر فناوری و روشن بودن مسئولیت و پاسخگویی در قبال تصمیم‌ها و کاربردهای هوش مصنوعی تأکید کرد.

در همین فضای جهانی، بحث درباره ایمنی هوش مصنوعی نیز به یکی از موضوعات مهم مجمع تبدیل شد. چند روز پیش از آغاز نشست، داریو آمودی خواستار «سرعت‌دهی نکردن» به توسعه هوش مصنوعی پیشرو شده بود و سم آلتمن، ایلان ماسک و دمیس هاسابیس از اصل این رویکرد حمایت کردند؛ هرچند درباره شیوه اجرای آن و میزان دخالت دولت‌ها و نهادهای مستقل در نظارت بر صنعت همچنان اختلاف‌نظر وجود دارد.

سیمایی صراف: هوش مصنوعی نباید به ابزار کنترل انسان تبدیل شود

حسین سیمایی صراف، وزیر علوم، تحقیقات و فناوری ایران، در سخنرانی خود در این مجمع از منظر حقوق بشر، نظارت و مسئولیت‌پذیری به پیامدهای هوش مصنوعی پرداخت.

او تأکید کرد فناوری بی‌طرف نیست و هوش مصنوعی نیز به‌خودی‌خود عادلانه عمل نمی‌کند. به گفته سیمایی صراف، الگوریتم‌ها گاهی می‌توانند بیش از آنکه بسازند، ویران کنند و پلتفرم‌ها نیز ممکن است به جای آنکه منشأ توسعه باشند، به منبع آسیب تبدیل شوند.

او هشدار داد که کنترل بر داده‌ها می‌تواند به کنترل بر انسان‌ها تبدیل شود و نظارت نیز باید محدودیت داشته باشد. به گفته او، افزایش شفافیت و نظارت بر دولت‌ها و صاحبان قدرت ضروری است، اما رصد رفتار، روابط و نیت شهروندان عادی می‌تواند در صورت نبود محدودیت و نظارت، به آنچه او «دیکتاتوری نامرئی» خواند، منجر شود.

سیمایی صراف همچنین گفت از داده‌ها در اقداماتی استفاده می‌شود که حقوق بشر را نقض می‌کنند و این پرسش را مطرح کرد که آیا پلتفرم‌ها و توسعه‌دهندگان هوش مصنوعی باید در قبال نحوه استفاده از سامانه‌های خود مسئول باشند یا خیر.

او با اشاره به کاربردهای نظامی هوش مصنوعی گفت این فناوری می‌تواند برای شناسایی و هدف‌گیری انسان‌ها نیز مورد استفاده قرار گیرد و از این منظر، کاربرد نظامی آن نیازمند بررسی‌های اخلاقی و سازوکارهای مسئولیت‌پذیری است.

وزیر علوم ایران همچنین نسبت به تشدید نابرابری بر اثر توسعه هوش مصنوعی هشدار داد و گفت چارچوب اخلاقی این فناوری نباید فقط به جلوگیری از آسیب محدود شود، بلکه باید دسترسی برابر به ظرفیت‌های هوش مصنوعی را نیز دنبال کند.

او از کشورهای در حال توسعه خواست امکان ساخت سامانه‌های هوش مصنوعی متناسب با زبان‌ها و فرهنگ‌های خود را داشته باشند و تأکید کرد سازمان‌های بین‌المللی در این زمینه مسئولیت اخلاقی دارند.

سیمایی صراف در جمع‌بندی دیدگاه خود گفت فناوری باید در خدمت بشریت باشد و هوش مصنوعی باید آزادی انسان را گسترش دهد، نه اینکه آن را محدود کند.

او همچنین در سخنان خود به حمله به مدرسه‌ای در میناب اشاره کرد و آن را نمونه‌ای از نگرانی درباره کاربرد فناوری‌های جدید در جنگ دانست. آمار ۱۶۸ قربانی این مدرسه در گزارش‌های مختلف ایرانی نیز مطرح شده است، هرچند جزئیات و نسبت دادن دقیق مسئولیت این حمله در منابع مختلف محل اختلاف است؛ بنابراین این بخش باید به‌عنوان ادعای مطرح‌شده از سوی وزیر علوم گزارش شود، نه یک واقعیت مستقل و قطعی.

از نگرانی عمومی تا تبدیل اصول اخلاقی به ابزارهای اجرایی

در کنار سخنان مقام‌های حاضر در مجمع، داده‌های مربوط به نگاه عمومی به هوش مصنوعی نیز نشان می‌دهد مسئله اخلاق و حکمرانی این فناوری تنها به دولت‌ها و متخصصان محدود نیست. نگرانی درباره حریم خصوصی، امنیت سایبری، کلاهبرداری، دستکاری اطلاعات و تولید محتوای جعلی در نظرسنجی‌های جدید همچنان بالاست؛ برای نمونه، یک نظرسنجی ۲۰۲۶ در کالیفرنیا نشان داد ۶۳ درصد پاسخ‌دهندگان درباره آسیب‌های حریم خصوصی، ۶۱ درصد درباره آسیب‌های امنیت سایبری و ۵۹ درصد درباره استفاده از AI برای اسپم یا کلاهبرداری نگران‌اند.

در سطح صنعت نیز نگرانی درباره سرعت توسعه فناوری به بحثی جدی تبدیل شده است. پیشنهاد آمودی برای «تنظیم سرعت» توسعه هوش مصنوعی پیشرو و حمایت آلتمن، ماسک و هاسابیس از آن، نشان داد مسئله ایمنی دیگر صرفاً در محافل دانشگاهی و سیاست‌گذاری مطرح نیست و به داخل شرکت‌های بزرگ توسعه‌دهنده مدل‌های پیشرفته نیز رسیده است.

در همین چارچوب، یونسکو در این مجمع مجموعه‌ای از ابزارها و ابتکارهای جدید برای کمک به کشورها در تدوین سیاست‌های فراگیر و مبتنی بر حقوق بشر معرفی کرد. از جمله این اقدامات، نسخه به‌روزشده روش‌شناسی ارزیابی آمادگی، تحلیل یافته‌های ارزیابی‌های انجام‌شده در کشورها و جعبه‌ابزار محیط زیست و هوش مصنوعی بود که هدف آن کمک به سیاست‌گذاران برای کاهش ردپای زیست‌محیطی سامانه‌های AI و استفاده از این فناوری در مقابله با تغییرات اقلیمی، حفاظت از تنوع زیستی و افزایش تاب‌آوری اکوسیستم‌هاست.

موضوعات مورد بحث در نشست‌های مجمع نیز تنها به تنظیم‌گری محدود نبود و حوزه‌هایی مانند هوش مصنوعی عامل‌محور، محیط زیست، برابری جنسیتی، فرهنگ، سلامت روان جوانان، فناوری عصبی، زیست‌شناسی مصنوعی، آموزش، علم، حریم خصوصی، داده‌های عصبی و آینده کار را دربرمی‌گرفت.

در بیانیه مشترک پایانی عربستان سعودی، یونسکو و ICAIRE نیز بر تقویت همکاری بین‌المللی، کاهش شکاف میان کشورها در دسترسی به زیرساخت‌ها و ظرفیت‌های هوش مصنوعی، توسعه مهارت‌ها، اشتراک دانش، مشارکت جوانان و کودکان و همکاری میان دولت‌ها، سازمان‌های بین‌المللی، دانشگاه‌ها، بخش خصوصی و جامعه مدنی تأکید شد.

در پایان، عربستان از راه‌اندازی پنج چارچوب ظرفیت‌سازی و چهار گواهینامه حرفه‌ای در حوزه مدیریت و حکمرانی داده خبر داد و یونسکو نیز بر ادامه حمایت از کشورهای عضو برای تبدیل اصول اخلاقی هوش مصنوعی به سیاست‌ها و اقدامات عملی تأکید کرد. به این ترتیب، محور اصلی چهارمین مجمع جهانی یونسکو نه صرفاً تدوین اصول اخلاقی، بلکه چگونگی تبدیل این اصول به سازوکارهای واقعی حکمرانی، آموزش، ارزیابی و نظارت بر فناوری هوش مصنوعی بود.

انتهای پیام/