به گزارش خبرنگار علم و فناوری ایسکانیوز؛ واشینگتنپست چندی پیش اعلام کرد که ارتش آمریکا تا حد بسیاری به هوش مصنوعی در حملات اخیر خود به ایران متکی است. ارتش این کشور از ابزار هوش مصنوعی «کلود» وابسته به شرکتی به نام «آنتروپیک» در کنار سیستم «میون» شرکت «پالانتیر» برای هدفگیری لحظهای و اولویتبندی اهداف خود در ایران و قبلا هم در ونزوئلا استفاده کرده است.
روایتهای علمی-تخیلی درباره هوش مصنوعی نظامی اغلب گمراه کنندهاند. تصورات رایج درباره «رباتهای قاتل» و «گلههای پهپادی» معمولاً میزان خودمختاری سامانههای هوش مصنوعی را بیش از حد بزرگنمایی میکنند و نقش انسان را دستکم میگیرند. موفقیت یا شکست در جنگ، معمولاً نه به ماشینها، بلکه به انسانهایی بستگی دارد که از آنها استفاده میکنند.
در دنیای واقعی، هوش مصنوعی نظامی به مجموعهای گسترده از سامانهها و مأموریتهای مختلف اشاره دارد. ۲ دسته اصلی آن شامل «سلاحهای خودکار» و «سامانههای پشتیبانی تصمیم» است. سلاحهای خودکار تا حدی توانایی انتخاب یا درگیری با اهداف را بهصورت مستقل دارند. این نوع سلاحها بیشتر موضوع داستانهای علمی-تخیلی و محل بحثهای جدی هستند.
در مقابل، سامانههای پشتیبانی تصمیم اکنون در قلب اغلب ارتشهای مدرن قرار دارند. اینها نرمافزارهایی هستند که اطلاعات اطلاعاتی و برنامهریزی را در اختیار نیروهای انسانی قرار میدهند. بسیاری از کاربردهای نظامی هوش مصنوعی، از جمله در جنگهای اخیر خاورمیانه، مربوط به همین سامانههاست، نه سلاحها. سازمانهای رزمی مدرن به شمار زیادی از برنامههای دیجیتال برای تحلیل اطلاعات، برنامهریزی عملیات، مدیریت نبرد، ارتباطات، لجستیک، امور اداری و امنیت سایبری متکی هستند.
کلود نمونهای از یک سامانه پشتیبانی تصمیم است، نه یک سلاح. این ابزار در «سامانه هوشمند میون» ادغام شده که به طور گسترده توسط ارتش، نهادهای اطلاعاتی و مجریان قانون استفاده میشود. میون از الگوریتمهای هوش مصنوعی برای شناسایی اهداف احتمالی از دادههای ماهوارهای و سایر دادههای اطلاعاتی بهره میبرد و کلود به برنامهریزان نظامی کمک میکند تا این اطلاعات را دستهبندی کنند و درباره اهداف و اولویتها تصمیم بگیرند.
نقش کلود در عملیاتهای نظامی اخیر نخستین بار توسط والاستریت ژورنال و واشینگتنپست گزارش شده بود. با این حال، این نقش به دلیل اختلاف میان آنتروپیک و هگست پیچیده شده است. این شرکت تلاش کرده مانع استفاده از هوش مصنوعیاش برای نظارت داخلی و سلاحهای خودکار مرگبار شود. هفته گذشته، وزارت دفاع آنتروپیک را تهدیدی برای امنیت ملی معرفی کرد؛ اقدامی که میتواند به حذف این شرکت از پروژههای نظامی در ماههای آینده منجر شود. آنتروپیک نیز برای مقابله با این تصمیم شکایت کرده است.
برد کوپر، فرمانده سنتکام، در ویدئویی در شبکه ایکس اذعان کرد که هوش مصنوعی به ابزاری کلیدی در انتخاب اهداف در ایران تبدیل شده است. او گفت: نیروهای ما از مجموعهای از ابزارهای پیشرفته هوش مصنوعی استفاده میکنند. این سامانهها به ما کمک میکنند حجم عظیمی از دادهها را در چند ثانیه پردازش کنیم تا فرماندهان بتوانند سریعتر از دشمن تصمیمهای هوشمندانه بگیرند.
او تأکید کرد: انسانها همیشه تصمیم نهایی را درباره اینکه به چه چیزی شلیک شود، چه زمانی و چگونه، میگیرند؛ اما ابزارهای پیشرفته هوش مصنوعی فرایندهایی را که پیشتر ساعتها یا حتی روزها طول میکشید، به چند ثانیه کاهش میدهند.
دولت دونالد ترامپ به طور علنی از بهکارگیری این فناوری، هم در حوزه نظامی و هم در سراسر دولت، حمایت کرده است.
پت هریگان، نماینده جمهوریخواه کارولینای شمالی، گفت که هوش مصنوعی پیشتر به ابزاری حیاتی برای پردازش سریع اطلاعات نظامی، از جمله در ایران، تبدیل شده است.
سامانههای «لاوندر» و «گاسپل» رژیم صهیونیستی که در جنگ غزه و سایر مناطق استفاده شدهاند نیز از همین نوع سامانههای پشتیبانی تصمیم هستند. این ابزارها تحلیل و برنامهریزی را تسهیل میکنند، اما در نهایت این انسانها هستند که تصمیمگیری میکنند.
تاریخچه طولانی هوش مصنوعی نظامی
سلاحهایی با درجهای از خودمختاری بیش از یک قرن است که در جنگها به کار میروند. مینهای دریایی قرن نوزدهم با تماس منفجر میشدند. بمبهای پرنده آلمان در جنگ جهانی دوم با سامانه ژیروسکوپی هدایت میشدند. اژدرهای هدایت شونده و موشکهای حرارتی مسیر خود را برای برخورد با اهداف متحرک تغییر میدهند. بسیاری از سامانههای پدافند هوایی مانند «گنبد آهنین» اسرائیل و «پاتریوت» آمریکا سالهاست حالتهای کاملاً خودکار دارند.
پهپادهای رباتیک در جنگهای قرن بیستویکم به طور گسترده رواج یافتند. سامانههای بدون سرنشین اکنون وظایف متنوعی را در زمین، دریا، هوا و حتی فضا انجام میدهند؛ از جمله مأموریتهای «خستهکننده، آلوده و خطرناک». وسایل هدایتشونده از راه دور مانند «امکیو-۹ ریپر» آمریکا یا «هرمس ۹۰۰» اسرائیل که میتوانند ساعتها به طور خودکار در یک منطقه پرسه بزنند، بسترهایی برای شناسایی و حمله فراهم میکنند. در جنگ روسیه و اوکراین نیز استفاده از پهپادهای دید اولشخص به عنوان مهمات انتحاری گسترش یافته است. برخی از این پهپادها به دلیل اخلال الکترونیکی، برای شناسایی هدف به هوش مصنوعی متکی هستند، زیرا کنترل از راه دور توسط انسان ممکن نیست.
با این حال، سامانههایی که شناسایی و حمله را خودکار میکنند، تنها بخش قابل مشاهده انقلاب خودکارسازی هستند. توانایی دیدن دورتر و ضربه زدن سریعتر، بار پردازش اطلاعات را بر دوش سازمانهای نظامی بهشدت افزایش میدهد. اینجاست که سامانههای پشتیبانی تصمیم اهمیت پیدا میکنند. اگر سلاحهای خودکار «چشمها و بازوهای» ارتش را تقویت کنند، سامانههای پشتیبانی تصمیم «مغز» آن را ارتقا میدهند.
سامانههای فرماندهی و کنترل دوران جنگ سرد، پیشدرآمدی بر سامانههای مدرن پشتیبانی تصمیم بودند. پروژههایی مانند سامانه «محیط زمینی نیمهخودکار» آمریکا (SAGE) در دهه ۱۹۵۰ نوآوریهای مهمی در حافظه رایانه و رابطهای کاربری ایجاد کردند. در جنگ ویتنام، پروژه «ایگلو وایت» دادههای اطلاعاتی را در یک رایانه مرکزی جمعآوری میکرد تا حملات هوایی آمریکا را هماهنگ کند. برنامه «محاسبات راهبردی» آژانس پروژههای پژوهشی پیشرفته دفاعی آمریکا در دهه ۱۹۸۰ نیز پیشرفتهایی در نیمهرساناها و سامانههای خبره ایجاد کرد. در واقع، تأمین مالی دفاعی نقش مهمی در شکلگیری اولیه هوش مصنوعی داشت.
نقش سازمانها در جنگ خودکار
سلاحهای خودکار و سامانههای پشتیبانی تصمیم به نوآوریهای سازمانی مکمل وابستهاند. از «میدان نبرد الکترونیکی» در ویتنام تا دکترین «نبرد زمین-هوا» در اواخر جنگ سرد و سپس مفاهیم جنگ شبکهمحور، ارتش آمریکا ایدهها و ساختارهای سازمانی جدیدی توسعه داده است.
نکته قابل توجه، ظهور سبک جدیدی از عملیات ویژه در جریان «جنگ جهانی علیه تروریسم» آمریکا است. سامانههای پشتیبانی تصمیم مبتنی بر هوش مصنوعی در شناسایی نیروهای تروریستی، برنامهریزی عملیات برای کشتن یا دستگیری آنها و تحلیل اطلاعات به دست آمده نقش حیاتی داشتند. سامانههایی مانند «میون» برای این نوع عملیات ضدتروریسم ضروری شدند.
شیوه جنگی پیشرفته آمریکا که امروز در ونزوئلا و ایران دیده میشود، حاصل دههها آزمون و خطاست. ارتش آمریکا فرایندهای پیچیدهای برای جمعآوری اطلاعات از منابع متعدد، تحلیل اهداف، ارزیابی گزینههای حمله، هماهنگی عملیات مشترک و سنجش خسارات ایجاد کرده است. تنها به این دلیل است که هوش مصنوعی میتواند در تمام چرخه هدفگیری به کار رود که شمار زیادی از نیروهای انسانی در سطوح مختلف برای حفظ عملکرد آن تلاش میکنند.
خطاهایی که جان میگیرند
هوش مصنوعی نگرانیهایی مانند «سوگیری خودکارسازی» را نیز ایجاد میکند؛ یعنی تمایل انسانها به اعتماد بیش از حد به تصمیمات ماشینی. اما این نگرانیها جدید نیستند. پروژه «ایگلو وایت» اغلب توسط فریبهای ویتنامی گمراه میشد. یک ناو آمریکایی مجهز به سامانه «ایجیس» در سال ۱۹۸۸ به اشتباه یک هواپیمای مسافربری ایرانی را سرنگون کرد. خطاهای اطلاعاتی نیز باعث شد بمبافکنهای رادارگریز آمریکا در سال ۱۹۹۹ سفارت چین در بلگراد را هدف قرار دهند.
به گزارش کانورسیشن، در عراق و افغانستان نیز بسیاری از غیرنظامیان به دلیل خطاهای تحلیلی و سوگیریهای فرهنگی در ارتش آمریکا جان باختند. اخیراً نیز شواهد نشان میدهد که یک موشک کروز «تامهاوک» به مدرسه دخترانهای در نزدیکی یک پایگاه دریایی ایران اصابت کرده و حدود ۱۷۵ نفر ـ عمدتاً دانشآموز ـ کشته شدهاند؛ حملهای که ناشی از خطای اطلاعاتی بوده باشد.
پیشبینی خودکار، نیازمند قضاوت انسانی
موفقیتها و شکستهای سامانههای پشتیبانی تصمیم در جنگ، بیش از آنکه به فناوری مربوط باشند، به عوامل سازمانی وابستهاند. هوش مصنوعی میتواند کارایی سازمانها را افزایش دهد، اما در عین حال میتواند سوگیریهای آنها را نیز تقویت کند. برای مثال، هرچند ممکن است وسوسهانگیز باشد که سامانه «لاوندر» را مسئول تلفات بالای غیرنظامیان در غزه بدانیم، اما احتمالاً قواعد سهلگیرانه درگیری اسرائیل نقش مهمتری داشتهاند.
سامانههای پشتیبانی تصمیم همانطور که از نامشان پیداست، تنها «پشتیبان» تصمیمگیری انسانی هستند و جایگزین آن نمیشوند. انسانها همچنان نقشهای اساسی در طراحی، مدیریت، تفسیر، اعتبارسنجی، ارزیابی، تعمیر و حفاظت از این سامانهها و جریانهای دادهای دارند. فرماندهان همچنان فرماندهی میکنند.
از منظر اقتصادی، هوش مصنوعی توان پیشبینی را بهبود میبخشد؛ یعنی تولید دادههای جدید بر اساس دادههای موجود. اما پیشبینی تنها بخشی از فرایند تصمیمگیری است. در نهایت این انسانها هستند که درباره اینکه چه چیزی پیشبینی شود و چگونه از آن استفاده شود قضاوت میکنند. انسانها دارای ترجیحات، ارزشها و تعهدات نسبت به نتایج دنیای واقعی هستند، اما سامانههای هوش مصنوعی ذاتاً فاقد چنین ویژگیهاییاند.
این بدان معناست که افزایش استفاده نظامی از هوش مصنوعی در واقع نقش انسان را در جنگ مهمتر میکند، نه کمتر.
قانونگذاران خواستار نظارت بیشتر شدهاند
در حالی که ارتش ایالات متحده استفاده از ابزارهای هوش مصنوعی را برای شناسایی اهداف حملات هوایی در ایران گسترش میدهد، اعضای کنگره خواستار وضع محدودیتها و نظارت بیشتر بر نحوه استفاده از این فناوری در جنگ شدهاند.
۲ منبع آگاه که به دلیل حساسیت موضوع نخواستند نامشان فاش شود، تأیید کردند که ارتش از سامانههای هوش مصنوعی شرکت پالانتیر برای شناسایی اهداف احتمالی در حملات جاری استفاده میکند. استفاده از نرمافزار پالانتیر -که تا حدی بر سامانههای هوش مصنوعی کلود آنتروپیک متکی است- در شرایطی انجام میشود که وزیر دفاع، پیت هگست، تلاش دارد هوش مصنوعی را به هسته عملیات رزمی آمریکا تبدیل کند؛ در حالی که او با مدیران آنتروپیک بر سر محدودیتهای استفاده از این فناوری اختلاف داشته است.
با این حال، همزمان با گسترش نقش هوش مصنوعی در میدان نبرد، قانونگذاران خواستار تمرکز بیشتر بر سازوکارهای حفاظتی و شفافیت درباره میزان واگذاری کنترل به این فناوری شدهاند.
جیل توکودا، نماینده دموکرات هاوایی و عضو کمیته نیروهای مسلح مجلس نمایندگان، در گفتوگو با انبیسی نیوز گفت: ما به یک بررسی کامل و بیطرفانه نیاز داریم تا مشخص شود آیا هوش مصنوعی تاکنون به جان انسانها در جنگ با ایران آسیب زده یا آنها را به خطر انداخته است. قضاوت انسانی باید در مرکز تصمیمهای مرگ و زندگی باقی بماند.
وزارت دفاع آمریکا و شرکتهای پیشرو در حوزه هوش مصنوعی مانند OpenAI و آنتروپیک به طور علنی اعلام کردهاند که سامانههای فعلی هوش مصنوعی نباید بدون تأیید انسان قادر به کشتن باشند. با این حال، نگرانیها همچنان باقی است؛ چراکه اتکا به هوش مصنوعی در بخشهایی از عملیات یا تصمیمگیری میتواند به بروز اشتباهات نظامی منجر شود.
شان پارنل، سخنگوی ارشد پنتاگون، در ۲۶ فوریه در شبکه اجتماعی ایکس اعلام کرد که ارتش قصد ندارد از هوش مصنوعی برای توسعه سلاحهای خودکاری که بدون دخالت انسان عمل میکنند استفاده کند.
سارا جیکوبز، نماینده دموکرات کالیفرنیا، گفت: ابزارهای هوش مصنوعی صددرصد قابل اعتماد نیستند؛ آنها میتوانند به صورت نامحسوس دچار خطا شوند، اما در عین حال اپراتورها همچنان بیش از حد به آنها اعتماد میکنند.
او افزود: ما مسئولیت داریم محدودیتهای سختگیرانهای بر استفاده ارتش از هوش مصنوعی اعمال کنیم و تضمین کنیم که در هر تصمیم برای استفاده از نیروی مرگبار، یک انسان در چرخه تصمیمگیری حضور دارد، زیرا هزینه اشتباه میتواند برای غیرنظامیان و نیروهای نظامی بسیار فاجعهبار باشد.
او تأکید کرد: هیچ سامانه هوش مصنوعی جایگزین قضاوت، آموزش و تجربه نیروهای آمریکایی نمیشود. حضور انسان در چرخه تصمیمگیری یک تشریفات نیست، بلکه یک الزام است و هیچ نشانهای وجود ندارد که ارتش ما خلاف این عمل کند.
در حالی که هیچ یک از قانونگذاران خواستار حذف کامل هوش مصنوعی از کاربردهای نظامی نشدهاند، برخی بر ضرورت نظارت بیشتر تأکید کردهاند.
الیس اسلاتکین، سناتور دموکرات میشیگان، گفت وزارت دفاع به قدر کافی روشن نکرده که انسانها چگونه دادههای تولید شده یا کمکگرفته از هوش مصنوعی را راستیآزمایی میکنند.
او گفت: در نهایت همهچیز به انسانها بستگی دارد و باید اطمینان حاصل کرد که در آینده قابل پیشبینی، نظارت انسانی چندلایه وجود دارد؛ چیزی که ما نسبت به آن اطمینان نداریم.
مارک وارنر، سناتور دموکرات و از اعضای ارشد کمیته اطلاعات سنا، نیز گفت نسبت به استفاده ارتش از هوش مصنوعی برای شناسایی اهداف نگران است و پرسشهای بیپاسخ زیادی درباره نحوه استفاده از این فناوری وجود دارد.
او گفت: این موضوع باید مورد رسیدگی قرار گیرد.
شرکتهای اوپنایآی و آنتروپیک، که هر دو با ارتش آمریکا همکاری داشتهاند، اعلام کردهاند حتی پیشرفتهترین سامانههایشان نیز مستعد خطا هستند و پژوهشگران برجسته این حوزه اذعان دارند که هنوز درک کاملی از نحوه عملکرد این سامانهها وجود ندارد.
داریو آمودی، مدیرعامل آنتروپیک، ماه گذشته اعلام کرده بود: نمیتوانم به شما بگویم که حتی سامانههایی که ما میسازیم صددرصد قابل اعتماد هستند.
مطالعهای مهم از سوی اوپنایآی در سپتامبر نشان داد که تمام چتباتهای اصلی مبتنی بر مدلهای زبانی بزرگ، گاهی دچار «توهم» میشوند و پاسخهای نادرست تولید میکنند.
کیرستن جیلیبرند، سناتور دموکرات نیویورک، خواستار تدوین قوانین شفافتر برای استفاده نظامی از هوش مصنوعی شد. او گفت: دولت ترامپ پیشتر نشان داده که آماده است برای پیشبرد یک جنگ نامحبوب، قوانین آمریکا را دور بزند. دلیلی وجود ندارد که بدون وجود سازوکارهای صریح، به استفاده مسئولانه وزارت دفاع از هوش مصنوعی اعتماد کنیم.
مارک بیل، رئیس امور دولتی اندیشکده «شبکه سیاستگذاری هوش مصنوعی» در واشینگتن و مدیر پیشین راهبرد و سیاستگذاری هوش مصنوعی در پنتاگون، گفت که اگرچه هوش مصنوعی میتواند فرایند انتخاب اهداف را سادهتر کند، اما همچنان نیاز است انسانها اهداف را به طور کامل بررسی کنند.
او افزود: مراحل زیادی پیش از شلیک وجود دارد. سامانههای هوش مصنوعی بهطور مؤثری برای تسریع روندهای موجود بهکار گرفته میشوند و به فرماندهان، تحلیلگران و برنامهریزان کمک میکنند تصمیمهای بهتر و سریعتری بگیرند. اما وقتی نوبت به استفاده واقعی از سلاحها میرسد، این فناوری هنوز آماده نیست.
او هشدار داد: این سامانهها به مرور بسیار پیشرفته خواهند شد و با استفاده رقبا از آنها، فشار برای کاهش زمان بررسی خروجیهای هوش مصنوعی افزایش مییابد. ما باید پیش از رسیدن به آن نقطه، مشکل قابلیت اعتماد را حل کنیم. صرف نظر از دیدگاهها درباره سلاحهای خودکار مرگبار، ایمن و مؤثر کردن آنها به نفع کل جهان است.
هایدی خلاف، دانشمند ارشد مؤسسه «ایآی ناو»، نیز گفت نگران است که اتکای ارتشها به هوش مصنوعی برای پردازش سریع اطلاعات در تصمیمهای مرگ و زندگی، به ابزاری برای فرار از پاسخگویی در قبال اشتباهات تبدیل شود.
او گفت: این بسیار خطرناک است که مفهوم “سرعت” بهعنوان یک مزیت راهبردی به ما فروخته میشود، در حالی که با توجه به دقت پایین این مدلها، میتواند پوششی برای هدفگیری بیتمایز باشد.
انتهای پیام/
نظر شما