هشدار درباره جعل داده با هوش مصنوعی؛ بزرگ‌ترین خطر پیش روی پژوهش دانشگاهی

یک استاد دانشگاه با بیان اینکه مهم‌ترین تهدید هوش مصنوعی در پژوهش، امکان تولید داده‌های جعلی است، خواستار تدوین قوانین سخت‌گیرانه برای تأیید داده‌های خام و آموزش اخلاق پژوهش در عصر هوش مصنوعی به دانشجویان و استادان شد.

به گزارش خبرنگار استانی ایسکانیوز از اصفهان؛ گسترش استفاده از هوش مصنوعی در محیط‌های دانشگاهی، پرسش‌های متعددی را درباره ابعاد حقوقی و اخلاقی بهره‌گیری از این فناوری در پایان‌نامه‌ها و مقالات علمی ایجاد کرده است. شیرین آقانجفی، استاد دانشگاه، در گفت‌وگو با حدیثه محمدی خبرنگار ایسکانیوز اصفهان، ضمن تشریح رویکرد دانشگاه‌های معتبر جهان، بر ضرورت تدوین قوانین شفاف برای استفاده از هوش مصنوعی در پژوهش‌های علمی تأکید کرد.

وی درباره اینکه آیا استفاده از هوش مصنوعی در نوشتن پایان‌نامه تقلب محسوب می‌شود، گفت: به طور کلی خیر. بستگی دارد در کجا و چگونه استفاده شود. در مورد انتخاب عنوان، ویرایش متن، خلاصه سازی متن یا ترجمه بسیار هم کمک کننده است. نوشتن کل پایان نامه با AI موردی است که مطرود است.

این استاد دانشگاه در خصوص روند استفاده از هوش مصنوعی در دانشگاه‌های خارج از کشور اظهار کرد: برخی دانشگاه ها رویکرد: شفافیت و افشا، برخی ابزار کمکی نه نویسنده و برخی سیاست‌گذاری در سطح استاد راهنماست. مثلاً در دانشگاه های مثل هاروارد، تورنتو و ام‌آی‌تی، دانشجو باید در بخش روش‌شناسی یا سپاس‌گزاری مشخص کند از کدام چت‌بات استفاده کرده است.

او افزود: دانشجو مسئول صد در صدی محتوا، منابع و دقت است اگر AI منابع را غلط دهد، مسئولیت با دانشجو است. در انگلستان دانشگاه‌های آکسفورد و کمبریج، استفاده از AI را جهت ویراستاری نه تولید محتوا می‌پذیرند.

آقانجفی درباره تغییرات ضروری در این حوزه نیز گفت: باید استانداردی تدوین شود که تفاوت بین تولید محتوا توسط AI و تولید با کمک ابزار AI را دقیقاً تفکیک کند تا تکلیف حقوق معنوی پایان‌نامه مشخص شود. هرج‌ومرج در سیاست‌گذاری دانشگاه‌ها (که هر کدام ساز خود را می‌زنند) آسیب‌زاست.

وی همچنین تشریح کرد: تغییری ضروری به یک پروتکل استاندارد جهانی یا ملی داریم. مثلاً در پایان‌نامه‌ها بخشی به نام بیانیه استفاده از ابزارهای محاسباتی و AI اجباری شود که دانشجو دقیقاً بنویسد از چه ابزاری، برای چه بخشی و با چه دستوراتی (Prompts) استفاده کرده است. قوانین باید از سمت بررسی متنی به سمت بررسی فرآیندی حرکت کنند. به این معنا که دانشجو باید مستندات مسیرِ رسیدن به نتیجه (مثل تاریخچه تغییرات در فایل‌ها، کدهای میانی و یادداشت‌های جلسات با استاد راهنما) را به عنوان بخشی از پایان‌نامه تحویل دهد. فرایند مهم‌تر از محصول نهایی می‌شود. قوانین آینده باید دانشجو را متولیِ تایید صحت (Fact Checker) بدانند و نه فقط نگارنده.

آقانجفی ادامه داد: دانشگاه‌ها باید موظف شوند در دوره‌های تحصیلات تکمیلی، یک واحد درسی اجباری به نام اخلاق پژوهش در عصر هوش مصنوعی ارائه دهند. تا زمانی که دانشجو نداند چگونه با AI کار کند که دچار سرقت ادبی ساختاری نشود، نمی‌توان او را صرفاً با سخت‌گیری تنبیه کرد.

او درباره نحوه مواجهه دانشگاه آزاد با این موضوع نیز اظهار کرد: تدوین پروتکل شفاف استفاده از AI باید اجباری شود. دانشگاه باید به جای ممنوعیت، روش استفاده را مشخص کند.

وی افزود: پیشنهاد می‌شود فرمی ایجاد شود که دانشجو باید در پایان‌نامه پیوست کند و در آن صادقانه بنویسد: از هوش مصنوعی برای ترجمه بخش X یا اصلاح نگارش بخش Y استفاده شده است. این کار تقلب را به شفافیت تبدیل می‌کند.

این استاد دانشگاه در تغییر در ساختار ارزیابی (از متن به دانش) گفت: اگر متن را می‌توان با یک کلیک تولید کرد، پس متن دیگر ملاک اصلی نباید باشد. همچنین پیشنهاد می‌شود وزن نهایی پایان‌نامه باید از متن نوشته شده به سمت توانایی دفاع شفاهی و ارائه شواهد تجربی/آزمایشگاهی حرکت کند. داور باید بتواند از دانشجو درباره چرا و چگونه (فرآیند استدلال) سوال کند، نه اینکه فقط متن را بخواند.

آموزش «اخلاق دیجیتال» به دانشجویان و اساتید

آقانجفی درباره حوزه اخلاق دیجیتال تشریح کرد: بسیاری از تقلب‌ها از روی ناآگاهی است. نظر دارم که برگزاری کارگاه‌هایی برای دانشجویان صورت بگیرد که به آن‌ها یاد دهد مرز بین استفاده از AI برای بهبود کیفیت و استفاده از AI برای جایگزینی فکر کجاست. همچنین آموزش به اساتید برای اینکه بدانند چگونه با حضور AI، پایان‌نامه‌ها را ارزیابی کنند.

و نکته مهم، تأکید بر اصالت داده‌ها (Data Integrity) می‌باشد. بزرگ‌ترین خطر در ایران، تولید داده‌های جعلی توسط AI است.

پیشنهاد می‌شود قوانین سخت‌گیرانه‌ای برای تایید صحت داده‌های خام (Raw Data) وضع شود تا دانشجو نتواند نتایج آزمایشگاهی یا آماری را توسط هوش مصنوعی جعل کند.

دانشگاه‌های ایران نباید سعی کنند در برابر موج هوش مصنوعی “دیوار” بکشند. آن‌ها باید به جای دیوار، “راهنما و قوانین راهبردی” بسازند تا دانشجو بداند در چه مسیری می‌تواند از این ابزار برای پیشرفت علمی خود استفاده کند بدون اینکه اخلاق پژوهشی را زیر پا بگذارد.

وی در پایان در یک جمله درباره استفاده از هوش مصنوعی در پژوهش توسط دانشجویان گفت: هوش مصنوعی ابزار ساختن است و پژوهش هنر اندیشیدن است، پس از این ابزار برای ارتقای کیفیت استفاده کنید.

خبرنگار: حدیثه محمدی

انتهای خبر/

کد مطلب: 1310057

برچسب‌ها

نظر شما

شما در حال پاسخ به نظر «» هستید.
  • نظرات حاوی توهین و هرگونه نسبت ناروا به اشخاص حقیقی و حقوقی منتشر نمی‌شود.
  • نظراتی که غیر از زبان فارسی یا غیر مرتبط با خبر باشد منتشر نمی‌شود.
  • captcha