به گزارش خبرنگار استانی ایسکانیوز از اصفهان، هوش مصنوعی در سال‌های اخیر از یک فناوری نوظهور به ابزاری اثرگذار در بسیاری از حوزه‌های علمی و حرفه‌ای تبدیل شده است. حوزه حقوق نیز از این تغییر در امان نمانده و استفاده از ابزارهای هوشمند در جست‌وجوی منابع، بررسی اسناد، تحلیل داده‌های حقوقی و حتی پژوهش‌های تخصصی، مسیر تازه‌ای را پیش روی حقوقدانان و پژوهشگران قرار داده است. در کنار این فرصت‌ها، مسائلی مانند صحت اطلاعات، حفظ محرمانگی، سوگیری، مسئولیت حرفه‌ای و نحوه استفاده صحیح از این فناوری نیز اهمیت بیشتری پیدا کرده است.

امید محمودی قهساره، دکترای حقوق بین‌الملل از دانشگاه پانتئون-سوربن فرانسه و برنده بورس عالی ایفل است. حوزه‌های تخصصی او حقوق بین‌الملل، حقوق بشر و حقوق کودکان، مسئولیت اجتماعی شرکت‌ها و حقوق و هوش مصنوعی است. وی سابقه پژوهشی در موسسه علوم حقوقی و فلسفی سوربن و سابقه تدریس در دانشگاه اصفهان و دانشگاه آزاد اسلامی اصفهان را در کارنامه دارد. همچنین در دوره پژوهش فرا دکترا در دانشگاه تربیت مدرس، در زمینه حقوق و هوش مصنوعی به فعالیت‌های پژوهشی پرداخته است. فعالیت‌های پژوهشی و دانشگاهی او در حوزه حقوق و هوش مصنوعی، بخشی از سوابق علمی وی را تشکیل می‌دهد. او در این گفتگو از الزامات استفاده از هوش مصنوعی در نظام حقوقی گفت.

آیا واقعاً هوش مصنوعی تا این حد اهمیت دارد؟ آیا با یک فناوری انقلابی روبه‌رو هستیم که می‌تواند نظام‌های حقوقی را دگرگون کند، یا بخش زیادی از صحبت‌هایی که امروز درباره آن می‌شود، بیشتر جنبه اغراق دارد؟

به نظر من برای پاسخ به این سوال، اول باید یک نکته را در نظر بگیریم. ما معمولاً هوش مصنوعی را یک فناوری کاملاً جدید می‌بینیم. شاید هم به این دلیل که بیشتر مردم با ظهور مدل‌های زبانی مولد و به‌خصوص چت‌جی‌پی تی در سال ۲۰۲۲ تازه با آن آشنا شدند. اما در واقع، داستان هوش مصنوعی خیلی قدیمی‌تر از این حرف‌ها است و ریشه‌هایش به دهه‌های ۱۹۴۰ و ۱۹۵۰ میلادی برمی‌گردد.

حتی نخستین مدل‌های ریاضی نورون مصنوعی در دهه ۱۹۴۰ مطرح شدند و در نیمه دوم دهه ۱۹۵۰ هم هوش مصنوعی به‌عنوان یک حوزه علمی مستقل شکل گرفت. البته این مسیر اصلاً یک مسیر مستقیم و بدون وقفه نبوده است. این حوزه چند دوره بسیار سخت را هم پشت سر گذاشته. از جمله دو دوره‌ای که به «زمستان هوش مصنوعی» معروف شدند. یکی در دهه ۱۹۷۰ و دیگری از اواخر دهه ۱۹۸۰ تا اوایل دهه ۱۹۹۰. در آن دوره‌ها هم بودجه‌های پژوهشی کاهش پیدا کرد و هم اعتماد عمومی نسبت به توانایی‌های هوش مصنوعی پایین آمد.

بنابراین، چیزی که امروز می‌بینیم یک فناوری نیست که ناگهان در سال ۲۰۲۲ از هیچ‌جا ظاهر شده باشد. در واقع، پشت این اتفاق چیزی حدود هفت دهه پژوهش، آزمون و خطا، شکست و دوباره پیشرفت وجود دارد.

اما چیزی که امروز شرایط را متفاوت کرده، سرعت و سطح پیشرفت‌ها است. ما الان می‌بینیم که مدل‌های هوش مصنوعی در بعضی مسائل بسیار پیچیده، حتی در حوزه ریاضیات، به نتایجی می‌رسند که تا چند سال پیش واقعاً دور از ذهن بود. شاید حتی مهم‌تر از این، این است که دیگر فقط صحبت از ابزارهای هوشمند نیست. امروز بحث رسیدن به چیزی مثل «هوش فرا انسانی» هم به‌طور جدی مطرح می‌شود.

به همین دلیل، من شخصاً ترجیح می‌دهم حتی هوش مصنوعی را با ظهور اینترنت هم مقایسه نکنم. اینترنت در درجه اول یک زیرساخت ارتباطی بود. اما هوش مصنوعی می‌تواند در خود فرایند انجام دادن کارها و تصمیم‌گیری ها وارد شود. از این جهت، شاید مقایسه آن با اختراع برق مناسب‌تر باشد. فناوری‌ای که وقتی وارد زندگی بشر شد، تقریباً هیچ حوزه‌ای را دست‌نخورده باقی نگذاشت.

به نظرم هوش مصنوعی هم می‌تواند چنین اثری داشته باشد. و طبیعتاً نظام حقوقی هم نمی‌تواند از چنین تغییری جدا بماند، چون حقوق یکی از مهم‌ترین سازوکارهای سازمان‌دهی زندگی اجتماعی است. بنابراین، حتی اگر درباره ابعاد این تحول هنوز اختلاف‌نظر وجود داشته باشد، به نظرم اصل اینکه هوش مصنوعی بر نظام‌های حقوقی اثر جدی خواهد گذاشت، دیگر موضوع چندان قابل انکاری نیست.

اگر واقعاً با یک فناوری انقلابی روبه‌رو هستیم، این فناوری چه مزیت‌هایی برای نظام‌های حقوقی و برای علم حقوق به‌طور کلی دارد؟ یعنی ما امروز چه ابزارهایی در اختیار داریم که قبلاً نداشتیم؟ چه چیزی واقعاً تغییر کرده است؟

قبل از پاسخ به این سوال، باید به یک ویژگی مهم هوش مصنوعی توجه کنیم. ویژگی‌ای که تا حدی آن را از فناوری‌های قبلی متمایز می‌کند. هوش مصنوعی یک ابزار با یک کاربرد مشخص و ثابت نیست. بسته به اینکه چه کسی، برای چه کاری و با چه روشی از آن استفاده کند، می‌تواند کاربردهای کاملاً متفاوتی داشته باشد. همین چند کارکردی بودن باعث شده دامنه استفاده از آن در حقوق هم خیلی گسترده باشد.

یکی از مهم‌ترین تغییرات، به نظرم، تحول در شیوه جست‌وجو و کار با اطلاعات حقوقی است. تا همین اواخر، بخش زیادی از جست‌وجوی حقوقی بر اساس کلیدواژه انجام می‌شد. یعنی شما یک واژه یا عبارت را جست‌وجو می‌کردید و سیستم دنبال همان واژه‌ها می‌گشت. اما امروز با جست‌وجوی معنایی، می‌توانیم ارتباط میان مفاهیم را هم بهتر پیدا کنیم. یعنی ممکن است یک رابطه یا نکته‌ای در یک متن وجود داشته باشد که با جست‌وجوی ساده اصلاً به آن نرسیم، اما یک مدل هوشمند بتواند ارتباط آن را با پرسش ما تشخیص دهد.

موضوع مهم دیگر، حجم عظیم داده‌های حقوقی است. ما طی سال‌های گذشته حجم بسیار زیادی از قوانین، آرا، مقالات و اسناد حقوقی را دیجیتال کرده‌ایم، اما یک مشکل اساسی داشتیم: واقعاً چه کسی می‌توانست این حجم از اطلاعات را بررسی و تحلیل کند؟ در بسیاری از موارد، داده داشتیم، اما امکان استفاده موثر از آن در این مقیاس وجود نداشت.

امروز این وضعیت تا حدی تغییر کرده است. برای مثال، می‌توان مجموعه‌ای از آرای یک دادگاه را در یک موضوع مشخص، در یک بازه زمانی طولانی بررسی کرد و روند تغییر رویکرد آن دادگاه را دید. کاری که شاید برای یک پژوهشگر به تنهایی ماه‌ها یا حتی سال‌ها زمان می‌برد، امروز می‌تواند در مدت بسیار کوتاه‌تری انجام شود. البته به شرط اینکه ابزار درست انتخاب شود و نتایج هم به درستی بررسی شوند.

یک قابلیت مهم دیگر، موضوع پیش‌بینی و شبیه‌سازی است. مثلاً می‌توان درباره یک لایحه یا مقرره‌ای که هنوز اجرا نشده، بررسی کرد که اگر به همین شکل تصویب شود، چه پیامدهایی ممکن است داشته باشد. البته این به معنای پیشگویی قطعی آینده نیست، اما می‌تواند در شناخت پیامدهای احتمالی تصمیم‌های حقوقی کمک زیادی کند.

از طرف دیگر، هوش مصنوعی امروز عملاً برای پژوهشگران، وکلا و حتی قضات می‌تواند نقش یک دستیار را داشته باشد. مثلاً در پیدا کردن منابع، خلاصه‌ کردن اسناد، دسته‌بندی اطلاعات، مقایسه متون یا حتی در مراحل ابتدایی طراحی یک پژوهش.

هوش مصنوعی مولد هم این دامنه را بازتر کرده است. دیگر فقط با تولید متن سروکار نداریم. امروز مدل‌هایی داریم که می‌توانند تصویر، صدا، ویدیو و محتوای چندوجهی تولید کنند. این قابلیت‌ها در آموزش حقوق، تهیه محتوای آموزشی، نمایش فرآیندهای پیچیده و حتی ارائه بهتر برخی مفاهیم حقوقی می‌توانند مفید باشند.

یک مسئله مهم دیگر هم زبان است. در حقوق تطبیقی، حقوق بین‌الملل و پرونده‌های فرامرزی، زبان همیشه یک مانع جدی بوده است. اینکه بتوانیم یک متن حقوقی را سریع‌تر ترجمه کنیم، خلاصه کنیم و حتی درباره زمینه حقوقی آن اطلاعات بگیریم، دسترسی ما به منابع سایر نظام‌های حقوقی را بسیار آسان‌تر کرده است.

اما شاید یکی از مهم‌ترین تغییرات این باشد که بخشی از دانشی که قبلاً عملاً فقط در اختیار متخصصان بود، امروز برای افراد بیشتری قابل دسترس شده است. مثلاً برای فهم یک رأی دادگاه، یک قانون خارجی یا یک مفهوم تخصصی، دیگر همیشه لازم نیست فرد از قبل متخصص همان حوزه باشد. ابزارهای هوشمند می‌توانند تا حدی اطلاعات زمینه‌ای لازم را در اختیار او قرار دهند.

البته همه این‌ها به این معنا نیست که هوش مصنوعی جای متخصص حقوق را گرفته است. مسئله بیشتر این است که ابزارهای جدیدی در اختیار متخصص قرار گرفته که قبلاً وجود نداشت. به نظرم همین موضوع می‌تواند شیوه پژوهش، دسترسی به منابع و حتی تولید دانش حقوقی را تا حد زیادی تغییر دهد.

با وجود این همه قابلیت، حتماً ریسک‌ها و چالش‌هایی هم مطرح است. در استفاده از هوش مصنوعی باید منتظر چه چالش‌ها و ریسک‌هایی باشیم؟

دقیقاً. اتفاقاً به نظرم اگر درباره قابلیت‌ها صحبت کنیم ولی درباره خطراتش حرف نزنیم، تصویر کاملی از هوش مصنوعی نخواهیم داشت. چون همان انعطاف و چند کارکردی بودن که گفتم، می‌تواند در صورت استفاده نادرست، مشکل ساز هم بشود.

شاید شناخته‌شده ترین مسئله، همان چیزی باشد که به آن «توهم‌ زایی» یا hallucination می‌گویند. یعنی مدل ممکن است پاسخی بدهد که کاملاً دقیق و حرفه‌ای به نظر برسد، اما بخشی از آن یا حتی تمام آن نادرست باشد. این موضوع در حقوق خیلی جدی است، چون ممکن است مدل به رأی، پرونده یا منبعی استناد کند که اصلاً وجود خارجی ندارد. چنین مواردی را در چند پرونده حقوقی در آمریکا و انگلستان هم دیده‌ایم.

وکلایی با کمک هوش مصنوعی متن‌هایی تهیه کرده بودند و بعد مشخص شده بود بخشی از آرایی که در متن به آنها استناد شده، اساساً وجود نداشته‌اند. بنابراین استفاده از هوش مصنوعی در حقوق بدون بررسی و راستی آزمایی می‌تواند حتی برای یک وکیل تبعات حرفه‌ای و انضباطی داشته باشد.

مسئله بعدی سوگیری است. مدل‌های هوش مصنوعی بر اساس داده‌هایی آموزش می‌بینند که خودشان محصول یک جامعه و یک نظام حقوقی خاص هستند. بنابراین اگر مثلاً مدلی عمدتاً بر اساس داده‌های حقوقی و اجتماعی کشورهای غربی آموزش دیده باشد، نمی‌توانیم بدون هیچ ملاحظه‌ای آن را وارد یک نظام حقوقی متفاوت کنیم و انتظار داشته باشیم همه پاسخ‌هایش کاملاً با آن محیط سازگار باشد.

مسئله مهم دیگر، توضیح‌پذیری است. همان چیزی که معمولاً از آن با عنوان «جعبه سیاه» یاد می‌کنیم. در بعضی مدل‌ها ما دقیقاً نمی‌دانیم چرا سیستم به یک پاسخ مشخص رسیده است. حالا تصور کنید قرار باشد از چنین سیستمی در یک فرایند قضایی استفاده شود. اگر نتوانیم بفهمیم چرا این خروجی تولید شده، بازسازی و بررسی استدلال آن بسیار دشوار می‌شود. این موضوع از نظر اصول دادرسی منصفانه و ضرورت استدلال پذیر و قابل بازبینی بودن تصمیم قضایی، اهمیت زیادی دارد.

به همین دلیل، در مقررات جدیدی مثل قانون هوش مصنوعی اتحادیه اروپا، بعضی کاربردهای هوش مصنوعی در حوزه قضایی در زمره کاربردهای پرریسک قرار گرفته‌اند و برای آنها نظارت انسانی و الزامات مشخصی در زمینه شفافیت و مدیریت ریسک در نظر گرفته شده است.

در کنار این مسائل، حریم خصوصی و حفاظت از داده‌ها هم بسیار مهم است. به‌خصوص در پرونده‌های حقوقی که ممکن است اطلاعات محرمانه موکل، داده‌های حساس پژوهشی یا اطلاعات شخصی افراد در اختیار سیستم قرار بگیرد.

مالکیت فکری و کپی‌رایت هم یک بحث جدی دیگر است. به‌خصوص درباره محتوایی که توسط هوش مصنوعی تولید می‌شود و اینکه چه کسی مالک آن محسوب می‌شود یا استفاده از داده‌های موجود برای آموزش مدل‌ها چه پیامدهای حقوقی دارد.

حتی مسئله‌ای مثل «فروپاشی مدل» هم مطرح شده. یعنی اینکه اگر مدل‌ها به‌طور مکرر با داده‌هایی آموزش ببینند که خودشان توسط مدل‌های قبلی تولید شده‌اند، ممکن است کیفیت خروجی آنها به مرور کاهش پیدا کند.

یک خطر دیگر هم هست که شاید کمتر درباره آن صحبت شود و آن، وابستگی بیش از حد انسان به این ابزارها است. یعنی پژوهشگر یا وکیل به‌جای اینکه خودش تحلیل کند، به‌تدریج همه چیز را به هوش مصنوعی واگذار کند. این مسئله ممکن است در بلندمدت مهارت‌های تحلیلی و تفکر انتقادی فرد را ضعیف کند.

در نهایت، موضوع دسترسی هم اهمیت زیادی دارد. اگر ابزارهای قدرتمند هوش مصنوعی فقط در اختیار برخی کشورها، دانشگاه‌ها یا شرکت‌ها باشد، ممکن است یک نوع نابرابری جدید شکل بگیرد. نابرابری‌ که حتی می‌تواند خودش را در دسترسی به دانش و در نهایت دسترسی به عدالت نشان دهد.

بنابراین به نظرم مسئله این نیست که هوش مصنوعی ذاتاً خوب است یا بد. مسئله این است که چه کسی، با چه هدفی و تحت چه قواعدی از آن استفاده می‌کند. و به همین دلیل است که استفاده از این فناوری در حقوق، بدون چارچوب‌های نظارتی و اخلاقی روشن، می‌تواند خطرناک باشد.

با این حجم از خطرات و ریسک‌هایی که برشمردید، آیا بهتر نیست اصلاً استفاده از این ابزارها را ممنوع کنیم؟ به نظر می‌رسد بخشی از جامعه، حتی برخی اساتید هم، همین دیدگاه را دارند.

این دقیقاً یکی از بحث‌های جدی امروز در دانشگاه‌ها است. از یک طرف، نگرانی درباره سوءاستفاده از هوش مصنوعی کاملاً قابل درک است. از طرف دیگر، معمولاً هر فناوری جدیدی که وارد یک نظام سنتی می‌شود، با نوعی مقاومت مواجه می‌شود.

به نظر ممنوعیت کامل راه‌حل مناسبی نیست. استفاده مسئولانه و اخلاقی از هوش مصنوعی به‌تدریج دارد تبدیل به یک ضرورت می‌شود، نه یک انتخاب. دنیا با سرعت زیادی در حال حرکت به سمت استفاده از این فناوری است و اگر ما به‌طور کامل آن را کنار بگذاریم، احتمالاً به جای اینکه مشکل را حل کنیم، خودمان را از یک تحول مهم عقب می‌اندازیم.

البته نگرانی دانشگاه‌ها، مخصوصاً درباره دانشجویان، کاملاً جدی است. طبیعی است که یک استاد نگران باشد دانشجو به جای اینکه خودش فکر و استدلال کند، همه کار را به هوش مصنوعی بسپارد. این نگرانی در رشته حقوق حتی جدی‌تر است، چون دانشجوی حقوق باید توانایی استدلال حقوقی، تحلیل و نگارش را خودش یاد بگیرد.

اما فکر می‌کنم مسئله اصلی اینجاست که خیلی از دانشگاه‌ها هنوز چارچوب مشخصی برای استفاده از هوش مصنوعی ندارند. دانشجو وقتی نداند دقیقاً چه چیزی مجاز است و چه چیزی نیست، طبیعتاً ممکن است مرزها را اشتباه تشخیص دهد.

در ایران هم وزارت علوم و بنیاد ملی علم ایران در این زمینه راهنماهایی منتشر کرده‌اند. در سطح بین‌المللی هم اسناد مختلفی از سوی یونسکو، سازمان همکاری و توسعه اقتصادی و اتحادیه اروپا منتشر شده است. نکته مشترک بسیاری از این اسناد این است که راه‌حل را در ممنوعیت مطلق نمی‌بینند، بلکه روی استفاده شفاف، مسئولانه و همراه با نظارت انسانی تأکید می‌کنند.

به نظرم دانشگاه‌ها باید به جای اینکه فقط بگویند «استفاده نکنید»، دقیقاً توضیح بدهند که در چه شرایطی استفاده مجاز است، در چه شرایطی نیاز به اعلام دارد و در چه شرایطی ممنوع است.

اگر این اتفاق نیفتد، از یک طرف استفاده‌های پنهانی و نادرست بیشتر می‌شود و از طرف دیگر، دانشجویان و پژوهشگران ما ممکن است از ابزارهایی که دیگران در دنیا از آنها استفاده می‌کنند، عقب بمانند.

این «استفاده مسئولانه و اخلاقی» که به آن اشاره می‌کنید دقیقاً یعنی چه؟

فکر می‌کنم اول باید یک سوءتفاهم را برطرف کنیم. در بسیاری از استانداردها و دستورالعمل‌های جدید، اصل استفاده از هوش مصنوعی ذاتاً ممنوع نیست. مسئله اصلی این است که استفاده چگونه انجام شود.

مثلاً مهم‌ترین اصل، به نظرم، شفافیت است. یعنی اگر یک دانشجو، استاد، پژوهشگر، وکیل یا حتی قاضی در فرایند کارش از یک ابزار هوش مصنوعی استفاده می‌کند، باید در مواردی که لازم است این موضوع را اعلام کند. در کار پژوهشی حتی بهتر است مشخص باشد که از چه مدلی و در کدام بخش کار استفاده شده است.

اصل مهم بعدی، چیزی است که در ادبیات این حوزه به آن Human-in-the-Loop یا «انسان در چرخه» می‌گویند. معنایش خیلی ساده است: تصمیم نهایی همچنان باید با انسان باشد.

یعنی اگر هوش مصنوعی یک متن، یک تحلیل یا حتی یک پیشنهاد حقوقی ارائه کرد، نباید صرفاً به این دلیل که پاسخ حرفه‌ای و قانع‌کننده به نظر می‌رسد، همان را بپذیریم. باید بررسی شود، منابعش کنترل شود و در صورت نیاز اصلاح شود.

هوش مصنوعی می‌تواند دستیار بسیار خوبی باشد، اما تصمیم نهایی و مسئولیت آن تصمیم همچنان با انسان است.

اصل مهم دیگر، پاسخ‌گویی است. اگر یک وکیل بر اساس پاسخ نادرست هوش مصنوعی تصمیم اشتباهی بگیرد، نمی‌تواند بگوید «هوش مصنوعی این را گفته بود». مسئولیت همچنان متوجه خود اوست. همین موضوع درباره پژوهشگر، استاد یا هر کاربر حرفه‌ای دیگری هم صدق می‌کند.

در کنار این‌ها، حریم خصوصی و محرمانگی هم اهمیت زیادی دارد. ما نباید هر نوع اطلاعاتی را بدون توجه به حساسیت‌اش در اختیار یک سامانه هوش مصنوعی قرار دهیم. به‌خصوص وقتی پای اطلاعات محرمانه موکل، داده‌های شخصی یا اطلاعات حساس پژوهشی در میان است.

و یک اصل دیگر هم بسیار مهم است: حفظ استقلال فکری. یعنی هوش مصنوعی نباید کم‌کم جای فکر کردن انسان را بگیرد. ممکن است ابزار بسیار خوبی برای کمک به تحلیل باشد، اما قرار نیست دانشجو، پژوهشگر یا وکیل را از تحلیل شخصی بی‌نیاز کند.

بنابراین اگر بخواهم خیلی ساده جمع‌بندی کنم، استفاده مسئولانه یعنی چند چیز را همزمان رعایت کنیم: شفاف باشیم که از هوش مصنوعی استفاده کرده‌ایم، خروجی آن را بررسی کنیم، مسئولیت نهایی را خودمان بپذیریم، اطلاعات محرمانه را حفظ کنیم و اجازه ندهیم ابزار هوشمند جای استقلال فکری ما را بگیرد.

به نظرم راه درست هم دقیقاً همین است. نه اینکه بگوییم هوش مصنوعی را کلاً کنار بگذاریم، و نه اینکه هرچه می‌گوید بدون بررسی بپذیریم. باید یاد بگیریم چطور از این ابزار استفاده کنیم، بدون اینکه مسئولیت و نقش انسان را از بین ببریم.

خبرنگار: مهدیا عابدکریمی

انتهای خبر./