آیا مشاورههای حقوقی که توسط هوش مصنوعی داده میشود، قابل استناد است؟
آیا مشاوره حقوقی هوش مصنوعی قابل استناد است؟ | چالشها و اعتبار قانونی
آنچه در این مقاله با هم گپ میزنیم:
- داستان رامین؛ وقتی اجارهنامه با چتجیپیتی نوشته میشود!
- مغز سیلیکونی چطور قانون را تحلیل میکند؟
- مقایسه وکیل واقعی و هوش مصنوعی در ترازوی واقعیت
- سندیت قانونی؛ آیا قاضی پرینت چت با هوش مصنوعی را قبول میکند؟
- وقتی هوش مصنوعی توهم میزند؛ خطر قوانین ساختگی!
- اگر به خاطر مشاوره اشتباه هوش مصنوعی ضرر کردیم، یقه چه کسی را بگیریم؟
- چطور بدون دردسر از هوش مصنوعی برای کارهای حقوقی استفاده کنیم؟
- حرف آخر من؛ بالاخره به این وکیل دیجیتالی اعتماد کنیم یا نه؟
چند وقت پیش، یکی از دوستان صمیمیام به نام رامین که کارگاه کوچک تولیدی در حاشیه شهر دارد، با من تماس گرفت. صدایش از عصبانیت و نگرانی شدید میلرزید. گفت: «پیمان، بدبخت شدم! با مستأجرم به مشکل خوردهام و حالا میگوید طبق بندی که در قرارداد نوشتیم، میتواند تا سه سال ملک را تخلیه نکند و من هم نمیتوانم اجاره را بالا ببرم!» خیلی تعجب کردم، چون رامین آدم خسیسی نیست، اما اینبار برای نوشتن قرارداد اجاره کارگاهش، به جای اینکه سراغ یک مشاور حقوقی یا وکیل باسابقه برود، تصمیم گرفته بود به خیال خودش زرنگی کند و هزینهای ندهد.
او داستان را اینطور تعریف کرد که چند دقیقه با چتجیپیتی گفتگو کرده و یک قرارداد به قول خودش «شیک و بینقص» تحویل گرفته بود. اما بگذار راستش را به تو بگویم؛ هوش مصنوعی ترکیبی از قوانین کامنلا (حقوق عرفی انگلستان و آمریکا) را با چاشنی ترجمه فارسی و چند ماده از قانون مدنی ایران مخلوط کرده بود و آش شلهقلمکاری تحویل رامین داده بود که مستأجر باهوشش هم از همین خلاءهای قانونی به نفع خودش استفاده کرده بود! این داستان، دقیقاً جرقهای شد تا بنشینم و این مقاله مفصل را بنویسم. میخواهم یک بار برای همیشه به این سوال مهم جواب بدهم: آیا واقعاً میتوانیم روی مشاوره حقوقی هوش مصنوعی حساب باز کنیم؟ و از آن مهمتر، آیا این مشاورهها در دادگاههای ما پشیزی ارزش قانونی دارند؟
داستان رامین؛ وقتی اجارهنامه با چتجیپیتی نوشته میشود!
ماجرا از این قرار بود که رامین به هوش مصنوعی گفته بود: «یک قرارداد اجاره برای کارگاه صنعتی بنویس که در آن حق فسخ برای موجر محفوظ باشد، اما منصفانه باشد.» هوش مصنوعی هم لطف کرده بود و بندی اضافه کرده بود که فسخ قرارداد منوط به "حسن نیت طرفین و بروز شرایط غیرمترقبه تجاری با تایید کارشناس مستقل" باشد! این عبارت اصلاً در ادبیات حقوقی و قانون مدنی ایران به این شکل تعریف نشده است. در حقوق ما، خیارات فسخ باید کاملاً صریح، مشخص و با مدت زمان معین باشند، وگرنه ممکن است هم شرط و هم خود قرارداد با چالش ابطال مواجه شوند.
مستأجر رامین هم با وکیل خودش مشورت کرده بود و فهمیده بود که این بند چقدر مبهم است. حالا رامین مانده بود و یک قرارداد که نه راه پیش برایش گذاشته بود و نه راه پس. خب، ببین! این دقیقاً همان نقطهای است که تکنولوژی با تمام دلبریهایش، ما را ته دره میفرستد. رامین فکر میکرد یک مشاوره حقوقی آنلاین سریع و رایگان گرفته، اما در واقع یک بمب ساعتی را در مغازهاش فعال کرده بود که در نهایت مجبور شد چند برابر هزینه آن وکیل را خرج دادگاه و حقالوکاله کند تا فقط قرارداد را اصلاح کند.
مغز سیلیکونی چطور قانون را تحلیل میکند؟
بیایید یک لحظه کلاهمان را قاضی کنیم. هوش مصنوعی چطور کار میکند؟ مدلهای زبانی بزرگ مثل GPT-4 یا کلود، بر پایه حدس زدن کلمه بعدی کار میکنند. آنها میلیاردها سند، کتاب، مقاله و البته متون حقوقی را بلعیدهاند. وقتی شما از یک وکیل هوش مصنوعی سوالی میپرسید، او در حقیقت شروع میکند به پیشبینی اینکه بر اساس متونی که قبلاً خوانده، چه کلماتی در کنار هم میتوانند منطقیترین و زیباترین پاسخ را بسازند.
او واقعاً قانون را «نمیفهمد». او درک نمیکند که پشت یک کلمه مثل "انفساخ" چه کوهی از آثار حقوقی نهفته است. او فقط میداند که کلمه "انفساخ" معمولاً در کنار کلماتی مثل "قرارداد"، "قهری" و "شرط" ظاهر میشود. به نظرم بزرگترین اشتباه ما این است که هوش مصنوعی را با یک انسان فوقباهوش اشتباه میگیریم. نه جانم! او یک پردازشگر آماری بسیار پیشرفته است، نه یک فیلسوف یا حقوقدان محتاط.
راستی، یک نکته ظریف دیگر هم وجود دارد؛ بیشتر این مدلها با دادههای انگلیسیزبان آموزش دیدهاند. وقتی از آنها درباره قوانین ایران میپرسید، آنها ابتدا مفاهیم را در ذهن سیلیکونی خود به انگلیسی ترجمه میکنند، سپس قوانین بینالمللی را با آن تطبیق میدهند و در نهایت یک خروجی فارسی تحویل شما میدهند. نتیجه چه میشود؟ اصطلاحات عجیب و غریبی که در هیچ جای نظام حقوقی ایران وجود ندارد، اما ظاهرشان بسیار فریبنده و علمی است!
مقایسه وکیل واقعی و هوش مصنوعی در ترازوی واقعیت
بیا رو راست باشیم؛ هر کدام از این دو، ویژگیهای خاص خودشان را دارند. برای اینکه موضوع کاملاً برایت جا بیفتد، یک جدول مقایسهای ساده اما کاربردی برایت آماده کردهام تا تفاوتها را در یک نگاه ببینی:
| معیار بررسی | مشاوره حقوقی هوش مصنوعی | وکیل و مشاور حقوقی انسانی |
|---|---|---|
| مسئولیت مدنی و قانونی | مطلقاً ندارد (هیچ شرکتی مسئولیت اشتباهات آن را گردن نمیگیرد) | دارد (قابل شکایت در دادسرای انتظامی وکلا و جبران خسارت) |
| درک زمینههای بومی و عرفی | بسیار ضعیف (قوانین خشک را بدون توجه به مقتضیات محلی ترکیب میکند) | بسیار قوی (عرف بازار، نظر قضات محلی و رویه دادگاهها را میشناسد) |
| خطر اطلاعات منسوخ و غلط | بسیار بالا (به دلیل پدیده توهم یا عدم بروزرسانی لحظهای قوانین) | بسیار کم (وکیل موظف است آخرین قوانین و آرا را بررسی کند) |
| هزینه و زمان دسترسی | تقریباً رایگان، بدون معطلی و در ۲۴ ساعت شبانهروز | نیازمند پرداخت حق مشاوره و هماهنگی وقت قبلی |
| اعتبار و سندیت در دادگاه | به هیچ عنوان قابل استناد نیست | کاملاً معتبر، قانونی و دفاعپذیر |
همانطور که در جدول بالا میبینی، تفاوتها فاحش است. هوش مصنوعی در سرعت و قیمت برنده مطلق است، اما در جاهایی که پای مرگ و زندگی، یا هست و نیستِ مالی شما در میان است، کم میآورد.
سندیت قانونی؛ آیا قاضی پرینت چت با هوش مصنوعی را قبول میکند؟
حالا بگذار به سوال اصلی و فنی بپردازیم: اعتبار قانونی چت جی پی تی و دیگر ابزارهای مشابه در دادگاههای ایران چقدر است؟ تصور کن فردا روز دادگاه داری. یک پوشه زیر بغلت زدهای و داخل آن پرینت چتهایت با هوش مصنوعی را گذاشتهای که در آن به تو گفته حق با توست. با اعتماد به نفس جلوی قاضی میایستی و میگویی: «جناب قاضی، طبق این سندی که دارم، این چتبات تایید کرده که قرارداد من صحیح است!»
حدس میزنی قاضی چه واکنشی نشان دهد؟ به احتمال زیاد با لبخندی تلخ، پرونده را میبندد و از اتاق بیرونتان میکند! در سیستم حقوقی ایران، بر اساس قانون مدنی و قانون آیین دادرسی مدنی، ادله اثبات دعوی کاملاً مشخص و احصا شده هستند. این ادله عبارتند از:
- اقرار
- اسناد (رسمی و عادی)
- شهادت شهود
- امارات (نشانه ها و قرائن)
- قسم (سوگند)
- نظریه کارشناس رسمی دادگستری
خروجی یک چتبات هوش مصنوعی در هیچکدام از این دستهبندیها قرار نمیگیرد. این خروجی نه یک "سند" است (چون توسط مأمور رسمی یا شخص ذیربط امضا و مهر نشده) و نه میتواند به عنوان "نظریه کارشناس" پذیرفته شود، چرا که چتبات اصلاً پروانه کارشناسی رسمی ندارد! حتی به عنوان اماره یا نشانه هم قاضی نمیتواند به آن استناد کند؛ چون علم قاضی باید بر اساس دلایل عقلانی و قانونی شکل بگیرد، نه خروجی یک الگوریتم خارجی که هیچ نظارت حاکمیتی روی آن نیست.
بنابراین، اگر به دنبال این هستی که از مشاورههای این ابزارها به عنوان یک مدرک یا سند برای اثبات حقانیت خودت استفاده کنی، باید صراحتاً بگویم که اعتبار حقوقی هوش مصنوعی در حال حاضر در مراجع قضایی ایران دقیقاً «صفر» است.
وقتی هوش مصنوعی توهم میزند؛ خطر قوانین ساختگی!
اصطلاحی در دنیای هوش مصنوعی وجود دارد به نام «توهم» (Hallucination). این اصطلاح شیک یعنی اینکه هوش مصنوعی با اعتماد به نفس کامل و با زبانی بسیار متقاعدکننده، شروع میکند به دروغ گفتن و بافتن اطلاعات از خودش! در مسائل عادی شاید این توهمها فقط خندهدار باشند، اما در دنیای حقوق، یک اشتباه کوچک میتواند زندگی شما را نابود کند.
بگذار یک مثال واقعی و تاریخی برایت بزنم. در سال ۲۰۲۳، یک وکیل نیویورکی به نام استیون شوارتز برای نوشتن لایحه دفاعیه خود در دادگاه از چتجیپیتی استفاده کرد. این چتبات هم برای او چندین پرونده و رای قضایی قبلی را به عنوان نمونه و سابقه ذکر کرد تا در لایحه بنویسد. وقتی قاضی و وکلای طرف مقابل پروندهها را بررسی کردند، متوجه شدند که اصلاً چنین پروندهها و آرایی در تاریخ سیستم قضایی آمریکا وجود خارجی نداشته است! هوش مصنوعی آنها را در کمال خونسردی خلق کرده بود تا به سوال وکیل پاسخ داده باشد. نتیجه؟ آن وکیل نگونبخت نه تنها پرونده را باخت، بلکه با جریمههای سنگین و خطر ابطال پروانه وکالتش مواجه شد.
در ایران هم این اتفاق زیاد میافتد. مثلاً ممکن است هوش مصنوعی به شما بگوید بر اساس ماده فلان قانون تجارت میتوانید فلان کار را بکنید، در حالی که آن ماده ده سال پیش منسوخ شده یا اصلاحیه خورده است. قوانین مالیاتی و ثبتی ما هر سال تغییر میکنند و هوش مصنوعی معمولاً فرسنگها از این تغییرات و بخشنامههای جدید عقب است.
اگر به خاطر مشاوره اشتباه هوش مصنوعی ضرر کردیم، یقه چه کسی را بگیریم؟
یکی از قشنگترین بخشهای مراجعه به یک وکیل واقعی، موضوع مسئولیت مدنی است. اگر وکیل شما در انجام وظایفش سهلانگاری کند، دادخواست را اشتباه بنویسد، یا مهلت تجدیدنظرخواهی را از دست بدهد و به این ترتیب به شما ضرر بزند، شما میتوانید از او شکایت کنید. کانون وکلا پرونده را بررسی میکند و حتی اگر تقصیر او ثابت شود، بیمه مسئولیت مدنی وکلای دادگستری موظف به جبران خسارت شماست.
حالا بیا این سناریو را در مورد هوش مصنوعی پیاده کنیم. فرض کنیم شما بر اساس مشاوره یک چتبات، یک دادخواست اشتباه ثبت کردهاید و دادگاه پرونده شما را رد کرده و کل هزینه دادرسیتان هدر رفته است. حالا میخواهی بروی یقه چه کسی را بگیری؟ کمپانی OpenAI در آمریکا؟ یا شرکتهای داخلی که این ابزارها را بومیسازی یا بازنشر میکنند؟
بیا رو راست باشیم؛ اگر بندهای قوانین کاربری (Terms of Service) این برنامهها را بخوانی، متوجه میشوی که آنها از قبل دور خودشان یک دیوار بتنی کشیدهاند. در تمامی این توافقنامهها صراحتاً نوشته شده است:
«این ابزار صرفاً برای مقاصد اطلاعاتی و عمومی ارائه شده است و به هیچ وجه توصیه یا مشاوره حقوقی، پزشکی یا مالی تخصصی محسوب نمیشود. ما هیچ مسئولیتی در قبال تصمیمگیریها، خسارات مستقیم یا غیرمستقیم ناشی از استفاده از این اطلاعات را بر عهده نمیگیریم.»
بنابراین، از نظر حقوقی، بحث مسئولیت مدنی هوش مصنوعی در حال حاضر کاملاً منتفی است و تمام ریسک و عواقب استفاده از آن، ۱۰۰ درصد روی دوش خودِ خودِ شماست.
چطور بدون دردسر از هوش مصنوعی برای کارهای حقوقی استفاده کنیم؟
با همه این اوصاف، آیا باید هوش مصنوعی را کاملاً کنار بگذاریم و با آن قهر کنیم؟ ابداً! من خودم عاشق تکنولوژی هستم و به نظرم احمقانه است که از این دستیار فوقالعاده سریع استفاده نکنیم. نکته اینجاست که باید فرمول بازی با آن را بلد باشیم. چطور؟ این چند قاعده ساده را رعایت کنید:
- طوفان فکری و آشنایی اولیه: وقتی با یک مسئله حقوقی مواجه میشوید، به جای اینکه گیج و سردرگم شوید، ابتدا سوال خود را از هوش مصنوعی بپرسید تا یک دید کلی، اصطلاحات کلیدی مرتبط و نقشه راه اولیه را به شما بدهد. این کار به شما کمک میکند وقتی میخواهید با یک وکیل صحبت کنید، بدانید چه بپرسید و وقتتان تلف نشود.
- خلاصهسازی اسناد طولانی: اگر یک قرارداد طولانی یا یک لایحه پیچیده دارید، میتوانید از هوش مصنوعی بخواهید نکات کلیدی، تعهدات طرفین و جریمهها را برای شما خلاصه کند تا سریعتر موضوع را درک کنید.
- پیشنویس اولیه، نه نسخه نهایی: میتوانید از آن بخواهید یک پیشنویس اولیه برای قرارداد خرید و فروش یا اجاره بنویسد، اما حتماً و حتماً قبل از امضا، آن را به یک وکیل نشان دهید تا بند به بند آن را با قوانین جاری کشور تطبیق دهد.
- ترکیب با مشاورههای انسانی: این روزها پلتفرمهای زیادی برای مشاوره حقوقی تلفنی یا آنلاین وجود دارند که با هزینههای بسیار کم، شما را به وکلای واقعی وصل میکنند. از هوش مصنوعی ایده بگیرید، اما تصمیم نهایی را با تایید آن وکیل واقعی بگیرید.
حرف آخر من؛ بالاخره به این وکیل دیجیتالی اعتماد کنیم یا نه؟
واقعیت این است که هوش مصنوعی دستیار بینظیری است، اما وکیل فاجعهباری است! او میتواند در عرض چند ثانیه هزاران صفحه متن را برایت اسکن کند، اما نمیتواند لحن قاضی را در دادگاه پیشبینی کند، نمیتواند عواطف و فشارهای روانی که در یک پرونده خانوادگی روی تو هست را درک کند و از همه مهمتر، در برابر اشتباهاتش هیچ مسئولیتی قبول نمیکند.
به نظر من، تا زمانی که قوانین بینالمللی و داخلی چارچوب مشخصی برای فعالیت و مسئولیتپذیری این سیستمها تعریف نکنند، استفاده مستقل و بدون نظارت از مشاورههای حقوقی آنها، بازی با آتش است. پس بیاییم هوشمندانه عمل کنیم؛ از مغز سیلیکونی برای یادگیری و تحلیل سریع اطلاعات استفاده کنیم، اما امضای نهایی قراردادها و دفاع در دادگاه را به دست وکلای واقعی و با تجربه بسپاریم تا مثل دوست من رامین، مجبور نشویم بهای سنگینی برای یک مشاوره رایگان بپردازیم.
سوالات متداول
- آیا میتوان به عنوان مدرک در دادگاه به خروجی هوش مصنوعی استناد کرد؟
- خیر، در سیستم حقوقی ایران ادله اثبات دعوی مشخص هستند و خروجی چتباتها به عنوان سند، شهادت یا نظریه کارشناسی رسمی پذیرفته نمیشود و هیچ ارزش استنادی مستقیم در دادگاه ندارد.
- چرا هوش مصنوعی گاهی قوانین اشتباه یا منسوخشده را تحویل میدهد؟
- زیرا هوش مصنوعی اطلاعات را بر اساس الگوهای آماری تولید میکند، نه درک واقعی از قانون. همچنین تغییرات لحظهای قوانین، آییننامهها و بخشنامههای جدید در دادههای آموزشی آن اعمال نمیشود و این امر منجر به پدیده توهم یا خطای اطلاعاتی میگردد.
- آیا میتوان از سازندگان هوش مصنوعی به خاطر مشاوره حقوقی اشتباه شکایت کرد؟
- خیر، تمامی شرکتهای ارائهدهنده خدمات هوش مصنوعی در شرایط استفاده خود صراحتاً اعلام کردهاند که این خدمات مشاوره حقوقی تخصصی نیستند و آنها هیچگونه مسئولیت مدنی یا قانونی در قبال خسارات احتمالی ندارند.
- بهترین راه استفاده از هوش مصنوعی در امور حقوقی چیست؟
- بهترین راه این است که از آن به عنوان ابزاری برای تحقیقات اولیه، یادگیری اصطلاحات حقوقی، خلاصهسازی اسناد طولانی و نوشتن پیشنویسهای اولیه استفاده کنید و در نهایت خروجی را حتماً به تایید یک وکیل باسابقه برسانید.
- آیا هوش مصنوعی میتواند به طور کامل جایگزین وکلای دادگستری شود؟
- در حال حاضر و در آینده نزدیک خیر؛ زیرا وکالت نیازمند درک عمیق از عرف جامعه، شهود انسانی، خلاقیت در دفاع، مهارتهای ارتباطی در دادگاه و پذیرش مسئولیت قانونی است که هوش مصنوعی هیچکدام از این ویژگیها را ندارد.