آیا پاسخ‌های هوش مصنوعی می‌توانند در دادگاه به‌عنوان مدرک استفاده شوند؟

تحول دیجیتال و نفوذ هوش مصنوعی به لایه‌های مختلف حیات اجتماعی، نظام‌های قضایی جهان را با چالش‌هایی مواجه کرده است که پیش از این در متون حقوقی کلاسیک تصور نمی‌شد. امروزه کاربران برای حل مسائل خود یا استخراج اطلاعات، به سراغ مدل‌های زبانی بزرگ می‌روند و گاهی تصور می‌کنند خروجی‌های این سامانه‌ها، به دلیل ظاهر علمی و ساختاریافته، می‌تواند به عنوان یک سند یا دلیل در فرآیند دادرسی پذیرفته شود.

اما پرسش بنیادین اینجاست: آیا یک متن تولیدشده توسط الگوریتم، قابلیت استناد قانونی دارد؟ و مرز میان ابزار کمکی و مدرک حقوقی کجاست؟

مدرک و دلیل در فرایندهای حقوقی چه مفهومی دارند؟

در نظام‌های حقوقی، مدرک یا دلیل ابزاری است که برای اثبات یا نفی یک ادعا در برابر مقام قضایی به کار می‌رود. قابلیت استناد یک مطلب، مستلزم آن است که آن مطلب از نظر قانونی معتبر باشد، اصالت آن قابل اثبات باشد و از نظر محتوایی، عدم صدق یا خطا در آن محتمل نباشد.

در دادرسی‌ها، ادله معمولاً به دو دسته تقسیم می‌شوند: ادله مادی (مانند اسناد، قراردادها و اشیاء) و ادله معنوی (مانند شهادت شهود و سوگند). هر یک از این ادله باید زنجیره‌ای از صحت و اصالت را طی کنند تا قاضی بتواند بر اساس آن‌ها حکم صادر کند.

خروجی تولیدشده توسط هوش مصنوعی چیست؟

یکی از تصورات رایج درباره عملکرد هوش مصنوعی، به‌ویژه مدل‌های زبانی بزرگ، این است که آن‌ها مانند یک موتور جستجوی پیشرفته یا یک کتابخانه دیجیتال عمل می‌کنند. کاربران گمان می‌کنند هوش مصنوعی صرفاً اطلاعات موجود در منابع معتبر را پیدا کرده، آن‌ها را دسته‌بندی و سپس عیناً یا با اندکی تغییر به مخاطب ارائه می‌دهد. اما واقعیت فنی این فرایند، تفاوتی اساسی با این تصور دارد.

• هوش مصنوعی در عمل چگونه کار می‌کند؟ این مدل‌ها در واقع ماشین‌های پیش‌بینی کلمه هستند. آن‌ها بر روی حجم عظیمی از داده‌های متنی (کتاب‌ها، مقالات، وب‌سایت‌ها و…) آموزش دیده‌اند. در طول این آموزش، مدل یاد می‌گیرد که بر اساس کلمات قبلی در یک جمله یا متن، محتمل‌ترین کلمه بعدی کدام است. این فرایند مانند تکمیل خودکار متن در تلفن همراه شماست، اما در مقیاسی بسیار گسترده‌تر و پیچیده‌تر.
• بازسازی اطلاعات در برابر تولید محتوا: بنابراین، وقتی یک مدل هوش مصنوعی متنی را تولید می‌کند، در حال بازسازی یا استخراج اطلاعات از منابع معتبر نیست؛ بلکه در حال تولید یک رشته کلمات جدید بر اساس الگوهای آماری است که از داده‌های آموزشی آموخته است.
• ریشه چالش‌های حقوقی: این تفاوت ماهوی میان تولید محتوا بر اساس احتمال (کاری که هوش مصنوعی انجام می‌دهد) و ارائه حقیقت عینی (که در حقوق مد نظر است)، نقطه آغاز چالش‌های حقوقی و مفهومی است. حقوق بر پایه مفاهیمی چون صحت، دقت، واقعیت و تقصیر بنا شده است. اما هوش مصنوعی با احتمالات و الگوهای آماری سروکار دارد. این شکاف، مسئولیت‌سنجی در قبال خروجی‌های ماشین را پیچیده می‌سازد، زیرا نمی‌توان خطای احتمالی یک مدل را دقیقاً معادل تقصیر یا عدم دقت مورد نظر در حقوق دانست، مگر آنکه این خطا ناشی از قصور در طراحی یا استفاده نادرست باشد.

چرا اعتبار خروجی AI می‌تواند محل بحث باشد؟

استناد به خروجی‌های هوش مصنوعی در دادگاه با چالش‌های بنیادینی روبروست که اعتبار آن‌ها را زیر سوال می‌برد:

• احتمال خطا و پدیده توهم: یکی از بزرگ‌ترین تهدیدها در استفاده از هوش مصنوعی، پدیده توهم است. در این حالت، مدل هوش مصنوعی با اطمینان بسیار بالا، اطلاعاتی را تولید می‌کند که در واقعیت وجود ندارند؛ برای مثال، ساختن یک شماره ماده قانونی، ذکر یک رأی وحدت رویه یا حتی نام یک پرونده قضایی که هرگز رخ نداده است. در محیط دادگاه، چنین خطایی می‌تواند منجر به تصمیم‌گیری نادرست و نقض عدالت شود.
• نبود منبع مشخص و شفافیت: در روش‌های سنتی، هر ادعا باید مستدل و مستند باشد؛ به عنوان مثال، همراه با ارجاع به ماده قانونی مشخص، بندهای یک قرارداد معین، یا شهادت فردی در تاریخ خاص. اما ماهیت خروجی‌های هوش مصنوعی با این اصل بنیادین در تضاد است. سیستم‌های هوش مصنوعی اغلب بر پایه ساختارهای پیچیده‌ای عمل می‌کنند که در ادبیات فناوری از آن به جعبه سیاه یاد می‌شود. منظور از جعبه سیاه این است که فرآیند تبدیل داده‌های ورودی به خروجی نهایی، در میان لایه‌های بی‌شمار از محاسبات ریاضی و وزن‌دهی‌های احتمالی پنهان شده است؛ به گونه‌ای که حتی توسعه‌دهندگان سیستم نیز نمی‌توانند با دقت ۱۰۰ درصد توضیح دهند که سیستم بر چه اساسی به یک نتیجه خاص رسیده است.
• دشواری بررسی نحوه تولید پاسخ: در نظام‌های حقوقی، اعتبار یک استدلال، تنها به صحت نتیجه نهایی بستگی ندارد، بلکه به درجه سلامت مسیر رسیدن به آن نتیجه نیز وابسته است. قاضی یا کارشناس حقوقی باید بداند که آیا استدلال بر پایه تحلیل درست مواد قانونی صورت گرفته است یا بر پایه یک هم‌ارزی آماری تصادفی. در هوش مصنوعی، ما با پدیده‌ای روبرو هستیم که در آن خروجی ممکن است از نظر ظاهری صحیح به نظر برسد، اما منطق پشت آن کاملاً فاقد مبانی حقوقی باشد.

تفاوت استفاده از AI برای تحلیل با استفاده از خروجی آن به‌عنوان مدرک

باید میان دو کاربرد متفاوت تفکیک قائل شد.

• از یک سو، استفاده از هوش مصنوعی به عنوان یک ابزار تحلیل وجود دارد؛ مثلاً وکیل برای خلاصه‌سازی یک پرونده حجیم یا جست‌وجوی اولیه در میان هزاران سند از آن استفاده می‌کند. این کار شباهتی به استفاده از ماشین‌حساب در محاسبات ریاضی دارد و صرفاً سرعت کار را بالا می‌برد.
• از سوی دیگر، استفاده از خروجی مستقیم هوش مصنوعی به عنوان مدرک (مثلاً ارائه یک پاسخ چت‌بات به عنوان دلیل بر صحت یک ادعا) کاملاً متفاوت است.

برای درک دقیق‌تر این مرز میان ابزار و سند و همچنین آشنایی با اینکه هوش مصنوعی در مجموع چه جایگاهی در دنیای حقوق دارد و چگونه می‌تواند در کنار مهارت‌های انسانی به کار گرفته شود، مطالعه بیشتر مورد کاربردها، مزایا و محدودیت‌های هوش مصنوعی در حوزه حقوق و چالش‌های جایگزینی یا همکاری هوش مصنوعی حقوقی با متخصصان انسانی می‌تواند دیدگاهی جامع و زیربنایی برای حقوق‌دانان فراهم آورد. در واقع، هوش مصنوعی در مرحله تحقیق و سازماندهی یک دستیار فوق‌العاده است، اما در مرحله اثبات و استناد، فاقد ویژگی‌های لازم برای یک مدرک معتبر است. 

چالش اصالت متون و قابلیت اعتماد

یکی از ستون‌های اصلی دادرسی، قابلیت استناد به ادله و مدارک است. در فرآیند اثبات، دادگاه باید اطمینان حاصل کند که یک سند (مانند مکاتبات، قراردادها یا گزارش‌ها) اصیل است؛ یعنی دقیقاً همان چیزی است که ادعا می‌شود و در مسیر تولید، دستکاری یا ساختگی نشده است. اما ظهور هوش مصنوعی تولیدکننده، این مرز را به شدت کمرنگ کرده است.

اگرچه بحث دیپ‌فیک (جعل ویدئویی یا صوتی) بسیار پرسر‌و‌صدا است، اما چالش بزرگ دیگر در حوزه حقوقی، جعل متون و مستندات است. هوش مصنوعی می‌تواند با دقت خیره‌کننده‌ای، اسنادی تولید کند که نه تنها محتوای حقوقی درستی دارند، بلکه لحن و سبک نگارشی یک شخص یا یک نهاد خاص را نیز به طور کامل تقلید می‌کنند.

فرض کنید در یک پرونده دعوای مالی، یکی از طرفین مدعی است که طی یک گفتگوی غیررسمی در پیام‌رسان (مانند واتس‌اپ)، با طرف مقابل بر سر یک بدهی توافق کرده است. او اسکرین‌شات‌هایی از این گفتگو را به عنوان دلیل ارائه می‌دهد. در گذشته، اثبات جعلی بودن این پیام‌ها دشوار بود، اما امروزه با استفاده از هوش مصنوعی، می‌توان متنی تولید کرد که دقیقاً با لحن، نحوه استفاده از کلمات و حتی اشتباهات نگارشی معمول آن شخص خاص، مطابقت داشته باشد.

در چنین شرایطی، ما با یک مدرک ساختگی بسیار باکیفیت روبرو هستیم که از نظر ظاهری هیچ نشانی از جعل ندارد. این امر، فرآیند اثبات حقیقت را با بحران مواجه می‌کند؛ زیرا سیستم‌های قضایی دیگر نمی‌توانند صرفاً به ظاهر و لحن یک سند برای تایید اصالت آن اتکا کنند. این چالش، بار سنگینی را بر دوش کارشناسان فنی و قضات می‌گذارد تا برای تشخیص تفاوت میان مدرک واقعی و مدرک تولیدشده توسط ماشین، از روش‌های بسیار پیچیده‌تر و فراتر از بررسی‌های چشمی استفاده کنند.

بحران اعتماد در عصر جعل عمیق (Deep Fake) شواهد بصری و صوتی

در نظام‌های حقوقی سنتی، شواهد بصری (ویدئو) و شنیداری (ضبط صدا) همواره در رده‌ی قوی‌ترین مدارک قرار داشته‌اند؛ چرا که اصل بر این است که چشم و گوش، شاهدان مستقیم واقعیت هستند. اما هوش مصنوعی در حال بازتعریف این اصل است.

تصور کنید در یک پرونده‌ی کیفری حساس، ویدئویی از حضور یک متهم در صحنه جرم یا از صحبت‌های مشکوک یک شاهد ارائه می‌شود. در گذشته، بررسی اصالت این ویدئو با نگاه به لرزش تصویر، نورپردازی یا ناهماهنگی‌های اندک، امکان‌پذیر بود. اما در آینده‌ای نزدیک، هوش مصنوعی قادر خواهد بود با استفاده از تکنیک‌های بازسازی چهره و صدا، ویدئویی تولید کند که در آن، نه تنها چهره، بلکه تمام جزئیات بیولوژیکی (مانند ضربان نبض در پوست یا حرکات ظریف چشم) و حتی اثر صوتی (Acoustic Signature) فرد را به شکلی بی‌نقص بازسازی می‌کند. در چنین شرایطی، ما با پدیده‌ای روبرو هستیم که از آن به فروپاشی شواهد مستقیم گفته می‌شود. اگر بتوان با جعل دقیق صدای یک مدیرعامل، دستور انتقال وجوه میلیاردی را از طریق تماس تلفنی صادر کرد، یا با یک ویدئوی جعلی، یک شاهد کلیدی را در موقعیتی بی‌گناه یا گناهکار نشان داد، سیستم‌های اثبات سنتی عملاً فلج خواهند شد و به این ترتیب چالش‌های بنیادین قضایی شامل موارد زیر ایجاد خواهند شد:

• بحران اعتبار شاهد: اگر هر مدرک صوتی یا تصویری با احتمال ساختگی بودن همراه باشد، وزن اثباتی این مدارک در دادگاه به شدت کاهش یافته و اعتماد قضات به شواهد مستقیم با شک و تردید مواجه می‌شود.
• هزینه سنگین اصالت‌سنجی دیجیتال: دادگاه‌ها دیگر نمی‌توانند صرفاً به ظاهر مدارک اتکا کنند. این امر، ضرورت ایجاد واحد‌های جدیدی از کارشناسان را ایجاب می‌کند که وظیفه‌شان نه بررسی محتوای ویدئو، بلکه تحلیل کدهای زیرین، الگوریتم‌های تولید و ردپاهای دیجیتالی است که از فرآیند تولید هوش مصنوعی بر جای می‌ماند.
• تغییر در قواعد پذیرش ادله: احتمال می‌رود در آینده، قوانین مربوط به پذیرش ادله دچار تغییرات بنیادین شود؛ به گونه‌ای که مدارک بصری و صوتی دیگر به تنهایی دلیل قطعی تلقی نشوند و همواره نیاز به تاییدیه از طریق منابع غیردیجیتال یا تاییدیه از طریق زنجیره مراقبت دیجیتال داشته باشند.

آیا خروجی AI می‌تواند به‌عنوان بخشی از فرایند تحقیق مورد استفاده قرار گیرد؟

اگرچه خروجی هوش مصنوعی به تنهایی نمی‌تواند مدرک باشد، اما می‌تواند به عنوان یک منبع اطلاعاتی اولیه در فرایند تحقیق به کار رود. یک حقوق‌دان می‌تواند از هوش مصنوعی برای پیدا کردن مسیرهای احتمالی، شناسایی مفاهیم مرتبط یا سازماندهی اولیه داده‌ها استفاده کند. با این حال، هر آنچه از این سامانه‌ها استخراج می‌شود، باید حتماً از طریق تطبیق با منابع رسمی (مانند مجموعه‌قوانین، نشریات رسمی و آرای قطعی) بازبینی و تأیید شود. در واقع، هوش مصنوعی در اینجا نقش نقشه راه را دارد، نه مقصد نهایی.

نقش متخصصان حقوقی در بررسی اطلاعات تولیدشده توسط AI

در این عصر جدید، نقش وکیل، قاضی و مشاور حقوقی از یک گردآورنده اطلاعات به یک ارزیاب نقاد، تحلیل‌گر اعتبار و معمار استراتژی دفاع ارتقا یافته است. متخصصان حقوقی برای بقا و اثربخشی در سیستم‌های حقوقی نوین، ملزم به توسعه و به‌کارگیری مهارت‌های زیر هستند:

• مهارت اعتبارسنجی فنی و تشخیص خطای الگوریتمی: کارشناسان حقوقی باید به توانایی کشف توهمات الگوریتمی مجهز شوند؛ یعنی تشخیص مواردی که ماشین با قاطعیت ظاهری، مواد قانونی منسوخ، شماره احکام قضایی ناموجود یا تفاسیر نادرست ارائه می‌دهد.
• ممیزی مستندات و احراز زنجیره اصالت: متخصص حقوقی باید زنجیره ارجاع را بازبینی کند. وکیل باید اطمینان حاصل کند که آیا آرای قضایی مورد استناد ماشین، واقعاً از مرجع ذی‌صلاح صادر شده‌اند یا خیر؟ آیا در احکام بعدی نقض نشده‌اند؟ و آیا متن قرارداد پیشنهادی هوش مصنوعی، با قوانین آمره کشور محل اجرای قرارداد تضاد ساختاری دارد یا خیر؟
• درک شرایط و مصلحت‌سنجی؛ توانایی‌هایی فراتر از الگوریتم‌ها: الگوریتم‌ها هرچقدر هم که پیشرفته باشند، فاقد درک شهودی، وجدان اخلاقی، شناخت زمینه‌های روانی-اجتماعی و سنجش مصلحت هستند. تنها وکیل انسانی است که با تحلیل حسن نیت، زبان بدن طرفین در جلسه دادرسی و آثار اجتماعی حکم، می‌تواند استراتژی دفاعی مصلحت‌محور یا اتخاذ کند؛ ظرایفی که هیچ الگوریتمی قادر به محاسبة آن‌ها نیست. 

جمع‌بندی

در پاسخ به پرسش اصلی باید گفت؛ خروجی خام هوش مصنوعی به‌تنهایی قابلیت استناد به‌عنوان مدرکی معتبر در دادگاه را ندارد. ماهیت احتمالی، ضریب خطای بالا، فقدان شفافیت در منابع و چالش‌های مرتبط با احراز اصالت، این فناوری را از جایگاه دلیل خارج نموده و به سطح یک ابزار کمکی تقلیل می‌دهد. آینده دادرسی، نه در طرد هوش مصنوعی است و نه در اعتماد بی‌قیدوشرط به آن؛ بلکه در توانمندی حقوق‌دانان جهت بهره‌گیری از قدرت محاسباتی این فناوری به‌منظور ارتقای دقت، همگام با حفظ نظارت دقیق انسانی بر اعتبار و اصالت ادله نهفته است. عدالت، بر پایه استدلال و حقیقت استوار است و هوش مصنوعی صرفاً می‌تواند ابزاری جهت تسریع در مسیر دستیابی به این دو رکن باشد، نه جایگزینی برای آن‌ها.