آیا حقوق ایران برای خطاهای هوش مصنوعی آماده است؟

به گزارش گروه فنآوری پایگاه خبری فلق پرس؛ ظهور سیستم‌های هوش مصنوعی (AI) نه یک «تغییر تکنولوژیک ساده»، بلکه یک «انقلاب در مبانی حقوقی» است. امروز در کلان‌شهرهایی مانند تبریز، از سامانه‌های هوشمند ترافیکی گرفته تا الگوریتم‌های مدیریت مالی و تصمیم‌گیری‌های اداری، رد پای هوش مصنوعی به وضوح دیده می‌شود. اما پرسش اینجاست: اگر این سامانه‌ها در جریان تصمیم‌گیری مرتکب خطا شوند، تبعیض قائل شوند یا خسارتی به بار آورند، چه کسی مسئول است؟

در نظام حقوقی سنتی، مسئولیت مدنی و کیفری بر پایه «قصد، تقصیر و اراده انسانی» بنا شده است. اما هوش مصنوعی با ساختار غیرخطی «یادگیری عمیق» و رفتارهای پیش‌بینی‌ناپذیر خود، عملاً این اصول را به چالش کشیده است. ما با پدیده‌ای به نام «جعبه سیاه» (Black Box) روبرو هستیم؛ وضعیتی که حتی طراحان و مهندسان نیز نمی‌توانند منطق دقیق تصمیم‌سازی سامانه را در لحظه بروز خطا بازسازی کنند. وقتی پای «علت و معلول» در میان نباشد، ابزارهای حقوقی کلاسیک برای تعیین تقصیر، کارایی خود را از دست می‌دهند.

هوش مصنوعی دیگر پدیده‌ای محدود به فیلم‌های علمی‌ـ‌تخیلی، آزمایشگاه‌های دانشگاهی یا شرکت‌های بزرگ فناوری نیست. این فناوری امروز در پیشنهاد مسیرهای شهری، ارزیابی اعتبار بانکی، تشخیص بیماری، استخدام نیروی انسانی، تولید متن و تصویر، کنترل ترافیک، تحلیل داده‌های عمومی و حتی ارائه خدمات اداری حضور یافته است. در آینده‌ای نه‌چندان دور، تصمیم‌هایی که مستقیماً بر حق، آزادی، فرصت شغلی، دارایی، حریم خصوصی و کیفیت زندگی شهروندان اثر می‌گذارند، بیش از پیش با دخالت یا اتکای سامانه‌های هوشمند اتخاذ خواهند شد.

با وجود این، توسعه هوش مصنوعی تنها مسئله‌ای فنی نیست؛ بلکه مسئله‌ای عمیقاً حقوقی، اخلاقی و اجتماعی است. سرعت تحول این فناوری، از ظرفیت قانون‌گذاری و سازوکارهای سنتی نظارت حقوقی پیشی گرفته است. در حالی که نظام‌های حقوقی غالباً بر پایه رفتار قابل مشاهده انسان، اراده، قصد، تقصیر و رابطه مستقیم میان فعل و زیان شکل گرفته‌اند، هوش مصنوعی تصمیم‌هایی می‌گیرد که گاه منطق درونی آن حتی برای طراحانش نیز به‌سادگی قابل توضیح نیست.

در چنین وضعیتی، عدالت با یک پرسش تازه مواجه می‌شود: وقتی تصمیم زیان‌بار از دل یک «جعبه سیاه الگوریتمی» بیرون می‌آید، چه کسی باید پاسخگو باشد؟

جعبه سیاه؛ مانع تازه در مسیر کشف حقیقت

بسیاری از سامانه‌های نوین هوش مصنوعی، به‌ویژه مدل‌های مبتنی بر یادگیری عمیق، با تحلیل حجم عظیمی از داده‌ها و روابط پیچیده آماری به نتیجه می‌رسند. این سامانه‌ها الزاماً مانند یک برنامه رایانه‌ای ساده، بر اساس دستورهای روشن و از پیش تعیین‌شده عمل نمی‌کنند؛ بلکه از داده‌ها الگو می‌آموزند، خروجی‌های خود را اصلاح می‌کنند و گاه رفتارهایی از خود نشان می‌دهند که پیش‌بینی آن‌ها دشوار است.

این پیچیدگی، در ادبیات فناوری با مفهوم «جعبه سیاه» شناخته می‌شود؛ یعنی وضعیتی که در آن می‌توان ورودی و خروجی سیستم را مشاهده کرد، اما مسیر دقیق رسیدن سامانه به تصمیم نهایی، شفاف و قابل بازسازی نیست. همین ویژگی، کار دستگاه قضایی، نهادهای نظارتی و زیان‌دیدگان را دشوار می‌کند.

برای نمونه، اگر یک سامانه هوشمند در فرایند استخدام، افراد یک گروه خاص را به‌طور مکرر رد کند؛ اگر الگوریتم اعتبارسنجی بانکی بدون دلیل روشن، امکان دریافت تسهیلات را از گروهی از شهروندان سلب کند؛ یا اگر یک سامانه مدیریت ترافیک، خدمات شهری یا تشخیص پزشکی به دلیل خطای داده یا طراحی نادرست، موجب ورود خسارت شود، اثبات منشأ خطا و تعیین مسئول آن آسان نخواهد بود.

آیا برنامه‌نویس مسئول است؟ شرکت تولیدکننده؟ تأمین‌کننده داده؟ دستگاه یا سازمانی که سامانه را به کار گرفته است؟ کاربر نهایی؟ یا مدیری که بدون ارزیابی کافی به خروجی سیستم اعتماد کرده است؟ پاسخ به این پرسش‌ها با قواعد ساده و کلاسیک مسئولیت، همیشه ممکن نیست.

مسئولیت حقوقی؛ از تقصیر انسانی تا مدیریت ریسک

در حقوق مدنی، مبنای اصلی جبران خسارت معمولاً اثبات تقصیر و رابطه سببیت است. زیان‌دیده باید نشان دهد که شخص یا نهاد معینی مرتکب خطا، بی‌احتیاطی، بی‌مبالاتی یا ترک فعل شده و میان آن رفتار و خسارت وارده، رابطه‌ای قابل اثبات وجود دارد.

اما در حوزه هوش مصنوعی، زنجیره تولید زیان اغلب طولانی و چندلایه است. یک خروجی نادرست ممکن است حاصل ترکیب داده‌های ناقص، سوگیری‌های تاریخی موجود در داده‌های آموزشی، طراحی نامناسب مدل، به‌روزرسانی نرم‌افزار، ضعف نظارت انسانی یا استفاده نادرست از سامانه باشد. در نتیجه، زیان‌دیده ممکن است با سامانه‌ای روبه‌رو شود که اثر زیان‌بار آن روشن است، اما اثبات تقصیر یک شخص یا نهاد مشخص در آن بسیار دشوار است.

به همین دلیل، بسیاری از صاحب‌نظران بر این باورند که در برخی کاربردهای پرخطر، باید از تمرکز صرف بر «یافتن مقصر» به سمت «تضمین جبران خسارت» حرکت کرد. در این رویکرد، مسئولیت بر پایه ریسک شکل می‌گیرد؛ یعنی هر شخص یا نهادی که از یک سامانه هوشمند پرخطر بهره‌برداری می‌کند یا آن را در اختیار عموم قرار می‌دهد، باید پیشاپیش مسئولیت ریسک‌های قابل پیش‌بینی آن را بپذیرد.

این تحول می‌تواند به طراحی سازوکارهایی مانند موارد زیر منجر شود:

• بیمه اجباری مسئولیت برای سامانه‌های هوش مصنوعی پرخطر؛
• ایجاد صندوق‌های جبران خسارت برای زیان‌دیدگان؛
• مسئولیت تضامنی یا مشترک میان تولیدکننده، عرضه‌کننده و بهره‌بردار سامانه؛
• الزام به ثبت وقایع، نگهداری سوابق تصمیم‌گیری و قابلیت ممیزی فنی؛
• پیش‌بینی نظارت انسانی مؤثر در تصمیم‌های حساس و سرنوشت‌ساز.

چنین سازوکارهایی، به‌ویژه در حوزه‌هایی مانند سلامت، حمل‌ونقل، خدمات عمومی، امور مالی، استخدام، آموزش و مدیریت شهری، اهمیت بیشتری دارند؛ زیرا خطای الگوریتمی در این زمینه‌ها می‌تواند دامنه گسترده‌ای از شهروندان را متأثر کند.

شفافیت الگوریتمی؛ امتداد حق دسترسی شهروندان به اطلاعات

یکی از مهم‌ترین اصول حکمرانی خوب، شفافیت است. شهروند باید بداند تصمیمی که درباره او گرفته می‌شود، بر چه مبنایی استوار است؛ چه اطلاعاتی در آن نقش داشته‌اند؛ چه نهادی مسئول آن است و چگونه می‌توان به آن اعتراض کرد.

در عصر هوش مصنوعی، این اصل باید از قلمرو اسناد و تصمیم‌های اداری فراتر رود و به «شفافیت الگوریتمی» برسد. اگر یک نهاد عمومی یا یک سازمان خدمات‌رسان، از سامانه هوشمند برای اولویت‌بندی درخواست‌ها، ارزیابی شهروندان، تخصیص منابع، کنترل تخلفات یا تصمیم‌سازی استفاده می‌کند، نباید پشت عبارت‌هایی مانند «سامانه چنین تشخیص داده است» پنهان شود.

سامانه هوشمند نمی‌تواند جای پاسخگویی نهاد عمومی را بگیرد. استفاده از فناوری، مسئولیت مدیران و دستگاه‌های بهره‌بردار را کاهش نمی‌دهد؛ بلکه به دلیل پیچیدگی و احتمال اثرگذاری گسترده آن، ضرورت پاسخگویی را بیشتر می‌کند.

در این چارچوب، شهروندان باید حداقل از حقوق زیر برخوردار باشند:

1. حق اطلاع از استفاده از هوش مصنوعی: فرد باید بداند که تصمیم مورد نظر، کاملاً یا تا حدی با کمک یک سامانه خودکار گرفته شده است.
2. حق دریافت توضیح قابل فهم: توضیح نباید صرفاً فنی و غیرقابل درک باشد؛ بلکه باید روشن کند چه عوامل مؤثری در تصمیم دخالت داشته‌اند.
3. حق اعتراض و بازبینی انسانی: هیچ تصمیم حساس و اثرگذار نباید صرفاً بر مبنای خروجی ماشین و بدون امکان اعتراض مؤثر شهروند باقی بماند.
4. حق دسترسی به سازوکار جبران خسارت: در صورت ورود زیان، فرد باید بتواند بدون گرفتار شدن در پیچیدگی‌های فنی، مسیر روشن و منصفانه‌ای برای پیگیری حق خود داشته باشد.
5. حق برخورداری از تصمیم عاری از تبعیض: استفاده از الگوریتم نباید به بازتولید یا تشدید تبعیض‌های اجتماعی، اقتصادی، جنسیتی، قومی، سنی یا منطقه‌ای منتهی شود.

این اصول به‌خصوص در مدیریت شهری اهمیت دارد. شهر هوشمند، تنها شهری پر از دوربین، داده و نرم‌افزار نیست؛ شهر هوشمند باید شهری پاسخگو، عادلانه و قابل نظارت نیز باشد. هر اندازه سامانه‌های دیجیتال در ارائه خدمات شهری و اداری نقش بیشتری می‌یابند، به همان اندازه باید امکان نظارت عمومی، ارزیابی مستقل و اعتراض شهروندان فراهم باشد.

تبعیض الگوریتمی؛ وقتی داده‌های گذشته، بی‌عدالتی آینده را می‌سازند

یکی از خطرناک‌ترین چالش‌های هوش مصنوعی، تبعیض الگوریتمی است. هوش مصنوعی از داده‌ها یاد می‌گیرد؛ اما داده‌ها همیشه بی‌طرف نیستند. اگر داده‌های گذشته بازتاب‌دهنده تبعیض، نابرابری، محرومیت یا پیش‌داوری‌های اجتماعی باشند، سامانه هوشمند نیز ممکن است همان الگوهای ناعادلانه را بازتولید و حتی در مقیاسی وسیع‌تر تثبیت کند.

برای مثال، سامانه‌ای که با داده‌های استخدامی گذشته آموزش دیده، ممکن است به‌طور پنهان فرصت‌های برخی گروه‌ها را محدود کند. یا الگوریتمی که برای رتبه‌بندی متقاضیان تسهیلات، خدمات یا فرصت‌های اجتماعی طراحی شده، ممکن است به دلیل داده‌های نامتوازن، گروهی از شهروندان را در موقعیت نامطلوب قرار دهد؛ بی‌آنکه تصمیم‌گیر انسانی متوجه منشأ تبعیض باشد.

خطر اصلی اینجاست که تبعیض الگوریتمی ممکن است ظاهری بی‌طرفانه و علمی داشته باشد. وقتی تصمیمی با زبان آمار، داده و فناوری ارائه می‌شود، احتمال دارد مخاطب آن را دقیق‌تر و عادلانه‌تر از تصمیم انسانی تصور کند؛ در حالی که الگوریتم نیز می‌تواند خطا کند، سوگیری داشته باشد و نابرابری را پنهان کند.

بنابراین، لازم است پیش از به‌کارگیری سامانه‌های هوش مصنوعی در امور حساس، ارزیابی اثرات حقوقی و اجتماعی آن‌ها انجام شود؛ داده‌ها از حیث سوگیری بررسی شوند؛ عملکرد سامانه به‌طور دوره‌ای ممیزی شود و نتایج ارزیابی در دسترس نهادهای نظارتی و عمومی قرار گیرد.

مالکیت فکری؛ در محصولات هوش مصنوعی خالق اثر انسان است یا ماشین؟

هوش مصنوعی امروز قادر است متن، تصویر، موسیقی، کد رایانه‌ای، طرح گرافیکی و حتی محتوای علمی تولید کند. این توانایی، مفهوم سنتی «آفریننده اثر» را با پرسش‌های تازه مواجه کرده است. اگر یک تصویر، مقاله یا قطعه موسیقی با استفاده از هوش مصنوعی تولید شود، صاحب اثر چه کسی است؟ کاربر؟ طراح سامانه؟ مالک داده‌های آموزشی؟ شرکت ارائه‌دهنده خدمت؟ یا هیچ‌کس؟

بسیاری از نظام‌های حقوقی، حمایت از حق تألیف را به وجود خلاقیت انسانی گره زده‌اند. در نتیجه، اثری که کاملاً و بدون دخالت معنادار انسان ایجاد شده باشد، ممکن است واجد حمایت کامل حقوق مالکیت فکری شناخته نشود. با این حال، مرز میان «استفاده ابزاری از هوش مصنوعی» و «تولید مستقل محتوا توسط سامانه» روشن نیست.

این مسئله برای روزنامه‌نگاری، رسانه‌ها، ناشران و تولیدکنندگان محتوا اهمیت ویژه‌ای دارد. رسانه‌ای که از ابزارهای تولید متن یا تصویر استفاده می‌کند، باید اصول شفافیت، اصالت اثر، رعایت حقوق پدیدآورندگان و مسئولیت حرفه‌ای را جدی بگیرد. استفاده از فناوری نباید به بازنشر محتوای نادرست، نقض حق مؤلف، جعل هویت نویسنده یا تضعیف اعتماد مخاطب بینجامد.

در فضای حرفه‌ای رسانه، شفافیت درباره میزان و نوع استفاده از هوش مصنوعی می‌تواند به یک معیار اخلاقی و حرفه‌ای تبدیل شود؛ به‌ویژه در آثاری که برای انتشار عمومی، رقابت‌های رسانه‌ای یا جشنواره‌های مطبوعاتی آماده می‌شوند. ارزش اصلی یک یادداشت تحلیلی، در نگاه مستقل نویسنده، قدرت استدلال، اصالت تحلیل، دقت در منابع و مسئولیت‌پذیری اوست؛ نه صرفاً در روانی ظاهری متن یا سرعت تولید آن.

تجربه جهانی؛ تنظیم‌گری متناسب با سطح خطر در سامانه های هوش مصنوعی

در سطح بین‌المللی، رویکرد غالب به سوی تنظیم‌گری مبتنی بر ریسک حرکت کرده است. در این نگاه، همه سامانه‌های هوش مصنوعی به یک اندازه خطرناک تلقی نمی‌شوند. یک ابزار ساده برای پیشنهاد موسیقی یا تصحیح نگارشی متن، با سامانه‌ای که در استخدام، درمان، اعتبارسنجی، کنترل زیرساخت یا تصمیم‌های عمومی نقش دارد، قابل مقایسه نیست.

بر این اساس، هرچه احتمال آسیب به حقوق و آزادی‌های شهروندان بیشتر باشد، الزامات قانونی نیز باید سخت‌گیرانه‌تر شود. این الزامات می‌تواند شامل ارزیابی پیشینی ریسک، کیفیت و سلامت داده‌ها، ثبت مستندات، امکان نظارت انسانی، الزامات شفافیت، امنیت سایبری، گزارش‌دهی خطاها و پیش‌بینی سازوکار جبران خسارت باشد.

این رویکرد دو مزیت مهم دارد: از یک سو، جلوی استفاده بی‌ضابطه از فناوری‌های پرخطر را می‌گیرد؛ و از سوی دیگر، با تحمیل مقررات سنگین به همه ابزارها، مسیر نوآوری‌های کم‌خطر و مفید را مسدود نمی‌کند.

برای ایران نیز، تنظیم‌گری هوش مصنوعی باید نه با شتاب‌زدگی و نه با تأخیر، بلکه با رویکردی مرحله‌ای، واقع‌بینانه و مبتنی بر حقوق شهروندی دنبال شود. تدوین مقررات باید با مشارکت حقوقدانان، مهندسان، متخصصان داده، پژوهشگران علوم اجتماعی، نهادهای عمومی، رسانه‌ها و نمایندگان جامعه مدنی انجام گیرد. قانون‌گذاری بدون درک فنی، ناکارآمد خواهد بود؛ همان‌گونه که توسعه فناوری بدون درک حقوقی و اخلاقی، می‌تواند به تضییع حقوق مردم منجر شود.

نقش رسانه و ضرورت نگاه بومی در مواجهه با هوش مصنوعی

رسانه‌ها در مواجهه با هوش مصنوعی فقط مصرف‌کننده ابزارهای جدید نیستند؛ بلکه وظیفه‌ای عمومی در آگاهی‌بخشی، نقد، مطالبه‌گری و نظارت اجتماعی دارند. جامعه باید بداند هوش مصنوعی چه فرصت‌هایی ایجاد می‌کند، چه خطراتی دارد و چگونه ممکن است بر حقوق روزمره مردم اثر بگذارد.

این بحث برای شهرهای بزرگ و در حال توسعه، از جمله تبریز، اهمیتی دوچندان دارد. گسترش سامانه‌های هوشمند در مدیریت ترافیک، خدمات شهری، پاسخگویی اداری، تحلیل داده‌ها، نظارت بر ساخت‌وساز، تخصیص امکانات و ارتباط با شهروندان، در کنار مزایای قابل توجه، باید با قواعد روشن پاسخگویی همراه باشد.

توسعه «شهر هوشمند» نباید صرفاً به افزایش ابزارهای دیجیتال تقلیل پیدا کند. شهر هوشمند زمانی معنا دارد که شهروند بتواند بداند داده‌هایش چگونه استفاده می‌شود، تصمیم‌های مؤثر بر زندگی او بر چه اساسی اتخاذ می‌شود، در صورت خطا به کجا اعتراض کند و چه نهادی مسئول اصلاح و جبران است.

از این منظر، شفافیت سامانه‌های هوشمند، بخشی از همان حق عمومی دسترسی به اطلاعات و حق برخورداری از اداره پاسخگو است. فناوری اگر در خدمت شفافیت، عدالت و تسهیل دسترسی مردم به حقوقشان قرار گیرد، فرصت است؛ اما اگر به ابزاری برای پیچیده‌تر شدن فرایندها و گریز از پاسخگویی تبدیل شود، می‌تواند به تهدیدی برای اعتماد عمومی بدل شود.

ضرورت بازنگری در ادبیات حقوقی

ما نیازمندِ گذار از «مسئولیت مبتنی بر تقصیر انسانی» به مدل‌های نوین «مسئولیت مبتنی بر ریسک» هستیم. ایجاد صندوق‌های جبران خسارت، استفاده از بیمه‌های اجباری برای محصولات هوشمند و توسعه «ادبیات کارشناسی میان‌رشته‌ای» برای قضات و وکلا، دیگر یک انتخاب نیست، بلکه ضرورتی برای جلوگیری از بحران مشروعیت در نظام قضایی است.

زمان آن رسیده است که حقوق‌دانان و سیاست‌گذاران شهری، هم‌صدا با متخصصان فناوری، پیش از آنکه الگوریتم‌ها حکمرانی حقوقی را به حاشیه ببرند، چارچوبی عادلانه و شفاف برای زیست در عصر هوش مصنوعی تدوین کنند. عدالت، نباید قربانی سرعتِ توسعه فناوری شود.

جمع‌بندی

هوش مصنوعی فرصت بزرگی برای بهبود کیفیت خدمات، افزایش بهره‌وری، کاهش هزینه‌ها و کمک به تصمیم‌گیری‌های دقیق‌تر است؛ اما این فرصت بدون تضمین‌های حقوقی کافی، می‌تواند به منشأ خطا، تبعیض، نقض حریم خصوصی و ابهام در مسئولیت تبدیل شود.

حقوق در عصر هوش مصنوعی باید از واکنش پس از وقوع خسارت فراتر برود و به سمت پیشگیری، شفافیت، ارزیابی ریسک و تضمین جبران خسارت حرکت کند. در این مسیر، چند اصل باید مورد توجه جدی قرار گیرد:

• هیچ تصمیم مهم و اثرگذار بر حقوق شهروندان نباید بدون امکان نظارت و بازبینی انسانی اتخاذ شود؛
• استفاده از هوش مصنوعی باید با اطلاع‌رسانی، توضیح‌پذیری و حق اعتراض همراه باشد؛
• نهادهای عمومی و خصوصی نباید مسئولیت خود را پشت عنوان «تصمیم سامانه» پنهان کنند؛
• سامانه‌های پرخطر باید مشمول بیمه، ممیزی، ثبت سوابق و سازوکار روشن جبران خسارت باشند؛
• داده‌های آموزشی و خروجی الگوریتم‌ها باید از حیث تبعیض و نقض حقوق شهروندی ارزیابی شوند؛
• قانون‌گذاری باید متناسب با ریسک باشد تا هم حقوق مردم حفظ شود و هم مسیر نوآوری مسدود نگردد.

در نهایت، مسئله اصلی این نیست که هوش مصنوعی جای انسان را می‌گیرد یا نه؛ مسئله این است که آیا انسان، قانون و نهادهای عمومی خواهند توانست مسئولیت خود را در برابر قدرت روزافزون الگوریتم‌ها حفظ کنند؟ عدالت نباید در پشت دیوارهای فنی و پیچیده «جعبه سیاه» پنهان بماند.

نویسنده: حمید حمیدی

hamid.hhamidi@gmail.com