بسم الله الرحمن الرحیم

جلسات فقه هوش مصنوعي

فقه هوش مصنوعی؛ جلسه 36 22/9/1403

بسم الله الرحمن الرحیم

سه بخش کلی بحث هوش مصنوعی

قبلاً از این کتاب بحث شد. بحث‌هایی که به ذهن می‌آمد برای مبادی و آینده بحث دخالت بیشتری دارد، از آن‌ها صحبت کردیم. در این جلسه هم مطلب خیلی جدیدی که در پی آن‌ها باشد، به ذهنم نیامد. اگر فرمایشی دارید بفرمایید. پارسال تقریباً به‌صورت بی نظم هر چیزی را که به فکرم می‌آمد را عرض کردم. امسال که بحث را ادامه دادیم، این چند جلسه آن‌ها را عرض کردم. پیشنهاد من این برای کسی که می‌خواهد این مباحث را خلاصه کند و از بی نظمی در بیاورد، این است که این جلساتی که امسال عرض کردم را ببیند؛ بخش توضیح تفاوت پایه محور و اشراق محور، این بخش اول بود که بخش مهمی بود. مباحثه ما سه بخش داشت. بخش دوم، توضیح و تبیین پایه محور بود. بخش سوم هم احکام فقهی و حقوقی آن بود. این سه بخش خیال می‌کنم بخش‌های خوبی باشد. ببینیم مطالبی که پارسال و امسال مطرح شد، ذیل کدام یک از این‌ها جا می‌گیرد. مطالبی که اهمیت بالایی دارد؛ طوری که به کل باحثین نشان بدهیم، نشان دادنی ورای اثبات کردن، که انسان فقط این بدن و این پایه نیست. حتی انسان فقط انسان برزخی نیست. بدن مثالی برزخی ندارد. انسان خیلی ورای از این است که یک موجود برزخی باشد. همین الآن نشانه‌هایی از عالم جبروت و تجرد تام در او موجود است. حکمای بزرگی مثل ابن‌سینا، نتوانست تجرد برزخی را برهانی کند. آن چه که ایشان برای انسان برهانی کرده، اتفاقا از درک کلیات و شعاع هایی است که از عالم جبروت در انسان جلوه‌گر است. ابن‌سینا در تجرد نفس، از این ناحیه جلو آمده‌اند. آخوند صاحب اسفار از تجرد برزخی در حکمت متعالیه حرف زده است.

منظور این‌که این قدم اول است که انسان این‌طور چیزی است. به تعبیر آن استاد در درس اسفار، مکرر می‌فرمودند انسان موجودی از فرش تا عرش است. موجودی که از فرش تا عرش است، خیلی تفاوت دارد با یک پایه محوری که سراسر در فرش است. ما صحبت از فرش می‌کنیم. در آن محدوده‌ای که فعلاً بحث علمی ما است.

بنابراین در سه بخش منظم کنیم؛ بخش تبیین و ارائه امتیازها و شئونات اشراق محور انسان از پایه محور انسان. بخش دوم؛ توضیح پایه محور است؛ این‌که این پایه محور چه قابلیت‌های گسترده‌ای دارد. تا کجا پیش می‌رود. بخش سوم هم احکام فقهی و حقوقی است.

مسئولیت مطلق و مسئولیت مبتنی‌بر تقصیر

این کتاب را چندین جلسه می‌آورم؛ سومین کتاب از کتاب‌هایی است که حوزه چاپ کرده است. «مسئولیت‌پذیری هوش مصنوعی، مجموعه مقالات و اسناد». گردآوری شده از جمعی از نویسندگان است. در مقدمه کتاب، صفحه بیست‌ویک مطلبی دارند. ببینید این کتاب دو بخش دارد. عده‌ای مقالات را ترجمه کرده‌اند؛ حدوداً نصف کتاب می‌شود. نصف دیگر کتاب اسنادی است که ترجمه کرده‌اند. در مقدمه دو بخش هم آورده‌اند؛ «معرفی مقالات و معرفی اسناد». ابتدا توضیح مختصری در اسناد می‌دهند و بعد در صفحه بیست‌ویک می‌فرمایند:

به‌طور کلی اسناد برای این پرسش که چه کسی باید خسارت پرداخت کند، دو پاسخ متفاوت ارائه می‌کنند. یک، کسی که مقصر است. دوم، کسی که خطر را ایجاد کرده است.

بنابراین یکی ایجاد است و ملاک دیگر تقصیر است؛ یعنی باید کوتاهی کرده باشد تا مسئولیت بیاید. می گویند در اسناد، این دو مشی را داشته اند. در این که مطلق ایجاد، ضمانت می آورد. و یکی هم تقصیر ضمانت می‌آورد. کسی که مقصر است و کسی که خطر را ایجاد کرده است.

لذا دو مفهوم تقصیر و خط، مبنای قانون گذاری محسوب شده‌اند و بر اساس این دو مفهوم، دو نوع رژیم مسئولیت ایجاد شده است. رژیم مسئولیت مبتنی بر تقصیر «fault-based liability» و رژیم مسئولیت بدون تقصیر یا مسئولیت مطلق «Strict liability»».

در صفحه بعدی می گویند ما نمی دانستیم برخی از واژه ها را چطور به فارسی ترجمه کنیم. یکی از آن ها «Strict» که به معنای عدم تقصیر نیست، «Strict» به معنای قوی است. از ریشه «Stress » و «Strong» است. ولو زبان های وندی هستند، اما در همان وندی بودنشان معلوم است که اشتقاقاتشان نزدیک هم است.

خب مسئولیت قوی و شدید است، چرا شدید است؟ به خاطر این که ما کاری نداریم تقصیر کرده یا نه. مسئولیت، مسئولیت است. می گویند ما فکر کردیم این «Strict» که به معنای قوی است را چه کار کنیم. دیدیم مقابل آن تقصیر است. مسئولیت مبتنی بر تصیر است. خب این را به «مسئولیت مطلق» معنا کردیم. یعنی بدون قید تقصیر. این هم مسئولیت قوی و مسئولیت مطلق است. البته در اصطلاحات حقوقیشان «Absolute liability» را دارند. ولی این آقایان مسئولیت قوی را همان مسئولیت مطلق «Absolute liability» معنا کرده اند. اما باید تحقیق شود، آن ها که این را به کار می برند، این «Strict» را در حوزه ای استعمال می کنند که با «Absolute liability» فرق دارد یا نه؟ فعلا مسئولیت قوی را به این معنا به کار برده‌اند. خب مسئولیت مطلق شد؛ هیچ قیدی هم ندارد.

پارسال هم که مباحثه شد، عرض کردم اندازه‌ای که ما در فضای طلبگی از فقه می‌دانیم، حتماً در فقه «هدر» و «اطلال» داریم. اگر بگوییم مسئولیت مطلق یعنی ایجاد و خلاص، این خلاف فقه اسلامی است. چون ما در فقه اسلامی هم از حیث منابع و هم در فضای کلاسیکش بسیار غنی هستیم. ما این را قبول نداریم که مسئولیت مطلق به‌معنای ایجاد خطر باشد و خلاص. ما مواردی داریم که ایجاد شده ولی طل و هدر است و کسی مسئولیتی ندارد. «لاَ يُطَلُّ دَمُ اِمْرِئٍ مُسْلِمٍ»¹. مثل آفات سماوی؛ رعد و برق می‌زند و گوسفند کسی می‌میرد. به این تلف سماوی می‌گوییم. در تلف سماوی که گردن کسی را نمی‌گیریم. شبیه همین را در موارد انسانی هم داریم. بنابراین در فقه ما، مبنای دوم که ایجاد خطر است، مورد قبول نیست.

اما مبنای اول که مسئولیت مبتنی‌بر تقصیر است، آن هم با ضرورت فقه موافق نیست. پارسال عرض کردم که در فقه مواردی داریم که تقصیر صورت نگرفته ولی مسئولیت ثابت است. مثال هایش را هم عرض کردم. در خواب، پای خود را به ظرف کسی می‌زند و می‌شکند، نمی‌توان گفت چون خواب بوده از او پول نگیریم. بلکه چون خواب بود گناه نکرده است. قتل خطأی هم این‌چنین است. قصاص ندارد، کیفر ندارد. چون هیچ تقصیری در قتل نداشته است. اما ضمان ثابت است. بنابراین در فقه یک چیز خیلی مهمی غیر از این‌ها داریم؛ استناد داریم. در لغت آن‌ها من کلمه «استناد» را پیدا کردم؛ «cause». اصل سببیت «causation» می‌شود. «causation» به‌معنای استناد و سببیت است. علت مباشر را هم عرض می‌کنم. «liable» به‌معنای در بند بودن است. «liability» به‌معنای مسئولیت دادن است. برای مسئولیت سه واژه توضیح می‌دهند؛ « responsibility» و «liability» و … . بعداً این‌ها می‌آید. خود شما مراجعه کنید. من طلبه یک بهانه هستم تا مراجعه کنید، پی‌گیری آن بر عهده خود شما باشد.

مسئولیت مبتنی‌بر استناد

تا اینجا ما استناد را به‌عنوان عنصر ثالث، در مقابل این دو موردی که ایشان گفته اند مطرح کردیم. می‌گوییم نه مبتنی‌بر تقصیر است و نه مبتنی‌بر عدم تقصیر و مطلق است. «Strict» به‌معنای قوی است. این جور که آقایان در این کتاب گفته اند. ما به استناد نیاز داریم. ولی خب مشکلی که استناد دارد، این است که ضابطه ندارد. شما یک واژه‌ای می‌گویید؛ می‌گویید تقصیر نه، مطلق هم نه، بلکه استناد است. خب ضابطه ی آن چیست؟ خب صرف این‌که فعلاً بی ضابطه می‌آید، ما دست از یک چیز حکیمانه و عقلائی دال بر کمال ضوابط حقوقی بر نمی‌داریم. بلکه استناد شرط کار است. اگر استناد نباشد ضمان نیست. اگر استناد باشد، ضمان هست، به مراتب.

خب حالا باید ببینیم استناد ضابطه مند می‌شود یا نه. گمان من این است که ضابطه مند می‌شود، ولی غامض است. چرا اول استناد در ذهن ما مبهم جلوه می‌کند؟ به‌خاطر غموضش است. واقعاً ترتیب دادن این استناد مشکل است. جور واجور است. در کتب فقهی هم همین‌طور است. اگر در جواهر، ضمان حکمی را مباحثه کردیم، مطرح می‌شود. خیلی غامض است، استناد هم طولی است و هم توزیع پذیر است. دو نفر با هم می‌توانند یک نفر با بکشند. یعنی حتی وقتی پزشکی قانونی می‌آید، از حیث تسبیب و علیت و قتل، می‌بیند هر دو زده‌اند. با هم دو تیر زده‌اند و در آن واحد این دو تیر وارد شده و هر کدامش بخشی از قلب و ریه او را از کار انداخته است. یا این‌که در آن واحد یکی به مغزش وارد شده یا یکی به قلبش وارد شده است. هر دو او را کشته اند. لذا در فقه هست که اگر قتل عمد باشد، باید هر دو قصاص بشوند. پس استناد توزیع پذیر است. یعنی در عرض هم کسانی می‌توانند سبب باشند. همچنین استنادهای طولی هم مطرح است. کسی دیگری را گرفته است؛ اگر او را نگرفته بود قاتل نمی‌توانست او را بکشد. ممسک او است؛ او را گرفته و دیگری آمده او را کشته است. حالا از کدام قصاص کنیم؟ باید چه کار کنیم؟ دیگری اکراه کرده و گفته اگر نکشی، می کشمت. اکراه در قتل بوده و خب او هم کشته است. حالا الآن این استنادهای طولی است. یعنی با هم انجام نداده‌اند ولی در طول هم هستند. تا جایی که استنادهای خیلی ضعیف هست؛ کسی راننده قاتل است اما به استخدام او است. یعنی یک جنایتکار او را استخدام کرده و به او پول می‌دهد. قاتل را سوار ماشین کرده و او را به محل مقتول برده، قاتل مقتول را کشته است. خب راننده تسبیب کرده یا نه؟! این قتل به راننده‌ای که استخدام‌شده، مستند هست یا نه؟ عرف عقلاء چه می‌گویند؟ چرا استناد قابلیت ضابطه مندی را ندارد؟ ضابطه مندی آن دقیق می‌شود. بله، مرحله بعدی این است که وقتی استناد را پخش کردیم و توزیع طولی و عرضی داشت و اطلس آن را رسم کردیم، بعداً الگوریتم درجات ضمان یابی را در این اطلس پیاده می‌کنیم. یعنی یک روندی را طی می‌کنیم تا ببینیم این مراحل استناد باید چه کیفری بشوند. بعضی‌ها عفو می‌شوند. مثلاً در فقه داریم اگر کسی اکراه کرد، چه کارش می‌کنند؟ اختلاف فتوی هست. او را حبس ابد می‌کنند. حالا اگر دیگری مقتول را گرفت و قاتل او را کشت، این هم از موارد حبس ابد است؛ «یحبس حتی یموت». همین‌طور که او یکی را گرفت تا کشته شد، همین‌طور او هم باید حبس شود تا موتش. یک جور تناسب جرم و جزا است. مثلاً اگر مواظب بود تا کسی نیاید، عین بود. «یری»ای که در فقه می‌گویند نه یعنی یک دفعه آمد و دید. بلکه یعنی مواظبت کرد تا کسی نیاید و ببیند. دارد «تسمل عيناه». یعنی میل داغ به چشمانش می‌کشند.

این‌ها دم و دستگاه احکام فقهی است؛ به ما می‌گویند استناد، عرضا و طولا توزیع پذیر است. عرضی آن مراتب دارد، طولی آن هم مراتب دارد. یعنی وقتی با هم یک کاری را انجام می‌دهند، لازم نیست وقتی با هم هستند، حتماً جرمشان یک درجه باشد. با هم بودن اشتراکی و با هم بودن استقلالی تفاوت دارد. توارد علیتین مستقلتین همین است. اینجا از جاهایی است که مانعی ندارد. یعنی علت‌ها ممکن است. توارد علت‌ها می‌شود. مستقلتین نه، مجتمعتین. اشتراک در قتل دو جور است؛ اشتراک استقلالی و اشتراک بند به هم. تا دو تایی نبودند نمی‌شد. ولی خب هر دو کرده‌اند. گاهی هم مستقل است. همه این‌ها احکام خودش را دارد. بنابراین ما باید استناد را معلوم کنیم. مراحل آن را به‌طور منضبط معلوم کنیم.

قبلاً بحث کردیم که قصد در هوش پایه می‌آید یا نه، و مسئولیتش هم مستند به چه کسی است؟ مواردی بود که مبهم بود. به تعبیر مرحوم آسید محمد فشارکی…؛ می‌گفتند آسید محمد یک بحثی را مطرح می‌کردند، کمی که جلو می‌رفتند می‌گفتند بگذاریم این بحث بخیسه! خیسیدن هم چیزی است. مباحثی مطرح شد که گذاشتیم بخیسد. یعنی زوایای بحث واضح‌تر بشود تا بتوان راجع به آن بیشتر قضاوت کرد. الآن انسان‌ها چرا به‌دنبال این وسائل می‌روند؟ به این خاطر هم راحت‌طلب هستند، هم نیاز دارند. انسان راحت‌طلب، مثلاً تشنه اش هست و باید سر یخچال برود و آب بردارد و بخورد، اما حوصله ندارد. خب اگر یک چیزی پیدا شود که خیلی راحت تا دکمه آن را می‌زنید، سر یخچال برود و آب را بیاورد و به او بدهد و بخورد، این انسان خوشحال می‌شود. چون راحت‌طلب است. ولی گاهی نیازهای ضروری هست. مثلاً می‌بینید کسی فراموش می‌کند؛ نمی‌توان گفت وقتی فراموش کرد راحت‌طلب است. این یک نقصی است. چیزی است که خداوند متعال در او گذاشته تا بفهمد دستگاه خلقت چه خبر است. بی خود نمی‌گویند «سمی الانسان انسان لانه ینسی»². یعنی چه بسا یکی از اعاجیب آیات الهی همین نسیان است. مکانیسیم آن، خصوصیات آن، قدرت نمایی خداوند متعال است.

خب حالا انسانی که نسیان دارد، نمی‌توان گفت راحت‌طلب است. نیاز دارد که نسیان نیاید، ولی او فراموش می‌کند. حالا یک معاون و منشی هوش مصنوعی برای او درست کنید، تا فراموش کرد یادش می‌آورند. پروژه نجف تقریباً همین چیز است. یعنی فقیه را کمک می‌کند. خیلی از جاها هم مبانی آن یادش نیست، اشتباه می‌کند، مبانی خودش را یادش می‌رود، حدیث یادش می‌رود، اما او به یادم می‌آورد. منشی به این صورت است. منشی به او کمک می‌کند، صرف راحت‌طلبی نیست. جاهایی که گیر می‌افتد، او کمک می‌کند و نقص او را برطرف می‌کند.

خب استناد، یک جور دیگری هم می‌شود؛ وقتی فراموش کرد، یک ماشینی، دستگاهی، رباتی به او یادآوری می‌کند. حالا می‌شود یک کاری کنیم که اصلاً فراموش نکنیم. یعنی اگر خودش بود فراموش می‌کرد. اصلاً وقتی ذهنش کار می‌کند، فراموشی سراغش نیاید. این هم یک جور است؛ معجونی از راحت‌طلبی و رفع نیاز است. این می‌شود یا نمی‌شود؟! چندین دهه هست که مفصل راجع به همین کار می‌کنند. یعنی ذهن و خصوصیات انسان را با ماشین مرتبط کنند، نه این‌که منشی یادش بیاورد. اصلاً آن دستگاه به دماغش وصل است، نمی‌گذارد که فراموشی بیاید. ذهن او گسترده شده است. «BCI» می‌گویند؛ «Brain–computer interface»؛ رابط مغز و کامپیوتر. از عجائبی که خداوند متعال در مغز انسان قرار داده، همان انعطاف پذیری آن است؛ «Brain plasticity». مغز حالت انعطاف پذیری عجیب و غریبی دارد. عجائبی در این انعطاف پذیری مغز هست. خودش بحث مفصلی دارد. این دماغی که خداوند متعال در بدن بشر تعبیه فرموده، به تعبیر استاد حاج آقای حسن زاده، سخت‌ترین محل جمجمه انسان، این استخوان جلوی پیشانی است. از همه جا سخت‌تر است. بعد می‌فرمودند خداوند متعال پشت این استخوان که محکم ترین است، چه کار کرده است! بنطاسیا می‌گویند. حس مشترک را هم ظاهراً در همان بنطاسیا می‌گویند. خداوند متعال چنین چیزی را در همین‌جا قرار داده است. الآن در همین عالم ماده است. این را چه کار کرده‌اند؟ به تعبیر خودشان «Brain implant»، کاشت مغزی است. همان‌طور که دندان می‌کارند، در مغز هم می‌کارند. الآن چندین دهه هست که دارند کار می‌کنند. از چیزهای عجیب هم همین است؛ نیم ساعت پیش در صفحه ویکی پدیا دیدم. کاشت مغز خیلی عجیب است. وقتی مرحله‌ای از رشد مگس یا حشرات است که در پیله می‌رود و خوراک و همه چیزش تمام می‌شود…؛ یک برزخی است. اگر رشد این پرنده ها را ببینید خیلی عجیب است. قشنگ می‌توان به برزخ تشبیه کرد. اول کرم است، چیزی می‌خورد و راه می‌رود. بعد در یک پیله‌ای می‌رود. در این پیله چیزی نمی خورد. مدتی در این پیله دارد تغییر هویت می‌دهد. بعد یک دفعه از پیله درمی آید و پروانه می‌شود. در این حالت رفته‌اند، این ایمپلنت ها را این مگس ها قرار می‌دهند برای کارهای نظامی است. یک مگسی است که رها می‌شود و می‌رود. این مگس اطلاعات دشمن را برای این‌ها پخش می‌کند. این‌چنین چیزی را شنیده بودید؟! کاشت و ایمپلنت در شبکه‌های عصبی این کارها را می‌کند. تا این اندازه! یعنی مگس یک رابط اطلاع‌رسان می‌شود. خیلی عجیب است.

پیشرفت هوش مصنوعی و مسأله استناد

خلاصه من می‌خواستم استناد را عرض کنم. به زمانی رفته‌ایم که با الکترودهایی که به مغز کسی وصل می‌کنند، ذهن او گسترده می‌شود. الآن یک توانایی‌هایی دارد که قبلاً نداشت. الآن از نظر فقهی چه بگوییم؟ استناد قصاص یا ضمان مالی فقط به خود این شخص است که یک کاری انجام داده؟ یا آن کسی که این دستگاه را ساخته و این فن را آورده؟ برنامه‌نویسی که این کار را برای او انجام داده است؟ پزشکی که این الکترودها را به مغز او وصل کرده و ذهن او را افزوده کرده است؟ آن‌ها هم ضامن هستند یا نیستند؟ می‌دانیم «لو لم یکن لم یکن». اگر این توسعه نبود، این قتل در اینجا صورت نمی‌گرفت. چون این شده، این قتل صورت گرفته است. حالا چه کنیم؟ بگوییم فقط همین قصاص می‌شود؟ چون او انجام داده است؟ یا بگوییم «لو لم یکن لم یکن»؟ اگر این توسعه نبود اصلاً نمی‌توانست بکشد. بنابراین مثل اشتراک در قتل است؛ دو نفر کشته اند. در اینجا هم دو نفر می‌کشند. او به تنهایی کاره ای نبود. دو نفر استقلالی هم نیستند، دو نفر اشتراکی هستند. مثال هایش در فقه هست. یعنی هر دوی آن‌ها با هم مجتمع نشوند نمی‌توانند بکشند. هر دو با هم به‌صورت غیر مستقل -علتین متصلتین ناقصتین- که با هم تامه شده‌اند، قتل را انجام می‌دهند. الآن در اینجا چه بگوییم؟ «mci». خلاصه رابطه مغز و کامپیوتر است که روی آن کار می‌کنند تا این‌ها را انجام بدهند. عرض کردم من یک چیزی مطالعه می‌کنم، به‌عنوان سرنخ است. پی جویی و بسط آن برعهده ذهن شریف خودتان باشد. فعلاً در اینجا داریم مسأله استناد را مطرح می‌کنیم.

متفرع بر استناد که بعداً برای مسأله هوش مصنوعی خیلی کارساز است، مسأله قرار ضمان است. یک تحلیلی نیاز دارد. باید به کتب فقها و ادله شرعیه برویم؛ قرار ضمان فقه را خیلی غنی کرده است. در این مباحث به کار ما می‌آید. نکته دیگر در استناد، نرم ها و گستردگی اسباب است. همین مثال قتل این‌گونه بود؛ من اول مثال روشنی زدم تا بعد به مثال غیر روشن بیاییم. جانی کسی را استخدام کرده تا او را به جاهای مختلف ببرد، ما گفتیم که قتل هم به او مستند است. باید برای او حسابی باز کنند؛ تو مستخدم کسی بودی که قتل انجام می داده. در دستگاه فقه برای این شخص چه می‌گوییم؟ قیاس کنیم؟ تنقیح مناط کنیم؟ چه کار کنیم؟ نیاز به کار فقهی حسابی دارد. قیاس که ممنوع است. تنقیح مناط درست و حسابی که مورد تأیید علما و فقها و عرف عقلا، واجب است. چون حق الناس مطرح است. در اینجا باید یک کاری را انجام بدهیم. خب حالا این طرف تر بیاییم. الآن این جانی سوار تاکسی شده و رفته، خب اگر این تاکسی او را نبرده بود قتلی نبود. چون باید به آن جا برود. استناد قتل به راننده تاکسی هست یا نیست؟ روی مبنایی که آقایان گفتند ایجاد خطا است، خب او ایجاد کرده است؛ مستند به او هست. حالا باید او را پیدا کنیم و بگوییم چرا یک قاتل را برده‌ای؟! به گمانم عرف عقلاء می‌خندند و می‌گویند این راننده تاکسی که تقصیری نداشت! تقصیر نداشت اما ایجاد خطا که کرد. اگر او نبود و نبرده بود، او را نمی‌کشت. خب حالا جلوتر برویم. راننده‌ی تاکسی ای است که احتمال قاتل بودن این مسافر را هم بدهد، اینجا چه می‌گوییم؟ حالا علم هم بعدش می‌آید. مرحله به مرحله جلو برویم. همه این‌ها را باید مطرح کنیم. راننده تاکسی غافل محض را عرف عقلاء می‌خندند. راننده تاکسی ای که احتمال می‌دهد قاتل باشد، حالا رفته و او کشته است، الآن شما چه می‌گویید؟ ضامن هست یا نیست؟ ارتکاز به شما چه می‌گوید؟

شاگرد: ضامن نیست.

استاد: چرا نیست؟ اتفاقا من دنبال نیست بودم. همان نرم متکثر الوجودی بود که الآن می‌خواستم توضیح بدهم. در جلسات قبل هم بخشی از آن را عرض کردم. الآن در فضایی که تاکسی‌ها هستند و مسافر می‌برند، برای خودش یک نظام و هنجاری دارد. قرار نیست در آن هنجار، هر کسی ذهن خوانی کند و تجسس کند که این می‌خواهد چه کار کند. صرف احتمال هم که بی‌عار است و می‌آید. از اندک رفتار هر کسی، ممکن است راننده حدس بزند. احتمال های مختلفی هست. در اینجا قرار نیست بگوییم استناد آمده است. قتل به این راننده استناد ندارد ولو احتمال قتل هست. تقصیر هم که نکرده است اما ایجاد کرده است. اگر مسئولیت مطلق بود باید او را بیاورند و بگویند تو او را برده‌ای. فرق استناد در اینجا معلوم می‌شود. در این فضا چرا استناد نیست؟ عرض می‌کنم چون یک امر وسیع است. لذا در جلسه قبل گفتم اگر شما بدانید هوش مصنوعی چطور دارد رشد می‌کند و چطور تا به حال رشد پیدا کرده، می‌بینید یک چیز بی‌معنا می‌شود که بگوییم برنامه‌نویس ضامن است. اصلاً واقعیت میدانی آن، خیلی جلوتر از این تاکسی‌ها و این هنجارها جلوتر است. تکه‌تکه این‌ها را هر کسی آورده است؛ مثل مونتاژ است. مثلاً ماشینی که به کسی می‌زند، بگویند بروید ببینید چه کسی ماشین را ساخته است. بعد می‌بینید چه کسی آن را ساخته است، ظاهراً ده‌ها شرکت هر کدام یک قطعه آن را ساخته‌اند و بعد مونتاژ کرده‌اند. حالا بگوییم مونتاژکن را بگیریم؟! خب اگر این قطعات نبود که نمی‌توانست مونتاژ کند. فقط ماشین را سوار کرده است. هوش مصنوعی الآن به این صورت است. یعنی میلیون ها نفر همراه هم هستند و بخش بخش آن را تهیه کرده‌اند، آماده کرده‌اند، کتاب‌خانه‌های توابع کار را درست کرده‌اند، الگوریتم های مختلف را آماده کرده‌اند. شما می‌خواهید کدام یک از آن‌ها را بگیرید؟! شما بگویید این مستند به او است! اگر سراغ برنامه‌نویس بروید می‌بینید دارد چه کار می‌کند. خیلی از برنامه‌نویس ها در رده بسیار ضعیفی از مهندسی نرم‌افزار هستند. از جلوتر یادم هست که می‌گفتند مهندس‌های نرم‌افزاری که قوی می‌شوند اصلاً از این زبان‌ها خوششان نمی‌آید؛ به‌خاطر این‌که در مدیریت رم و حافظه به قدری قوی هستند که می‌خواهد بیت به بیت آن‌ها زیر دست خودش تنظیم شود. لذا نرم‌افزاری که قدرت بیشتری به مهندس می‌دهد، نرم‌افزاری است که بیت‌ها را دست‌کاری کند. این نرم‌افزار بیشتر مورد پسند مهندس‌های نرم‌افزار بود. زبان‌های خیلی سطح بالا که فقط فکر او را سامان می‌داد و کارش را در می‌برد، این‌ها مورد پسند آن مهندسین دقیق نبود. به‌خصوص مهندسینی که سر و کارشان بیشتر با سخت‌افزار است. کسانی که می‌خواهند نرم‌افزارهای راه انداز درایورهای سخت‌افزار را بنویسند، خیلی علاقه دارند که خودشان بیت به بیت بنویسند. دست خودش است؛ هر جور می‌خواهد حافظه را مدیریت می‌کند.

می‌خواستم این را عرض کنم؛ وقتی می‌بینیم در مورد هوش مصنوعی چه چیزی صورت می‌گیرد، در عرف عقلاء کاری را که یک هوش انجام بدهد، این برنامه‌نویس های مستند نمی‌کنند. چون زیاد هستند. نرم است.

شاگرد: فرض کنید نیروی نظامی کشوری می‌خواهند پروژه عظیمی برای ازبین‌بردن کشور دیگر بسازد. این یک کار خیلی کلانی هست. نزدیک دویست-سیصد هزار نفر باید کار کنند. یک هدف گذاری می‌کنند که در سی سال بعد به این سلاح دست پیدا کنیم. همه آن‌ها هم می‌دانند. لکن هر کدام قرار است یک قسمتی از آن را انجام بدهند. بعد هم به یک دستگاه می‌رسند و یک کشور دیگر را به‌صورت کامل از بین می‌برند.

استاد: ببینید اگر اطلس استناد را به‌خوبی ضابطه مند کردیم؛ شبه ریاضی. البته من عرض کردم هوش دو جور است. هوش سخت و هوش نرم. آیا استناد می‌تواند در حیطه هوش سخت بیاید یا نه؟ اگر یادتان باشد فکر نمادین و هوش سیمبولیک بود. یعنی خروجی‌ها دقیق و روشن است. خروجی فازی و محاسباتی و احتمالاتی نبود. «Computational» نبود. در آن جا فرض می‌گیریم که بتوانیم استناد را به هوش سخت برگردانیم. یعنی ریاضی وار، آن نه ریاضیات احتمالاتی، بلکه ریاضیات صریح و دقیق و سخت که خروجی آن روشن است. صفر و یکی نیست. اگر فرض بگیریم این جور بیاید، به قول شما مثلاً بیست هزار نفر شراکت کرده‌اند. صد هزار نفر شراکت کرده‌اند. خب مانعی ندارد، اگر ریاضیاتی جلو رفتیم، ضمان را تسهیم می‌کنیم و از حقوق همه آن‌ها بر می‌داریم و می‌گوییم این کار را کرده‌اند. چرا؟ چون ضمان استنادی داریم که فرض گرفتیم به آن صراحت برگشت، به نمادین برگشت، به هوش سخت برگشت. این یک فضا است.

اما اگر آمدیم و گفتیم اساساً ریخت استناد، ریخت سخت نیست. این خودش یک مبنا است، حالا انتخاب بکنیم یا نکنیم. اگر فرض گرفتیم که ریختش ریخت سخت نیست، ریختش ریخت نرم است، اینجا است که استناد باید محقق بشود تا بیاید. در بعض از کارهای وسیعی که عده‌ای انجام داده‌اند، اصلاً در این فضا از استناد بیرون می‌روند. یعنی از فیلتری که می‌گذارید تا مواردی را خارج کنید، خارج می‌شوند و «طل» یا «هدر» می‌شوند. یعنی ضامن نیستند.

شاگرد: برای ضعف سیستم حقوقی عقلاء چه مقدار می‌توانیم حساب باز کنیم؟ یعنی بر فرض اگر این طور باشد که بر سخت توزیع نشود، ممکن است بگوییم الآن ابزارش را ندارند. و الا اگر حقوق نفس الامری را نگاه کنیم، ضامن هستند. مثلاً در روایت داریم ظرفی از خون می‌دهند و می‌گویند این سهم تو از قتل فلانی است. ولو از حیث وجدان عقلائی می‌گوییم که توزیع نمی‌شود ولی توزیع از باب عدم ضمان است.

شاگرد2: ظاهراً در بحث وجدان عقلائی توزیع می‌شود. مثلاً در قضیه ساخت بمب اتم، دانشمندانی که مشارکت داشتند را تحریم می‌کنند. ظاهراً یک جمع ده هزار نفری بوده‌اند. این را مستند می‌کنند به تمام جمعی که در آن جا کار کرده‌اند.

استاد: این‌ها مثال‌های خوبی است. من عرض کردم استناد عرف عقلاء. اندازه‌ای که من می‌فهمم، وقتی می‌گوییم عقلاء این را مستند می‌کنند، پشتوانه این کلمه استناد، یک حجم انبوهی از ارتکازیات عقلائیه است که الآن خودشان نمی فهمند. یعنی عقلاء علم به علم ندارند. اما با پشتوانه عظیم ارتکازیات می‌گویند این مستند به آن است. همین مثال خوبی که شما زدید، قبل از این‌که بمب مطرح بشود، دانشمندانی که در کشف قوانین اتم و هسته اتم و نیروی هسته اتم به‌عنوان یکی از نیروهای چهارگانه کار علمی کرده‌اند، آیا آن‌ها را هم تحریم می‌کنند؟! نمی‌کنند. چرا؟ به‌خاطر این‌که عرف عقلاء بمب اتم را به آن‌ها مستند نمی‌کنند. ولی اگر ایجاد باشد، پس ایجاد کرده است. استناد برای خودش یک عنصری است. در اینجا نیاورده اند. استناد یک پشتوانه عظیمی دارد. خروجی آن نزد عقلاء در خیلی از موارد روشن است. یعنی تا به عرف عقلاء می‌گوییم برخی می‌خندند. اما اگر مسئولیت مطلق درست بود، نباید بخندند. باید بگویند این چه ربطی به آن دارد؟! درعین‌حالی که ایجاد کرده است، ولی نمی خندند. این مستند نیست.

بنابراین ما می‌خواهیم ببینیم این چیزی که عرض کردم از حیث تطبیقی در این کتاب نیامده است، اگر شما پیدا کردید برای ما ارسال کنید. آیا کسانی که کار می‌کنند این عرض امروز من را جلا داده‌اند؟ که نه مطلق است و نه مسئولیت قوی است و نه تقصیر است. اصلاً عنصر اصلی برای ضمان حکمی استناد است. استناد برای خودش یک چیزی است. غیر از صرف ایجاد است. غیر از صرف تقصیر است.

ابهام در هستی و مسأله توزیع پذیری استناد

شاگرد: وقتی می‌گویید ملاک اصلی استناد است، باید بحث ملاک ضمان باشد. این استناد در بستر عرف مطرح است؟ در بستر عرف وقتی استناد را مطرح کنند، خیلی وسیع می‌شود. یعنی اگر یک رعد و برق بزند و کسی را بکشد، لزوماً شعور و درک را لازم نمی‌دانند. مقصودتان از استناد حتماً استنادی است که در فضای حقوق است.

استاد: روایتی که خواندید «محجمة دم» بود. اندازه یک ظرف حجامت می‌آورند و می‌گویند این سهم تو است. هر وقت حاج آقا این روایت را می‌فرمودند در چشمشان اشک می‌آمد. کامل یادم هست. می‌فرمودند می‌آیند و می‌گویند در نامه عمل تو قتل هست. در روایت دارد که به اندازه ظرف حجامت می‌آورند و می‌گویند سهم تو در قتل فلانی این است. بیان حاج آقا این بود که می‌گویند در نامه عمل تو این است که فلانی را کشتی. اینجا بود که اشک در چشمانشان می‌آمد؛ می‌گوید خدایا من در عمرم یک مگش را نکشته ام! من کسی را کشته ام؟! فرمودند بله. در فلان مجلس این جمله را گفتی و شخصی شنید. همین‌طور او به دیگری گفت و با ده واسطه به گوش قاتل رسید و قاتل او را کشت. تو در این مجلس، ضروری بود این جمله را بگویی؟! چرا گفتی؟!

خُب بحثی که ما در فضای حقوق و فقه داریم، این نیست. این درست است که در دستگاه خداوند «فَمَن يَعۡمَلۡ مِثۡقَالَ ذَرَّةٍ خَيۡرا يَرَهُ»³ خیلی اوسع از این است که ما به آن فکر کنیم. بعضی از کسانی که از کما برگشته‌اند و توضیحاتی داده‌اند، شاید باید پنجاه سال روی توضیح یکی از این‌ها هم کار تحقیقی حقوقی و هم کار تحقیقی فلسفی-معرفتی انجام بدهند. ده دقیقه برای شما توضیح می‌دهد که من چه چیزی دیده‌ام. آدم این را می‌بیند، می‌بیند پنجاه سال آینده باید کار علمی کنند تا بگویند این می‌خواهد چه بگوید. دستگاه الهی به این صورت است. یک آیه هست، کافی است؛ باید بالای مدرسه مسئولیت مطلق و ایجادی بنویسند: «بَدَا لَهُم مِّنَ ٱللَّهِ مَا لَمۡ يَكُونُواْ يَحۡتَسِبُونَ»⁴. سبحان الله! اصلاً بعضی از چیزها باور انسان نمی‌شود. احتمالش را نمی‌دهد که این‌ها بعداً بگویند تو این‌ها را کشتی! آن هم با ده واسطه! خونش را هم بیاورند و بدهند! توزیع پذیری را ببینید! بیاید آن را بدهند و بگویند سهم تو از خون او این است.

شاگرد: این‌که می‌فرمایید در میان عقلاء نیست، اگر به جایی رسید که بتوانند توزیع پذیری داشته باشند… .

استاد: این بحثی که می‌فرمایید، امروزه هم هست. آیا در متن هستی‌شناسی ابهام داریم یا نه؟ در مباحثه پارادوکس خرمن هم فی الجمله صحبتش شد. آیا فازی بودن فقط مربوط به انسان است؟ حساب احتمالات ریاضی یا کوانتوم کلاسیک (مکتب کپنهارک). آیا مکتب کپنهارک در کوانتوم مقبول است؟ یعنی در متن و اقعیت ابهام داریم، نه این‌که در متن واقعیت وضوح است و ما انسان‌ها نمی‌دانیم؟ این دو مبنا است. مکرر هم گفته ام قرن بیستم، بالاترین قرن برای آینده علم است. بین دو نابغه علم مناظره شده است. این مناظره در تاریخ علم می‌ماند؛ وقتی ملحدین و آتئیست های قرن بیستم از بحث‌های علمی و شرائط علمی آن زمان سوء استفاده می‌کردند، دو نفر از بزرگ‌ترین نوابغ علمی قرن بیستم، ادبیات حاکم بر مناظره شان الهی است! زیاد این را گفته ام. مناظره بین اینیشتین و بور است. بور ایدولوگ فیزیک کوانتوم است، اینیشتین ایدولوگ نسبیت و فیزیک مقابل کوانتوم است. اینشتین گفت خداوند در اداره عالم که تاس نمی اندازد. تاس انداختن یعنی فعلاً نمی‌دانیم چه خبر است، یک تاس می‌اندازیم تا ببینیم از دست راست برویم یا از دست چپ برویم. تاس، هر کدام را تعیین کرد، آن درست است. او این را گفت. ببینید چه بیان محکمی است! خدا که در اداره عالم تاس نمی اندازد، همان‌طور که شما کوانتومی ها می‌گویید. به چه چیزی جواب داد؟ جواب نداد که خدا نیست و … . یک جوابی داد که من همیشه می‌گویم جمع بین این‌ها … . گفت بس کن! بی خود تند نرو. تو نمی‌توانی به خدا دستور بدهی که چطور عالم را اداره کند. خدا تاس نمی اندازد، اما تو هم نمی‌توانی بگویی هر چه من می‌گویم طبق آن ضابطه تعیینی من است. بلکه «یفعل ما یشاء». «مَا عُبِدَ اَللَّهُ بِشَيْءٍ مِثْلِ اَلْبَدَاءِ»⁵. چرا «بدا لله» را می‌گوییم؟! «وَقَالَتِ ٱلۡيَهُودُ يَدُ ٱللَّهِ مَغۡلُولَةٌ»⁶؛ عالم مثل یک ساعتی کوک شده و دارد باز می‌شود. دست خدا هم بسته است. یا نه، فعال ما یشاء است؟ «غُلَّتۡ أَيۡدِيهِمۡ وَلُعِنُواْ بِمَا قَالُواْۘ بَلۡ يَدَاهُ مَبۡسُوطَتَانِ يُنفِقُ كَيۡفَ يَشَاءُ». ادبیات این مناظره خیلی جالب است. یعنی ادبیات الهی، آن هم آن چه که در معارف اصیل دینی است. مبداء دارد. « أَبَى اَللَّهُ أَنْ يُجْرِيَ اَلْأَشْيَاءَ إِلاَّ بِالْأَسْبَابِ»⁷ اما «بدا لله» یعنی «أَبَى اَللَّهُ أَنْ يُجْرِيَ اَلْأَشْيَاءَ إِلاَّ بِالْأَسْبَابِ» را باید با این جمع کنیم. آن استاد در درس اسفار این شعر را زیاد می‌خواندند. معروف است. «از سبب سازیش اندر حیرتم*** از سبب سوزیش سوفسطائیم». «قُلۡنَا يَٰنَارُ كُونِي بَرۡدا وَسَلَٰمًا»⁸. مؤمن هم همین‌طور است. در روایات دارد. هر چه به او می‌گویند نجوم این است، امروز نحس است، حضرت فرمودند مؤمن که به این‌ها کار ندارد. توکل می‌کند و می‌گوید همه کارها به دست خدا است. اقدام می‌کند به آن چه باید اقدام کند.

والحمد لله رب العالمین

کلید: هوش مصنوعی، استناد در هوش مصنوعی، مسئولیت‌پذیری هوش مصنوعی، ضمان در هوش مصنوعی، ملاک ضمان، ملاک مسئولیت‌پذیری، توزیع پذیری استناد،

بسم الله الرحمن الرحیم

ملاک ضمان؛ استناد یا تقصیر

برای دستیابی به ملاک ضمان، باید آن چه را که در حکم به ضمان، حیثیت تعلیلیه دارد کشف کنیم به گونه ای که ملاک مزبور، فی حدنفسه در ارتکاز عقلا یا متشرعه، علت ضمان باشد و از طرفی بتوانیم همه موارد ضمان را با آن ملاک سامان بدهیم.

به نظر می رسد اساسا تقصیر در رتبه متقدم نسبت به استناد قرار دارد؛¹

توضیح این که:

به لحاظ ارتکاز عقلا و متشرعه حتما ضمان برای کسی است که عمل به او مستند باشد و الا حکم به ضمان، ظلم است و قبیح می باشد.

آنچه در فضای حقوق به دنبال آن هستیم،اعطای ضابطه برای استناد است و عنوان مهمی که اکثر قریب به اتفاق موارد استناد را پوشش می دهد، «تقصیر» است.

اساسا توزیع پذیری عرضی و طولی ضمان در بسیاری از موارد بر اساس همین ملاک تقصیر است.

بررسی برخی امثله:

1. دانشمندانی که بمب اتم را اختراع کردند، حتما از کشفیات دانشمندان دیگر در مورد اتم استفاده کردند، ولی در ارتکاز عقلا و متشرعه فقط دانشمندانی که این علم را در مسیر ساخت بمب اتم به کار گرفتند، ضامن می دانند و این مطلب به ملاک تقصیر است. یعنی دانشمندانی که کشفیاتی در مورد اتم داشتند، تقصیر در ساخت بمب اتم ندارند بخلاف دانشمندانی که همت خود را در راه ساخت بمب خرج کردند. و همین تقصیر ملاک استناد و ضمان است.

2. اگر شخصی نسبت به وظیفه ای که دارد کوتاهی کرده باشد، و کوتاهی او به نوعی در مسیر تحقق یک جنایت قرار گرفته باشد، حتی در صورتی که از تحقق آن فعل خبری نداشته باشد، میزانی از ضمان بر او تسهیم می شود هر چند عقلا به جهت ضعف در فهم روابط و تسهیم دقیق، از درک آن عاجز باشند. مثلا اگر کسی وسیله نقلیه دیگری را سرقت کند و آن شخص مجبور شود نیمه شب پیاده به خانه برود و در راه یک جنایتکار این شخص را بکشد، در این صورت دزدِ وسیله نقلیه به میزان تقصیری که کرده، ضمان بر او تسهیم می شود و به همین مقدار استناد هم محقق می شود( اگر روابط نفس الامری برای عرف کامل منقح شود) در همین مورد اگر شخصی تصادف با ماشین مقتول کرده باشد، ضمانی برای او حتی در نفس الامر هم محقق نیست زیرا تقصیری در کار نیست بنابراین استناد و ضمانی هم نیست.

3. راننده تاکسی اگر احتمال قتل را بدهد چون وظیفه او تجسس نیست، تقصیری ندارد پس استناد و ضمانی هم نیست. اما اگر علم داشته باشد و مجبور نباشد، به میزان تقصیری که دارد استناد و ضمان هم دارد.

اکثر قریب به اتفاق موارد استناد به همین نحو است که ملاک در استناد در فضای حقوق، تقصیر است.

دو مورد است که ممکن است بگوییم ملاک استناد، تقصیر نیست:

الف) اتلاف غیر عمدی مال. مثلا اگر شخصی در خواب مال دیگری را تلف کند، عرفا تقصیری ندارد ولی استناد و ضمان ثابت است.

ب) اتلاف غیر عمدی نفس. در قتل خطا هر چند شخص عرفا مقصر نباشد، ولی استناد و ضمان ثابت است.

بررسی موارد استثناء

در مورد این امور دو مطلب به ذهن می رسد:

مطلب اول: ملاک همان تقصیر است

مقدمه

در حدیث رفع نسبت به برخی امور مانند نسیان که تکلیفی متوجه مکلف نیست، این اشکال مطرح شده که اساسا رفع، معنا ندارد زیرا در این مورد تکلیفی نیست و عقاب بر آن قبیح است و لذا رفع مواخذه هم معنا ندارد. عده ای پاسخ داده اند که شارع می تواند به جهت ترک تحفظ، عقاب کند( یعنی آن شخص می توانسته با توجه بیشتر کاری کند که مثلا دچار نسیان نشود) ولی خداوند بر امت منت گذاشته است و عقاب نمی کند.

حال با توجه به این مقدمه:

شارع با توجه به اهتمامی که نسبت به اموال و نفوس مسلمین دارد، ترک تحفظی را که به صورت متعارف در نظر گرفتن آن در موارد احکام خلاف تسهیل است، نبخشیده است و تقصیر در این موارد به جهت ترک تحفظ است. در واقع اهمیت موضوع باعث شده است که معیار های تقصیر دقیق تر شوند. این مطلب در مورد قانون گذاری عقلا هم در برخی موارد صادق است.

مثلا در مورد تلف در خواب:

الف) صاحب مال، مالش را کنار شخصی می گذارد که خوابیده است و او در خواب باعث اتلاف مال می شود.

با توجه به این که به صورت متعارف شخصی که خواب است مقداری جابه جا می شود و خود صاحب مال، به نوعی اقدام بر معرض قرار دادن مالش برای تلف کرده، بعید است حکم به ضمان شود زیرا شخصی که خوابیده حتی ترک تحفظ هم نکرده است بنابراین مقصر نیست و ضمان و استناد هم نیست.

ب) اگر شخصی که خوابیده خودش برود در نزدیک آن مال بخوابد. در این جا این شخص هر چند در زمان خواب تکلیف ندارد ولی قبل از آن می توانسته دقت بیشتری کند و به همین جهت او مقصر محسوب می شود.

مطلب دوم: ایجاد هم در کنار تقصیر ملاک است

خصوصیت اموال و نفوس به گونه ای است که ایجاد هم در کنار تقصیر، به عنوان ملاکی برای استناد و ضمان قرار داده شده است. اگر کسی ترک تحفظ را عرفا تقصیر ندانست، قاعدتا به جهت حساسیت موضوع، خود ایجاد هم می تواند ملاکی برای استناد باشد.

در صورت طولی بودن تقصیر و ایجاد، بحث قرار ضمان مطرح می شود. در واقع اهمیت اموال و نفوس مسلمین ایجاب می کند که هدر نباشد، بنابراین ایجاد، مشروط به این که در طول تقصیر نباشد، ضمان دارد و الا قرار ضمان برای فرد مقصر است.