بسم الله الرحمن الرحیم
فقه هوش مصنوعی؛ جلسه 31 10/8/1043
بسم الرحمن الرحیم
جلسه قبل یکی-دو بحث مطرح شد؛ مسأله استناد و تسبیب یک انسان در هوشمند بودن وسائلی که پشتوانه هوش مصنوعی دارند مطرح شد. فرمایش داشتند که هنوز حل نشده. خیلی خوب است که مبادی بحث تکرار شود و معلوم شود که اشتباه از کجا است و نقطه انحراف بحث را معلوم کنیم.
عرض ما این شد که در مباحثه سه بخش داریم. سعی من هم بر این است که این سه بخش را هر جلسه با هم جلو ببریم و یک تکراری عرض کنم. بخش اول تفکیک بین پایه محور و اشراق محور بود. در جلسات متعدد صحبتش شد. بخش دوم توضیح و تحلیل کارهای هوش نمای پایه محور بود. بخش سوم هم احکام فقهی و حقوقی آن‌ها بود. هر کدام از این‌ها را بررسی کردیم. آن چه که در بخش سوم راجع به استناد بود می‌رسیم. ولی خب هر کدام از قبلی ها را هم باید سری بزنیم. من عرض کردم بسیار مهم است هوشی که در یک پایه به نحو پایه محور ظهور می‌کند ولی غیر ناظر محور باشد. به ناظر مربوط نیست، خودش دارد کارش را انجام می‌دهد ولی هوش ظهور کرده. پایه‌ای بدون اشتراط به این‌که معدّ باشد تا یک ناظر آن هوش را درک کند، بلکه خودش ظهور کرده. این مطلبی بود که در هوش پایه محور عرض کردیم. اما معنایش این نیست که آن اشراق محور را کنار بگذاریم و بگوییم بله آن قبول است! بلکه حتماً برای بحث‌هایی که کل بشر انجام می‌دهند نیاز است آن چه را که خدای متعال در این مخلوق ضعیف خودش قرار داده نشان بدهیم. مخلوق ضعیف اما «وَ تَحْسَبُ [تزعم] أَنَّكَ جِرْمٌ صَغِيرٌ ***وَ فِيكَ انْطَوَى الْعَالَمُ الْأَكْبَرُ***وَ أَنْتَ الْكِتَابُ الْمُبِينُ الَّذِي***بِأَحْرُفِهِ يَظْهَرُ الْمُضْمَر»1. انسان چنین چیزی است. ولذا به موبایل های امروزی مثال زدم. خوب است که انسان را این جور بشناسند که شئونات مختلف او را لمس کنند، نه فقط اثبات منطقی. آن هایی که از افاعیل روح او است و از روح او نشأت می‌گیرد با آن هایی که از پایه است را لمس کنند. حالا پایه‌ای که محضا در پایه ظهور کرده یا پایه‌ای که نه مجلای کار روح در این پایه است. دستگاه انسان خیلی عظیم است. نباید این‌ها را نادیده بگیریم.
عبارتی بود که از آقای تورینگ معروف نقل کردم؛ ایشان مدعی بود و می‌گفت ما طوری ماشین را در هوش عمومی هوشمند قرار می‌دهیم که هر چه دلت می‌خواهد بگویی، در این ماشین برای تو به ظهور می‌آورم. این حرفش بود. الّا مسأله روح و خلق روح. این دیگر بی ادبی به دستگاه خدا است. ما به محضر خدا بی ادبی نمی‌کنیم که بگوییم در ماشین روح خلق می‌کنیم. و الّا دیگر هر چه بخواهید به ظهور می‌آوریم. خب این یکی از غلط ترین حرف‌های قرن بیست‌ویکم است. چرا؟ به‌خاطر این‌که کاری می‌کند که روح تشریفاتی می‌شود. هر چه در انسان هست را عرضه می‌کنیم، فقط روح است که نمی‌توانیم؛ چون فقط مخصوص خدای متعال است؛ «قُلِ ٱلرُّوحُ مِنۡ أَمۡرِ رَبِّی»2. درحالی‌که این جور نیست. ما باید کار کنیم و نشان بدهیم. مثل همین شئوناتی که عرض کردم در این دستگا‌ه‌ها هست. صوتی که از آن‌ها بیرون می‌آید از اندرون خودش است؟ از جای دیگری دریافت می‌کند؟ کسی که موبایل دارد و آگاه به اندرون است فوری می‌فهمد که اینجا از طریق سیم کارت آمده، از طریق وای فای آمده، این آنلاین است و دیگری نیست. این یک دستگاه ساده است؛ این تفاوت هایش مهم است که این چیزی که الآن در این صفحه ظهور می‌کند از کجا می‌آید. انسان هم همین است؛ یعنی خدای متعال یک بدن جسمانی آفریده اما ظهوراتی که در آن ایجاد می‌شود سر از بی‌نهایت در می‌آورد. بنابراین باید کاری کنیم که این امتیازها در بحث ما روشن باشد. هر کدام را شماره بزنید؛
از چیزهایی که امروز در ذهن من است، رویاهای صادقه است. رؤیای صادقه برای انسان چیز کمی نیست. بله، روایات شریفه‌ای در بحارالانوار هست که مربوط به تقسیم‌بندی خواب‌ها است. خوابی که روح به ملکوت رفته و چیزی را می‌بیند، رؤیای صادقه است. حضرت فرمودند وقتی روح بین السماء و الارض است، خواب مخلوط است، اضغاث احلام است، رؤیای صادقه نیست. آن هایی که به بدن بر می‌گردد و از مزاج و کابوس و غذای سنگین است، این‌ها همه اش رؤیا است.
خب شما می‌توانید بگویید خواب و تمام! هر کسی هم که می‌خواهد حرفی بزند بگوییم این‌ها که شبه علمی است! حالا خوب است که ما در فارسی شبه علمی می‌گوییم! آن‌ها که اصلاً می‌گویند علم غلط! غربی‌ها علم غلط می‌گویند. غلط است، تمام شد! این خیلی ناجور است؛ شبه علمی، علم غلط، باید ضابطه مند شوند. خودشان بعضی‌ها را می‌گویند غیر علمی است، نه شبه علمی. چندتا اصطلاح دارند. این باید خیل ضابطه مند شود. شبه علمی یعنی چه؟! هر چه سر در نیاوردیم، شبه علمی است؟!
از چیزهایی که به‌عنوان پیشنهاد خدمت شما عرض می‌کنم، این است: مقاله خوبی می‌شود. اقناع های کاذب به‌خصوص در قرن بیستم با کارهایی که حلقه وین انجام داد، به وفور شد. یعنی یک چیزهایی که بشر باید بایستد و بگوید این یک چیز مهمی است که من نمی‌دانم. صبر کن. به صرف این‌که آن محدوده کار ما نیست، یک جوری با یک تحلیلی خودش را اقناع می‌کند. این همان است! به این فروکاهیده می‌شود! باید این اقناع های کاذب را رده‌بندی کنید و ببینید الآن چقدر از این اقناع ها داریم! در جاهای مختلفی هست.
اگر یادتان باشد این عبارات کم نیست؛ کتاب تجربه‌های ریاضی که برای دو نویسنده آمریکایی بود. مطلب مهمی که گفته بود، این بود: اکثر ریاضی دان ها وقتی دارند تفکر ریاضی می‌کنند، تفکرشان افلاطون گرا است. اما وقتی سر به سرشان می‌گذاری، به فرمالیسم بر می‌گردند. چرا؟ به‌خاطر این‌که آن چه که فطرت خودش است و روح وجان جلو می‌رود، همانی است که افلاطون گفته و واقعیت بود. اما وقتی می‌خواهد آن چه که روح او انجام می‌دهد را با سربه سر گذاشتنش توضیح بدهد، نمی‌تواند. وقتی نمی‌تواند، اقناع کاذب با بیان فرمالیسم می‌آید و سائل را اقناع می‌کند. می‌گوید این جور بود! یک اقناع کاذب همین است؛ پس چطور می‌گویید وقتی نود درصد آن‌ها فکر می‌کنند آن جور است؟! وقتی سؤال می‌کنید و آن‌ها را به چالش می‌اندازید، بر می‌گردند؟! پس معلوم می‌شود که این اقناع کاذب است؛ فرمالیسم یک اقناع کاذب برای اذهان بشری است که با ریاضیات دم ساز است. باید اقناع کاذب را بردارند، چه طور بردارند؟ به این‌که صورت مسأله را پاک نکنند. به فرمالیسم بر نگردند. بگویند واقعاً یک چیزی است که بشر در فطرت خودش این مسیر را به این صورت انجام می‌دهد. چرا ما صورت مسأله را پاک کنیم و خودمان را اقناع کاذب کنیم؟!
الآن در همین رؤیای کاذبه، در روان‌شناسی ببینید درجات خواب تعریف می‌کنند؛ خواب فلان و خواب فلان. بالاترین درجه اش خواب رِم (REM) است. این‌ها یک بیانات اقناعی برای خواب است. هر کسی هم که این‌ها را خواند می‌گوید: خب دیگر! بدن در اینجا می‌افتد و مغز در حالت استراحت قرار می‌گیرد و این کارها را انجام می‌دهد و مسأله رؤیا حل شد و تمام! این اقناع کاذب است. کجا حل شد؟! آن رؤیاهای صادقه ای که خبر می‌دهد و چقدر زیاد هم هست، چه شد؟! یا انکار یا مسکوت گذاشتن! این غلط است. ولذا در مانحن فیه این هست. ما که می‌گوییم روح اشراق محور و پایه محور، ما نمی‌خواهیم حرف تورینگ را بزنیم تا روح یک امر تشریفاتی بشود. حالا او ادباً مع الله می‌گوید روح دیگر برای خدا است. نه، روح در اینجا چیزهای اختصاصی خودش را دارد. آن چیزهای اختصاصی را باید شماره بگذاریم و جدا کنیم و بگوییم ببینید که این محال است که در هر پایه محوری ظهور کند. اصلاً محال است که در پایه محور ظهور کند. این بخش اول بود. اگر شما شواهدی پیدا کردید جمع‌آوری کنید. بخش مهمی است. نباید در مباحثه غفلت کنیم.
جلوتر هم عرض کردم؛ از کما بر می‌گردد و عجائبی می‌گوید. حالا بعضی از آن‌ها توجیه‌پذیر است. اما آن مواردی‌که وقتی از کما می‌آیند و خبر می‌دهد، اصلاً توجیه‌پذیر نیست. مال پایه محور نیست؛ آن چیزی که او می‌گوید یکی از افاعیل آن چیزی است که خداوند به این بشر داده که آن چیز مستقل از این پایه است. این پایه این جور نیست که فقط در آن ظهور کند وخلاص. آن برای خودش یک استقلال و دم و دستگاهی دارد.
شاگرد: با مثال می‌توانید بگویید که محال است روح پایه محور باشد؟
استاد: رؤیای صادقه را عرض کردم؛ البته کسی که بناء را بر انکار می‌گذارد نمی‌شود. اما کسی که واقعاً توصیف‌گرا باشد، نه انکارگرا یا حذف گرا. در قرن بیستم عده‌ای مدافع این توصیف گرائی هستند و اصل روش، روش خوبی است. مثلاً او خواب دید که هفت سال ترسالی است و هفت سال خشک‌سالی است. الآن چهارده سال آینده را آن هم با خصوصیات غامض هفت سال پشت سر هم قحطی، کدام پایه است که بتواند ببیند؟! وقتی خواب رفت چهارده سال را ببیند؟! به این رؤیای صادقه می‌گویند. رؤیای صادقه یعنی روح آن را در یک موطنی دیده که آن عالم محیط بر زمان و مکان باشد. در موطن احاطه بر زمان و مکان دیده، ولذا پیش‌بینی ذهنی نیست، دیدن آینده است، فقط تمثل پیدا کرده. وقتی تمثل پیدا می‌کند تعبیر می‌خواهد. برخی از علماء بزرگ بوده‌اند که خود واقعه را می‌دیدند؛ قطع نظر از دستگاه انبیاء و اوصیاء علیهم‌السلام. آن‌ها که جای خودش است. از علماء بوده‌اند که خواب تعبیر دار نمی دیدند تا نزد معبّر بروند و بگویند تعبیر کن. خودش را می‌دیدند و بعد هم اخبار می‌کردند. اما آن هایی که نیاز به چیز دیگری دارند، نفسشان یک معنا را در یک صورت ممثل می‌کند. این بار تعبیر می‌خواهد. مثلاً سال را چطور می‌بیند، سال گاو می‌شود. هفت گاو یعنی هفت سال. لاغر است یعنی آب ندارد. چاق است یعنی بارندگی فراوان است. به این تمثل معانی در ذهن او می‌گوییم. خب حالا برای این نفس چه دم و دستگاهی صورت گرفته؟! واقعاً این خواب عجائب است! معبّرهایی که درست تعبیر می‌کنند آدم را بهت زده می‌کنند. یکی از معبّرها می‌گفت یکی از آقایان به من زنگ شد و خوابش را گفت، گفتم این جور است؟! گفت نه. می‌گفت قضیه را گفتم، گفت نه. گفتم خب من این جور به ذهنم آمد. یک ساعت بعد زنگ زد و گفت تلفون روی بلندگو بود، نمی‌توانستم آن چیزی که تو تصریح کردی را تأیید کنم؟! راست گفتی همین‌طور است! می‌خواستم عرض کنم خواب را که می‌گوید این جور است! عجائب امر است!
شاگرد: وجه استحاله چیست؟
استاد: به‌خاطر این‌که آن چه که ما می‌گوییم قوامش بر احاطه بر زمان و مکان است، و پایه محور قوامش بر مادیت است. فیزیکالیسیم بودن است.
شاگرد2: شما فقط پایه را فیزیکالی تصویر می‌کنید؟
استاد: نه. چرا به بحث اصالت جامعه و فرد رفتیم؟! به‌خاطر این‌که نمی خواستم فقط فیزیکالسیم را بگویم.
شاگرد2: همان تمثلی که فرمودید یک پایه ظهور نفس یا خیال و مثال منفصل است. در آن پایه آن حقیقت ظهور کرده. به شکل تصاویری است که دیده.
استاد: آن پایه‌ای که شما می‌گویید، دارید توسعه می‌دهید. بیش از آن پایه‌ای است که مربوط به بحث ما است. ما می‌خواهیم با تجمیع سخت‌افزار…؛ گفتم از سخت‌افزار شروع کردیم و تا اینجا آمدیم، از تجمیع بیت و بایت و چیزهایی که در شروع از متن سخت‌افزار گفتیم، می‌خواهیم به پایه برسیم. شما که قوه خیال می‌گویید ما نمی‌توانیم از تجمیع این سخت‌افزار و بالا آمدنش در لایه‌های منِ پایه محور به قوه خیال برسیم. یعنی شما پایه را معنایی می‌گیرید که از بحث ما توسعه داده‌اید. بله، درست است: «وَمَا نُنَزِّلُهُۥ إِلَّا بِقَدَر مَّعۡلُوم»3؛ خدای متعال عالم را تقدیر کرده و هر درجه‌ای از عوالمی که خدا آفریده پایه‌ای است برای ظهور عالم بالا؛ در این‌که حرفی نیست؛ قوه خیال ما، قوه واهمه ما و همه این‌ها محفوظ است. اما بحث ما سر آن پایه نبود. چون بحث ما بحث هوش مصنوعی است، سر پایه‌ای بود که از دل سخت افزار آمدیم و این لایه‌هایی را طی کردیم تا به من پایه محور رسیدیم. من پایه محور بر پایه ی پایه‌های دیجیتالی یا کوانتومی. نه بر پایه‌های به‌طور مطلق.
شاگرد: پایه‌های فیزیکالیستی انسان تا حدی از جسمانیت می‌رسد که پایه‌ی فوقانی نفس می‌تواند روی آن سوار شود، حالا سیستم دیجیتالی هم آیا محال است که بتواند به این درجه برسد؟ یعنی پایه‌ای بشود که نفس روی آن سوار شود.
استاد: آقایی بود؛ گفته بودند ایشان گفته ما می‌توانیم ماشین هایی داشته باشیم که نفسمند هستند. در آن جا یکی-دوجلسه راجع به این‌ها بحث کردیم. آن جا من عرض نکردم محال است. استحاله چیز دیگری است. اما آن چه که اشکال اصلی بود، تفاوت گذاشتن بود بین الگوریتم های تکاملی با حیات‌مندِ نفس‌مندِ متکامل روی مبنای کسانی که قائل هستند. کسانی که تکامل گرا هستند یک مبنا دارند. کسانی که ثابت گرا هستند یک مبنا دارند. روی مبنای کسانی که تکامل گرا هستند، الآن که یک بدنی هست که زنده است، در خودش تمام این سه میلیارد سال تکامل را دارد. شما که نمی‌توانید یک دفعه همه این مراحل را درست کنید. البته می‌توانید الگو بگیرید. الگوی تکامل انتخاب طبیعی را از آن‌ها می‌گیرید و در آموزش هوش مصنوعی الگوی تکاملی به کار می‌برید؛ اخذ الگوی تکاملی با اخذ تمام اطلاعات ژنومی که انسان دارد؛ اگر بخواهید آن‌ها را به دستگاه بدهید هنوز انسان‌ها خیلی کم از آن می‌دانند. چطور می‌خواهند به ماشین بدهد؟! بله، فقط می‌تواند از طریق کلونینگ و شبیه‌سازی، DNA یک سلول را -سلول جنسی نه- هسته آن را اوولی می‌گذارید که هسته اش را درآورده‌اید. آن رشد می‌کند و شما می‌گویید یک انسان پدید آمده شبیه کسی که سلول را از او گرفتید. در اینجا شما کاری نکرده‌اید، این را خود DNA آن شخص در محیط مناسب پدید آورد. بعداً هم نفس از عالم دیگر می‌آید. می‌گویید من شبیه‌سازی کردم! بله شما کردید، اما نفس این انسان شبیه ساز که پدید آمد، از عالم دیگر آمده. بسترش را هم خدا قرار داده است؛ حتی روی مبنای تکامل گراها. آن بستر را خدای متعال زمینه‌سازی کرده تا شما بتوانید شبیه‌سازی کنید. حالا صحبت سر این است که الآن ما خودمان می‌توانیم یک پایه بسازیم که همه اطلاعات ژنوم انسان در آن بالفعل باشد؟ نمی‌توانیم.
شاگرد: در پرنده ای که حضرت عیسی درست کرد و به اذن الله در آن دمیده شد، گویا یک پایه‌ای ایجاد شد تا آن روح بیاید. کاملاً هم جسم مادی بود که ظاهر و صورتش به آن صورت بود. چنین چیزی محال است؟ یعنی فقط صرف یک معجزه و امر خارق‌العاده است؟
استاد: ظاهراً حضرت «فَأَنفُخُ»4 را فرمودند. یا حضرت ابراهیم علیه‌السلام فرمودند «ثُمَّ ٱدۡعُهُنَّ يَأۡتِينَكَ سَعۡيا»5. گاهی ما این‌ها را همین‌طور می‌خوانیم، وحال این‌که معلوم نیست. آن استاد در درس اسفارشان «ادعهنّ» را با تأکید می‌گفتند. حضرت ابراهیم عرض نکردند خدایا «ارنی احیاء الموتی». سؤال حضرت چه بود؟ «رَبِّ أَرِنِي كَيۡفَ تُحۡيِ ٱلۡمَوۡتَ»6، نه «ارنی احیاء الموتی». ولذا خدای متعال نمی‌گوید ببین من الآن زنده می‌کنم! می‌گوید خودت برو بگذار و «ثُمَّ ٱدۡعُهُنَّ»؛ شما آن‌ها را صدا بزن. آن وقت «وَٱعۡلَمۡ أَنَّ ٱللَّهَ عَزِيزٌ حَكِيم»7. ایشان در درسشان می‌فرمودند. شاید مکرر هم بود. خیلی زیبا بود. بله مانعی ندارد «فَأَنفُخُ فِيهِ فَيَكُونُ طَيۡرَۢا». «ٱدۡعُهُنَّ يَأۡتِينَكَ سَعۡيا». این درست است؛ یعنی آن نفخ چه کار می‌کند؟ نفخ با «کن فیکون» با اعجاز، آن اطلاعاتی که یک بدن معمولی انسان‌ها روی مبنای ثابت به وراثت نیاز دارد، روی مبنای تکامل هم به تمام جهش های ژن ها در طول خلقتی که بوده دارد. روی هر دو مبنا به همه این‌ها نیاز دارد. او با یک «أَنفُخُ» تولید می‌کند. همه را به او می‌دهد، منظم می‌کند و این‌ها را به او می‌دهد. خب به این‌ها نیاز دارد. آیا ما «أَنفُخُ» را داریم یا نداریم؟ نداریم. فرض بگیریم یک زمانی همه این‌ها فراهم بشود، بله. آن بدنی می‌شود که می‌تواند پایه بشود تا این بدن از عالم دیگر به کار گرفته بشود و نفس به آن تعلق بگیرد. این فعلاً از بحث ما کاملاً خارج است. در این اصلاً مشکلی نداریم. این جور چیزی باشد که به تعبیر شما یک گِل به اعجاز زده شود و کاری انجام بدهد، یا به آن چیزی که خداوند متعال علمش را نزد اولیائش قرار داده. در این مشکلی نیست. آن چه که تأکید من است، این است: ما که پایه می‌گوییم یعنی پایه‌ای که فعلاً ما می‌توانیم در فضای عصر خودمان هوش مصنوعی را به ظهور بیاوریم. در اینجا ما نیاز داریم یک چیزهایی را نشان بدهیم که برای این پایه نیست. آقای تورینگ نباید بگوید که ما با ماشین تورینگ هر چه بخواهید به شما نشان می‌دهیم. ولذا مثل رؤیا و درک‌هایی که بود، این‌گونه است. چند مورد را ذکر کردم، یادم نیست.
شاگرد2: فرمودید خواب رِم و رؤیای کاذبه، منظورتان رؤیای صادقه بود؟
استاد: رؤیای کاذب یعنی رؤیای غیر صادقه. یعنی رؤیایی که پشتوانه ی نفس وارد شده به عالم بالا ندارد. یا بین السماء و الارض دیده یا بعد از برگشتش به زمین است که هنوز وارد بدن نشده. بسیاری از خواب‌هایی که مزاج به نفس و تمثلات نفس تحمیل می‌کند همین است. یعنی الآن مزاج در یک شرائطی است که یک چیزهایی برای نفس آمده در سطح بدن مادی متمثل می‌شود. هیچ‌کدام از این‌ها رؤیای صادقه نیست. خب وقتی شما این‌ها را مخلوط کنید، به همه آن‌ها خواب می‌گویید. خودتان را هم به یک توجیهی اقناع می‌کنید و رد می‌شوید و می‌روید. ولی اگر توقف کنید و بین این‌ها جدا کنید و بگویید رؤیای صادق برای این بدن نیست، برای این پایه نیست، حتی رؤیای صادق برای بعض مراتب نفس نیست، برای یک مرتبه بالای نفس است، نه مرتبه پایین، وقتی این‌ها جدا می‌شود بحثی که ما داریم روشن‌تر است. هر چه جلوتر می‌رویم در پایه محوری که مقصود ما است، مشکلی نداریم.
قسمت دوم؛ تحلیل آن چیزهایی بود که می‌خواهد در این پایه ما ظهور کند. یکی هم استناد بود؛ فرمودید حل نشده. مثال‌هایی که برای استناد در ذهنم هست را عرض می‌کنم تا به تحلیل آن‌ها برگردیم. بعض موارد استناد هست که عرفا ذهن ما سراغ آن‌ها نمی‌رود. چرا نمی‌رود؟ تحلیل می‌خواهد. الآن به ذهن شریف شما می‌آید که اگر یک مهندسی برنامه هوش مصنوعی را نوشته، بعداً خطایی از این هوش سر در بیاید، حتی کاری کرد که خودش یاد گرفته باشد و با ترتیب مسائل خودش و با یادگیری کاری را انجام داد، می‌گویید مستند به مهندسی می‌شود که این را نوشته. چرا؟ چون یک انسانی آن اول دخالت کرده. چون یک انسانی اول این را نوشته و برنامه‌اش را تدوین کرده، حالا خودش راه افتاده ولو با یادگیری ماشین چیزهایی را یادگرفته باشد. اگر کاری انجام بدهد به آن مهندس بر می‌گردیم و یقه او را می‌گیریم و می‌گوییم تو این کار را کرده‌ای.
من بعضی از مثال‌ها را عرض می‌کنم، تا ببینیم تمثیل مع الفارق است یا نه؟ مثلاً خیلی وقت ها می‌بینیم که می‌گویند فلانی را برق گرفت. تا حالا به ذهن ما آمده که وقتی او را برق گرفته باید یقه مهندسی را بگیریم که ژنراتور را نصب کرده یا حتی فن ژنراتور را مهندسی کرده و ژنراتور را اختراع کرده و برق را آورده؟ این به ذهن ما آمده یا نه؟ چرا نیامده؟ و حال آن‌که یک انسانی سبب شده که یک ژنراتور پدید بیاید؛ آن را مهندسی کرده و اختراع کرده! حالا الآن هم او را برق گرفته. حتی گاهی اصلاً تقصیری هم ندارد ولی شرائط طوری می‌شود که او را برق می‌گیرد. چرا به ذهن ما نیامده؟! می‌خواهم تفاوت آن را عرض کنم.
شاگرد: اولی که برق را تولید می‌کند قابلیت کنترل در آن هست. فرض ما این است که هوش می‌سازیم که می‌خواهد از کنترل خارج شود. وقتی آموزش را در اختیار خودش گذاشتیم، خب مهندس مقصر است.
استاد: یک مثال دیگر عرض می‌کنم؛ مخترعین و مهندسینی هستند که دستگاه اتوماتیک درست می‌کنند. اگر یک دستگاه اتومات عمل‌کرد و کسی را برق گرفت، شما می‌گویید اینجا مهندسی چیزی را درست کرد که اختیارش دست خودش است و اتومات است؟! یقه او را می‌گیرید و بگویید چرا یک دستگاه اتومات درست کردی که سرجایش بدون این‌که تو آن جا حاضر باشی و نگذاری عمل کند، اما خودش عمل‌کرد؟!
شاگرد: این قابل پیش‌بینی است. تمایز هوش مصنوعی با همه این‌ها این است که دارند ادعا می‌کنند که قابل پیش‌بینی نیست.
استاد: خب آن‌که انواعی دارد. هوش نظارت شده و … . اتفاقا بحث ما سر نظارت نشده و بدترین فرضش است. هوش مصنوعی نظارت نشده. باز یک مثال دیگر عرض می‌کنم تا روی ارتکاز برویم. شما به یک جوانی تیر اندازی یاد می‌دهید، دو ماه بعد او قتل عمد می‌کند؛ کسی یقه معلم تیراندازی را می‌گیرد یا نه؟
شاگرد: چون خود آن شخص استقلال دارد، نه.
استاد: استقلال دارد؛ شما به او یاد دادید و او رفت. خودش هر کاری می‌خواهد می‌کند.
شاگرد: شرعا خود او مکلف است و خودش قابلیت استناد دارد؛ به‌خاطر اختیاری که از جانب شارع به او داده شده. ولی اینجا در هوش مصنوعی اول الکلام است که وقتی به او استناد بدهیم اصلاً قابلیت تکلیف دارد یا ندارد.
استاد: ما باید میزان را به دست بیاوریم. او خودش تکلیف دارد، ما استقلال را می‌خواهیم یا مکلف بودن را؟
شاگرد: این‌ها در کنار هم است.
استاد: پس به جوانی یاد داد، همین جوان دیوانه شد. در حال دیوانگی کسی را کشت، آیا یقه معلم را می‌گیرند و بگویند الآن که دیگر تکلیف ندارد؟ مجنون بود و در حال جنون این را انجام داد، لذا شما مقصد هستید. چون یک انسانی که بعداً در دست تو نیست که چه کار می‌کند، به او تعلیم تیراندازی دادی و حالا رفت و کسی را کشت. بله، وقتی خودش مکلف بود گوش او را می‌گیری. الآن که در حال دیوانگی انجام داده گوش چه کسی را بگیریم؟
شاگرد: ظاهراً ملاک در آن جا حال تعلیم است. در حال تعلیم باید ببینیم مستقل است، مکلف است یا نه.
شاگرد2: تکثیر امثله کار را پیش نمی‌برد.
استاد: اگر حیثیات را پیدا کنیم پیش می‌برد.
شاگرد2: در مثالی که قبلاً از آن استفاده کردید، اگر سگی انسانی را گاز گرفت، همه می‌گویند سگ او را گاز گرفت. اما استناد در فضای حقوقی با نسبت دادن عرفی متفاوت است. اینجا احدی نمی‌گوید تو گازش گرفتی، همه می‌گویند سگ گازش گرفت. استناد در فضای حقوقی متفاوت است. در مثال اول فرمودید کسی را که برق گرفته آیا یقه مهندس را می‌گیریم؟! حالا فرض کنید دو برابر ولتاژی که باید می‌بود وصل کرد. اینجا یقه او را می‌گیرند یا نه؟
استاد: همین‌جا ببینید؛ ما سیم‌ها و کابل‌های فشار قوی داریم. فشارش هم مهم است. گاهی انسان حتی اگر به پنج متری آن برسد، جذبش می‌کند و او را می‌کشد. خب آیا ما می‌گوییم چرا کابل فشار قوی را در اینجا گذاشتید؟!
شاگرد2: در همین مثال در جای عبور و مرور زیاد که چنین چیزی را نمی‌گذارند. تدابیری را انجام می‌دهند؛ مثلاً تابلو می‌زنند و دیوار می‌کشند. اگر آن شخص این کار را انجام نداده باشد، حتماً یقه او را می‌گیرند. عرض من این است که استناد در فضای حقوقی با استناد عرفی می‌تواند متفاوت باشد. در مثال سگ، می‌گویند کار سگ است، نمی‌گویند صاحب آن گاز گرفت اما ستناد را در فضای حقوق می‌گویند به صاحبش است.
استاد: ما به‌دنبال استناد هستیم. شما می‌فرمایید استناد در فضای حقوقی متفاوت است، بسیار خب؛ بحثی که در جواهر در مورد تسبیب و مباشرت هست، مربوط به همین ها است. همان جا اگر سگ گاز می‌گیرد به‌طور مطلق می‌گویید استناد حقوقی بر ضمان صاحب سگ است؟!
شاگرد2: بستگی دارد.
استاد: احسنت. بستگی دارد. پس استناد حقوقی هم مطلق نیست؛ جا دارد. الآن چرا در مورد این مهندس نرم‌افزار نمی‌گویید بستگی دارد؟! اینجا می‌گویید نه، این مهندس این کار را کرده! اگر بستگی دارد در اینجا هم بستگی دارد.
شاگرد2: کجا بستگی دارد؟
استاد: در مهندس هوش مصنوعی.
شاگرد2: همان جا هم هست. در فضای حقوقی بستگی دارد.
استاد: اگر بستگی دارد فعلاً خوب است. شما این بستگی داشتن را قبول دارید؟ بیان ایشان فرق می‌کند. ایشان می‌گویند چون دخالت آن مهندس در شروع این کار است… .
شاگرد: باید بیشتر باز شود.
استاد: بله، این مثال‌ها برای همین است.
شاگرد: اصل بر این است که استناد به مهندس دارد. در هوش قوی با بدترین فرض، اصل این است که به سازنده استناد دارد. برای همین عرض کردم که از جهات حقوقی و اخلاقی می‌گویند نباید ساخته بشود. چون ارتکاز عرف این است که این به آن استناد پیدا می‌کند. یعنی چون نمی‌توانیم به خودش مستند کنیم، از همین حالا برای طراح هوش مصنوعی محدودیت بگذاریم.
شاگرد2: ارتکازشان، در فضای حقوق است که آن هم بستگی دارد. یعنی شخصی هست که با تمام پارامترهای حقوقی این هوش مصنوعی را طراحی کرده، یک اتفاقی افتاده و یک جهش عامی پیدا کرده که به دست یک نفر نبوده. اینجا استناد نمی‌دهند.
شاگرد3: از باب «وَمَا رَمَيۡتَ إِذۡ رَمَيۡتَ وَلَٰكِنَّ ٱللَّهَ رَمَىٰ»8 یک فعل و انفعالاتی در عالم می‌شود… .
استاد: نگاه توحیدی به افعال، هر چیزی باشد درست است؛ سنگ و چوب باشد یا رمی انسانی باشد، آن نگاه توحیدی جای خودش است. اما صحبت سر این است که می‌خواهیم بگوییم در فقه چه کسی مسئول است. نگاه فقهی و ضمان به چه صورت است؟ مثلاً پول دیه را از چه کسی بگیریم؟ یا چه کسی را قصاص کنیم؟ آیا این را قصاص کنیم یا نکنیم؟ موارد قصاصش را هم عرض کردم.
مسأله هوش مصنوعی به‌خصوص در زمان ما، این جور نیست که یک مهندس این کار را کرده باشد. کل بشر با چقدر فکر کردن، این مطالب را تجمیع کرده‌اند! فناوری‌هایی می‌شود که این‌گونه است. خب در این بین یک مهندسی هم زیر قراردادهای اخلاقی می‌زند؛ چون فنش را بلد است یک کاری می‌کند. بعداً خود او می‌میرد و می‌رود ولی کار او به‌عنوان یک فن ادامه پیدا می‌کند. الآن که این هوش قتلی انجام می‌دهد، فقیه نباید جواب بدهد؟! بگوید به‌دنبال ورثه کسی بروید که زیر قولش زده؟! چه کار باید بکنیم؟ یعنی الآن در آموزش ماشینی به جایی رسیده که خودش به‌صورت غیر کنترل شده، آموزش دیده و قتل عمد انجام می‌دهد. یک مراحلی هم طی شده که کسانی که این کارها را کرده‌اند نیستند و مجهول هستند. ما برای این چه کار کنیم؟ از بیت‌المال بدهیم؟ یا راه دیگری دارد؟ راه دیگری که ما می‌توانیم دیه و حقوق جنایت را استیفاء کنیم، بدون این‌که دست ما از اشخاصی که پشت این بودند کوتاه باشد. ما دنبال این هستیم که بعداً کم نیاوریم. اصل این‌که بگوییم نکنید مانعی ندارد. می‌گوییم این راه را نروید. اما کسی که بعداً رفت چه؟ مبادی، الآن معلوم است.
شاگرد: اگر استناد معلوم شد، مثل جاهای دیگر می‌شود؛ مثلاً قاتل مرد، این احکامی دارد.
استاد: ورثه اش که هستند؛ تسبیب کرده. یعنی الآن در کاری که این‌ها انجام می‌دهند، سراغ ورثه مهندس می‌روند؟!
شاگرد2: سراغ سازنده ربات می‌روند. یعنی اگر او می دانسته چنین برنامه‌هایی در این ربات تعبیه شده، سراغش می‌روند.
استاد: ببینید در برنامه‌نویسی، هر زبانی برای خودش کتاب‌خانه‌ها دارد. در هر کتاب‌خانه‌ای صدها تابع هست. هر تابع را کسی نوشته، مخصوصاً اگر متن باز باشد که همه به هم کمک می‌کنند. خب الآن چه کسی را می‌خواهیم بگیریم؟ در پروژه‌های متن باز اینترنت می‌بینیم یک کتابخانه داریم با تابع های آماده که هر کسی بخشی از آن را نوشته و با هم تجمیع کرده‌اند. فقه در اینجا این‌طور نیست که به زانو در بیاید؛ بگوید برو بگرد! خب به‌دنبال چه کسی بگردیم؟! هزاران نفر دست به دست هم داده‌اند تا این هوش مصنوعی را به‌صورت آموزش غیر کنترل شده، راه انداخته‌اند. این هایی را که عرض می‌کنم را ملاحظه کنید. ما می‌خواهیم بگوییم در این مواردی‌که الآن محل ابتلای ما است، چه کار کنیم؟ یعنی کار را انجام می‌دهد و فرض ما این است که روی آموزش خودش بوده، الآن هم نمی‌توانیم سراغش برویم. اصلاً راه پیشرفت حقوقی به‌خاطر جهل ما است.
شاگرد: یعنی اگر بتوانیم سراغش برویم بحث عوض می‌شود؟ یا حتی اگر بتوانیم سراغش برویم نمی‌توانیم استنادش را ثابت کنیم؟
استاد: یعنی چرا استناد به این صورت است؟ به این خاطر که وقتی افراد زیادی معاونت کردند،عقلا توزیع جنایت بر افراد کثیره را نمی‌پذیرند. سطح استناد پایین می‌آید. یک نفر کرده؟! نه. شما می‌گوییم یک چیزی است که حاصل کار میلیون ها نفر است. می‌دانیم چه کسانی هستند، ولی بگوییم برو از هر کدامشان ده تومان بگیر! ذهن این استنادی که مبداء آن تجمیع یک کار هزاران نفر است را ضعیف می‌داند. آن‌ها هم قصد بدی نداشتند. هر کدام یک سهمی داشتند. آخر کار منتاژ شده. آخر کار این برنامه منتاژ کار میلیون ها نفر است که آمده. فضای ما الآن به این صورت است. اگر شما تمام این برنامه‌نویس ها را ببینید، می‌بینید به این صورت است. اوائل من از رابط های برنامه‌نویسی خبر نداشتم، می‌دیدم و می‌گفتم چقدر زحمت کشیده‌اند! بعد که رابط ها را می‌دیدیم، متوجه می‌شدیم تک‌تک برنامه‌های این‌ها را دیگران نوشته اند. به‌عنوان یک مؤلفه هست؛ او فقط برمی‌دارد و اینجا می‌گذارد. بعد اسم خودش را برنامه‌نویس می‌گذارد. برنامه‌نویس که نیست! او دارد از رابط هایی که در کتاب‌خانه‌ها آماده است، استفاده می‌کند. الآن فضای ما به این صورت است. یعنی شما یقه مهندسی را می‌گیرید که او خودش از کار هزاران نفر دیگر استفاده کرده است!
شاگرد: نسل بعد می‌تواند به نسل قبل استناد بدهد. این فرمایش شما به‌خاطر ضعف بشر است.
استاد: نه، او خودش نمی‌خواهد این کار را بکند. او خودش یک بخش کار را می‌آورد. اصلاً پیشرفت علم به این صورت است. علم که نقطه‌ای نیست. با یک زحمات خیلی زیادی با پشرفت تدریجی کار روی کار صورت می‌گیرد. نقطه انتهایی این مهندس… .
شاگرد: اگر همین کار در فضای انسان‌ها و مکلفین اتفاق بیافتد باید چه کار کنیم؟
استاد: مثالی که به ذهنم می‌رسد آموزش تیراندازی است.
شاگرد: بین کسانی که فعل به آن‌ها مستند است، اگر در فضای طبیعی اتفاق بیافتد، چه کار می‌کنیم؟ همین را می‌توانیم در هوش هم پیاده کنیم.
استاد: مثلاً یک بچه‌ای در سن ده سالگی است، معلم به او تیراندازی یاد می‌دهد، می‌گوییم چرا به یک بچه ده ساله یاد می‌دهی، و حال این‌که نمی‌دانیم فردا او یک جانی باشد! اگر به او یاد دادی و حال این‌که نمی‌دانی بطون این بچه به چه صورت است، تو مسئول هستی! من گمان نمی‌کنم بگویند چون نمی‌دانی این بچه دو روز دیگر چه کار می‌کند، تو مسئول هستی!
من این مثال‌ها به ذهنم آمده بود تا این استناد روشن شود. شما برای آن طرفش مثال بیاورید.
والحمد لله رب العالمین
کلید: تسبیب، قصاص، هوش مصنوعی، استناد در هوش مصنوعی، ضمان هوش مصنوعی، DNA، شبیه‌سازی،
1 دیوان أمیر المؤمنین(ع)، محقق، مصحح، زمانی، مصطفی، ص 175.
2 الاسراء85
3 الحجر 21
4 آل عمران 49
5 البقره 260
6 همان
7 همان
8 الانفال 17