بسم الله الرحمن الرحیم
فقه هوش مصنوعی؛ جلسه: 2 13/7/1402
بسم الله الرحمن الرحيم
{#خودرایان، #هوش_مصنوعی_محاسباتی، #تقلیل_هوش_به_پردازش_و_محاسبه}
فرمودند راجع به بخش مسئولیتپذیری هوش مصنوعی بحث کنیم. هوش مصنوعی، به معنای خودرایان که از خودش حالت هوشمندی بروز میدهد و کارها را انجام میدهد. مسئولیتپذیری آن را نسبت به قواعد و ضوابط فقهی بررسی کنیم. این اصل بحث ما بود.
شاگرد: اگر بخواهیم خودرایان را معادل هوش مصنوعی بگیریم، اشکالی در معنای هوش پیش میآید. ما هوش را، تنها محاسباتی در نظر گرفتیم. اگر معادل هوش مصنوعی را خودرایان در نظر بگیریم درواقع هوش را تقلیل دادهایم به پردازش و محاسبه.
استاد: اتفاقاً دقیقاً همین را در نظر داشتم. یعنی چون هوش، فربه تر از هوش مصنوعی است؛ چه روی مبنای محاسباتی و حتی روی مبنای شبکههای عصبی و حیات مصنوعی؛ چون آن بالاتر از همه اینها است لذا گفتم خودرایان. چون کاربرد واژه هوش در اینجا را نقص شأن آن میدانم. لذا فرمایش شما به جا است، اما با اینکه من عنایت داشتم.
شاگرد: یعنی چون در هوش مصنوعی، هوشهای دیگری وارد نمیشود، در اینجا میتواند تقلیل پیدا کند.
{#الگوریتم، #نظم_دادن_و_مرتب_کردن}
استاد: بله، خودرایان با همه ضوابطی که دارد جور در میآید. چون رایان، حتماً بهمعنای محاسباتی و سیمبولیک (Symbolic) کار کردن نیست. رایان یعنی خودش به خودش نظم میدهد و واژه تاب این را دارد. این واژه صرفاً نه وضع شده و نه از نظر دلالت در روش محاسباتی و هوش مصنوعی محاسباتی منحصر میشود. رایانیدن یعنی نظم دادن و مرتب کردن. هر چیزی که سر و کارش با الگوریتم و نظم دادن به مراحل یک فرایند است، میتوانیم بگوییم خودرایان است، اگر خودش میتواند این کار را انجام دهد.
ریشه لفظ سیلیکون
{#لفظ_سیلیکون، #ریشه_شناسی}
یکی از آقایان فرمودند هفته قبل گفتی «سِی لکون»، اما درستش «سیلیکون» است. خیلی ممنون که گفتید. چون ما طلبه هستیم کلمات را تنها با چشم میخوانیم. از اساتید تلفظ لفظ را نشنیدهایم. ممکن است همانطوری که میخوانیم در ذهنمان به تلفظ من در آوردی انس بگیریم، بدون اینکه شنیده باشیم. لذا تذکر شما باعث منت بر این حقیر است. در جلسه قبل هم گفتم این مباحثه از باب هندل زدن است، نه از باب اینکه ما رانندگی بلدیم. البته در اصل در عالم شیمی، سیلیکون دو اسم دارد: سیلیسیوم و سیلیکون. اختلاف نظری بوده در اینکه فلز است یا نافلز. در این پسوند «کون» و سیلیسیوم این اختلاف نظر بود. اصلش هم که سیلیکا است که برای سنگ چخماق است و از آن گرفته شده است. وقتی یک حرف صامت بین دو حرف مصوت است، باید با «i» بخوانیم؟ یک قانونی دارند که وقتی یک حرف مصوت آمد و بعدش یک حرف صامت بود و بعد از آن حرف صامت، دوباره حرف مصوت بود، حرف اولی را بهصورت خودش بخوانید. طبق این قانون، سیلیکون (Silicone)، باید سایلکون خوانده شود. مثل «Mining»؛ نمیگویید «مینینگ». البته لهجات هم فرق میکند. همین سنگ چخماق را در برخی از لغات دیدم سایلکس (silex) میگویند. سیلیکس نمیگویند. خود سنگ را سیلیکا میگویند. اینکه خود لهجهها فرق دارد یا ندارد، نمیدانم. علی ای حال این تذکری که دادند خیلی خوب بود.
{#موضوع_شناسی، #ضمان_در_فقه، #گستره_فقههای_مضاف، #عناصر_حقوقی، #موضوعات_حقوقی، #حیث_حقوقی_موضوعات_خارجی}
شاگرد٢: در این مسئولیت شناسی، قبل از موضوع شناسی، نظریه جرم شناسی مهم نیست؟ مثلاً اگر هوش نباشد و ژن باشد، ژن در سویههای مختلف تغییر میکند. یک جاهایی هم از دست در میرود. یعنی طرف هم قصد نکرده است. این فرقی میکند؟ یعنی موضوع هوش مصنوعی در این بحث مسئولیت ویژگیای دارد؟
استاد: ایشان هم نکتهای را گفته بودند، الآن عرض میکنم. نکتهی دوم ایشان این بود: فرمودند که شما جلسه را مسأله محور شروع کردید. اما بناء من این نبود که مسأله محور طرح کنم. آن ده امری که گفتم بهخاطر نظم دادن به کل بحث ضمان در فقه بود. نه اینکه یک مسأله را طرح کنم. اگر مثال دزدی و ربات دزدی را زدم، آن برای تحریر محل نزاع بود. نه اینکه حکم یک مسأله را بگویم. علی ای حال نفهمیدم منظور ایشان از مسأله محور چیست. در اینجا نوشتهاند: «گستره فقههای مضاف چقدر است؟ تا کجا میتوان بحث از فقه مضاف داشت؟ مثلاً با همان تحلیل از فقه هوش مصنوعی میتوان گفت فقه میز و فقه صندلی؟ اگر میزی شکست و شخص آسیب دید چه کسی مسئول است؟».
کلی آن را عرض میکنم تا روی آن تأمل کنید و به گمانم بسیار مهم است. در فقه سر و کار ما با احکام و حقوق است. علم حقوق بهمعنای گسترده خودش. چون به این صورت است موضوع دقیق فقه، عناصر حقوقی است. کسانی که با فقه و حقوق سر و کار دارند، عنصر حقیقی را از حقوقی زود تشخیص میدهند. اما کسانی که ندارند مقداری سخت است. همین میز بهعنوان اینکه میز است، ربطی به حقوق ندارد. اما یک ملاحظات حقوقی به آن ضمیمه میشود و میتواند از آن بحث شود. پس اگر میز، میز است ربطی به فقه ندارد و فقه با آن کاری ندارد. اما وقتی ملاحظهای شد کار دارد. میز میتواند موضوع حقوق باشد؟ بله. اما از آن حیثی که مال است. حیثیت مالیت وقتی روی میز میآید، آن حیث مالیتش، حقوقی میشود. مثلاً یک میزی است که برای استادی است، اگر بشکند استادی او چند درجه پایین میآید. در اینجا دیگر مالیت میز میزان نیست اما باز اثر حقوقی دارد. یعنی میزی است که با شکستن آن، رتبه این استاد پایین میآید. پس هرگاه از فقه و فقه مضاف اسم بردید، بدانید که سر و کار شما با موضوعات حقوقی است، نه با اجسام و این پیکره ظاهریه. این مطلب بسیار مهمی است. چندبار دیگر هم عرض کردم. مثلاً سر بحث هوا و نور بود، راجع به عین عرض میکردم و میگفتم عین حقوقی و عین فقهی با عین در فضای دیگر فرق میکند.
{#احکام_شرعیه، #حکم_تکلیفی، #حکم_وضعی، #هوش_مصنوعی_به_مثابه_موضوع_فقهی}
نکته دوم ایشان این است: «اگر فقه بیان احکام مکلفین است، مگر هوش مصنوعی مکلف است؟». آقا هم فرمودند به جای اینکه ما از هوش شروع کنیم، از جرم شروع کنیم. ببینید درست است که فقه، بیان احکام مکلفین است. میگویند موضوع آن افعال مکلفین است. ولی میتوانیم بگوییم فقه، بحث از احکام شرعیه است و میدانیم که حکم دو جور است؛ حکم تکلیفی و حکم وضعی. اگر شما از یک حکم وضعی بحث کنید که از فقه بیرون نرفتهاید. بحث الآن ما هم بر سر ضمان است. نظم ضمانات در فقه. خُب بگویید این کار کدام مکلف است؟! ضمانات و احکام وضعیه، مباشرتاً به فعل مکلف مربوط نمیشود، اما حکم فعل، بر آن متفرع میشود؛ با آن بحثهایی که در اصول بود که آیا اعتباری است یا انتزاعی.
نکته بعدی این بود که آیا هوش مصنوعی مکلف هست یا نه، فقه که از احکام مکلفین صحبت میکند بسیاری از موضوعات فقهی داریم که فقها از آنها بحث میکنند. بحث از یک موضوع فقهی، بهخاطر این است که مربوط به افعال مکلفین میشود. نمیتوانیم بگوییم بحث از آنها فقهی نیست. بحث فقهی است چون موضوع آن، موضوع فقهی است. موضوعات مستنبطه و غیر مستنبطه که انواعی داشت و سر جایش گفتهاند. پس هوش مصنوعی بهعنوان موضوعی در فضای فقه است که بر آن آثاری بار میشود و باید از آن بحث کرد. و الا خودش مکلف نیست.
{#استناد، #مبدأیت_استناد_برای_چگونگی_جبران_خسارت، #مثلث_متلِف_تالف_تلافی}
شاگرد: فرض کنید نظریه تأمین خسارت باشد؛ مثلاً اگر جوهر نمک و وایتکش را با هم مخلوط کنند، گاز خردل میشود و طرف میمیرد. میگویند اگر کارخانه نوشت که نباید این دو مخلوط شوند، اگر شکایت کرد، کارخانه جرمی ندارد. ولی اگر ننوشت جرم دارد. چون اصلاً کاری به استناد ندارند. میگویند این جبران خسارت است. یا گارانتی. یعنی ما نباید از اینها بحث کنیم که نظریه جرم شناسی نظام شریعت ما چیست. تأمین خسارت است؟ استناد است؟ گارانتی است؟ اینها مقدم بر موضوع شناسی نیست؟
استاد: شما الآن واژههایی را به کار بردید. گفتید تأمین خسارت و استناد. جلسه قبل عرض کردم اینها از یک وادی نیستند و مانعة الجمع نیستند که بگوییم این یا آن. استناد، مبدأ این است که چطور خسارت را جبران کنیم. یعنی اول باید استناد را صاف کنیم و وقتی استناد شفاف شد و فهمیدیم که این تلف مستند به چه چیزی است، حالا بگوییم چیزی که تلف مستند به او است، چطور باید جبران خسارت بکند. الآن در اینجا شما میگویید «اگر نوشته و اگر ننوشته». چرا این تفصیل را میدهید؟ چون جایش بوده که بنویسد. اگر ننوشته و حال اینکه جایش بوده که بنویسد، پس کور شدن آن شخص مستند به او است. حالا که مستند است باید جبران خسارت کند. دو باب هستند.
البته من سه چیز را مطرح کردم؛ گفتم مثلث متلِف، تالف و تلافی. استناد، مبادی روشن کردن متلف است. میخواهد متلف را معین کند که چه کسی است و در کجاست. تلافی نحوه جبران کردن خسارت است، اما بعد از اینکه متلف را با استناد مشخص کردیم.
شاگرد: یعنی ممکن نیست که بگوییم یا مستند نیست یا درجه استنادش خیلی کم است، ولی باید جبران خسارت بکند.
{#توزیع_پذیری_عرضی_ضمان، #اشتراک_در_قتل، #استناد_طولی، #تسبیب_و_مباشرت، #اقوائیت_استناد}
استاد: این چیزی است که الآن میخواهم عرض کنم. ببینید در جلسه قبل عرض کردم استناد، عرضاً توزیع پذیر است. مثلاً در فقه میگوییم اشتراک در قتل؛ اگر دو نفر با هم کسی را بکشند هر دو قصاص میشوند. چون این قتل مستند به دو نفر در عرض هم است. استناد عرضی، توزیع پذیر است و باید آن را جبران کنند. اما مطلب مهم دیگری در استناد که بخش وسیعی از فقه را میگیرد، استناد طولی است. استناد طولی به چه معنا است؟ یعنی مطالبی هست که در فقه و جاهای مختلف میگوییم: تسبیب و مباشرت. یعنی یک چیزهایی و روالی طی میشود تا منجر به تلف میشود. وقتی نگاه میکنید آن جزء اخیر مباشر اتلاف است اما قبلیها هم دخالت دارند. به این، تسبیب و مباشرت میگوییم. دو جای فقه که خیلی روشن از تسبیب و مباشرت بحث شده، یکی در کتاب غصب است و یکی در کتاب دیات است. ولی در جاهای دیگر هم آمده است. این تسبیب و مباشرت بود، اما مسأله اقوائیت هم مطرح است و آن همین چیزی است که الآن شما گفتید. شما نمیتوانید بگویید استناد ضعیف است؛ ما استناد را دقیقاً بررسی میکنیم و بعد میگوییم مباشر اقوی است. استناد ضعیف طولی تسبیبی کنار میرود. تسبیب دارد ولی چون ضعیف است کنار میرود. اما یک جای دیگر میگوییم در اینجا سبب از مباشر اقوی است. یعنی استناد طولیای که برقرار بود، در اینجا اقوی، آن است و ضمان بر او قرار میگیرد. پس مسأله استناد طولی، بحث گسترده تسبیب و مباشرت و اقوائیت را در فقه مطرح میکند.
{#قرار_ضمان، #تعاقب_ایدی، #مقبوض_به_بیع_فاسد، #بیع_فضولی، #غصب}
بحث دیگری که در این ده بند عرض کردم که به گمانم حرف آخر را میزند، مسأله قرار ضمان است. قرار ضمان در فقه خیلی لطافت دارد. اینکه استقرار ضمان کجا است. در این تسبیب و مباشرت و استناد طولی وقتی یک ضمان آمد، فقها از قرار ضمان بحث میکنند. در چند جای فقه هم هست. در تعاقب ایدی هست، در مقبوض به بیع فاسد، در بیع فضولی که تعاقب ایدی شود، در غصب هست. این قرار ضمان در جاهای مختلف مطرح میشود و خیلی مهم است. یعنی ظاهرش شاید به همین صورت جلوه بکند اما بعداً میخواهم از این قرار ضمان استفادههای مهمی کنم. البته هنوز نرسیده ام متون فقهی آن را در فدکیه بگذارم. عناوینش را باز کردهام، هر کدام به متنی برخورد کردید ارسال کنید تا همه استفاده کنند.
بنابراین استناد به نحوی طولی که مباشرت و تسبیب را میآورد، بسیار اهمیت دارد. در مانحن فیه مثال خارجی آن پزشک است. پزشک نسخه مینویسد که مریض فلان قرص را بخورد. بعد قرص را که خورد برای او ضرر دارد. یک وقتی هم هست که به مطب رفته و پزشک به او میگوید دهانت را باز کن، این قرص را در دهانش میگذارد یا حتی او در حال هوش و حساب هم نیست و آن را فرو میبرد. یا جراحی است که دیگر مریض هیچ کاره است. در اینجا چه میگوییم؟ میگوییم وقتی که نسخه نوشت، تسبیب کرد، اما پزشک، مباشر نبود. خود این میتوانست تحقیق کند و ببیند که آیا دکتر دیگری تأیید میکند یا نمیکند؛ مباشر، خود مریض بود. ولی باید ببینیم مباشر اقوی است یا سبب. ولی خلاصه نسخه را او نوشت که سبب است و نه مباشر. اما جراح، مباشر است. او خودش اقدام کرده؛ بدن او زیر دست جراح بوده و انجام داده. خطای او خطای مباشری است و همچنین عمد او؛ اگر دکتری بیاید و با قصد ناجور اقدام کند و کسی را…؛ اینها احکامش فرق میکند. آن احکام عمد است، آن احکام شبه عمد است و سائر مواردیکه خطای محض است. خطای محض هم در همه تسبیب و مباشرتها هم با آن گستردگی که دارند، میآید.
بنابراین اینکه فرمودند ما جرم را بشناسیم، جرم، متلِف است، از آن حیثی که اتلاف به آن مستند شود. پس قبل از آن باید استناد را در یک الگوریتم دقیق و منظم شفاف کنیم، تا متلِف روشن شود. وقتی متلف روشن شد آن وقت جرم شکل میگیرد. حتی همه جا هم جرم نیست. در آن جا عرض کرده بودم که گاهی تلافی به کیفر است. معمولاً در موارد کیفر میگوییم جرم است. و الا در خیلی از جاهایی که مالی است و …، جرم نیست. کما اینکه در فقه کلمه جنایت هم به کار میرود اما اعم از خطا است. حتی فقها به جنایتِ خطأ محض هم جنایت میگویند اما از باب توسعه است و ارتکاز عرفی را ندارد.
{#آموزش_ماشین_باناظر، #آموزش_ماشین_بدون_ناظر، #قرار_ضمان، #تعاقب_ایدی، #ید_اخیر}
برای اینکه مطلب سر برسد و مثالی که هفته قبل عرض کردم، جلو برود، که عرض کردم بدترین حالت حقوقی و اخلاقی را فرض گرفتم و برای آن مثالی زدم، که از نظر علمی هم جلوترین کار است. یعنی هوش مصنوعی را که به کار میگیرید گاهی است که محدود است و معین است؛ که میگویند آموزش ماشین نظارت شده. از این جلوتر رفتیم… .
شاگرد: یادگیری با ناظر (Supervised learning).
استاد: بله، یکی هم (Unsupervised learning) است، که یادگیری بدون ناظر است. مثالی که من گفتم به دومی نزدیک تر است. یعنی به جایی بردم که کاملاً هوش عمومی محقق باشد و بدون نظارت ناظر، خودش چیزی را یاد میگیرد و انجام میدهد. شما کامل میبینید که این ربات خودش یاد گرفته است. اگر جایی از آن را بگویید ممکن نیست، بحثهای علمی آن را عرض میکنم، اما فعلاً بحث ما این است. اگر الآن هم ممکن نباشد، نباشد و محل بحث ما امکان و عدم امکان آن در حال حاضر نیست و ما میخواهیم حکم شرعی آن را پیدا کنیم. در پیدا کردن حکم شرعی این موارد، عرض من این است که: شما باید در فهم قرار ضمان ذهن فقهیتان فعال شود. یعنی فقهیاً و حقوقیاً بهخوبی درک کنید که قرار ضمان به چه معنا است. چرا در تعاقب ایدی میگویید قرار ضمان بر ید اخیر است؟ مشهور همین است. اصلاً خبر هم نداشته که معامله آنها فاسد بوده. دست به دست گشته و در دست پنجمی تلف شده. چه کسی ضامن است؟ یعنی قرار ضمان بر کیست؟ بر آخری است. بر کسی است که مباشر است. خُب چرا؟! او که اصلاً خبر نداشته! باید گوش غاصب اولی را بگیرید! منافاتی ندارد. غاصب جای خودش است و گوش او را هم میگیریم و همه چیز را میگیریم. اما قرار ضمان بر این ید اخیر است. چرا؟ تحلیل دقیق فقهی-حقوقی دارد که در این بحث ما بسیار راهگشا است. ما از این قرار ضمان میخواهیم خیلی استفاده کنیم؛ وقتی یک رباتی بدون ناظر، یک الگوریتمی را کشف میکند و اعمال میکند و یک رفتار مجرمانه انجام میدهد، چه کسی مسئول آن است و چه باید کرد؟ فقه برای این حرف دارد یا ندارد؟ به گمان من بهوضوح دارد. اتفاقاً چون فقه ما بعضی زوایای تراث عظیم و قدیم ریشهدار را دارد، برای بسیاری از جنبههای این عاملهای هوشمند در فقه بحثهای گستردهای هست. خیلی جالب! ولی باید مبادی آن روشن شود. یعنی مسأله قرار ضمان و امثال آن، تحلیل شود.
قصد و عمد
{#قصد_عامل_هوشمند، #تصویر_قتل_عمد_عامل_هوشمند}
سؤالی که مطرح میکنم تا هم با جهات مسائلی که گفته شد بیشتر آشنا شوید و هم اینکه بحث باز شود، این است: اگر فرض گرفتیم یک رباتی خودش یاد گرفت و بعد سرقت مسلحانه انجام داد و کسی را کشت، از نظر فقهی آیا این قتل عمد است یا نه؟ قتل عمد چیست؟ قاتل قاصد کار و نتیجه است. ربات هم دقیقاً همین کار را کرده. یاد گرفته و الآن هم میخواهد او را بکشد. چون اگر زنده باشد نمیگذارد. لذا او را میکشد و سپس ماشینش را میبرد. این قتل عمد هست یا نه؟
شاگرد: «میخواهد» یک عمل جوانحی است؟
شاگرد٢: در این رفتاری که براساس الگوریتم یاد گرفته دو حالت فرض میشود؛ جایی که قصد در ضمان و استناد نقش دارد. جایی که قصد نقش ندارد. درجاییکه قصد نقشی ندارد بحث روان تر است. ولی درجاییکه قصد نقشآفرینی میکند معنای قصد در هوش مصنوعی یک بحث فلسفی مهمی دارد.
استاد: من گفتم تا این بحث فلسفی مهم را بگویم. اینکه این ربات یاد گرفت و او را کشت، یعنی هم کشتن او را قاصد بود و هم به نتیجه رسید و او را کشت.
{#اتاق_چینی}
شاگرد: قاصد بودن آن را نمی فهمم.
استاد: من اول میخواهم ابتدا قصد را جا بیاندازم؛ کما اینکه کسانی که طرفدار سخت هوش مصنوعی بودند قصد را به کار میبرند و مدافع آن بودند. لذا آقای سرل اتاق چینی را آورد و گفت معنا ندارد که قصد داشته باشد. الآن میخواهم همین را مطرح کنم. ابتدا میخواهم بگویم از قصد چه چیزی را کم دارد؟ شما میگویید جوانحی است؛ آنکه دل ندارد. این ماشین دلی نداشت. وقتی شما میخواهید یک وظیفه ای را برای جرمها یا اتلافهای عامدانه بیاورید، پس باید تعریف را عوض کنید، یا قصد را معنا کنید که قصد چیست.
{#ماشین_تورینگ}
در جلسه قبل جملهای را خواندم که ناتمام ماند. از کتابی که در حوزه پیرامون هوش مصنوعی چاپ کردهاند؛ جلسه قبل نتیجهگیری آخرش را خواندم. فرمودند:
«در سال 1936 یک ریاضیدان با مداد و کاغذ تصویری کشید»، اینها را خواندم. تا آن جا که «اختراع منحصر به فرد تورینگ که امروز بهسادگی بهعنوان ماشین تورینگ شناخته میشود…»؛ چرا ماشین میگویند؟ قبل از او منطق نمادین، منطق ریاضی، جبر، حتی جبر بولی (Boolean algebra) که پایهاش قبل از منطق نمادین ریخته شده بود، اینها بود، اما کافی نیست تا کامپیوتر درست شود. کامپیوتر، ماشین است. مثل اینکه خوارزمی الگوریتم جمع را ارائه داده بود، اما چرتکه غیر از الگوریتمی است که او میگوید. آن یک چیز علمی-انتزاعی است. اما اینکه ماشینی طراحی کنید تا آن را اجراء کند، مطلب دیگری است. مهم بودن کار تورینگ از این جهت است. یعنی چیزی را طراحی کرد که این کار را انجام دهد، اما ماشینی کلی است. خود ماشین او کلی است و علمی است ولی ماشین است. یعنی وقتی اجراء میکنید، میتواند این کار را انجام بدهد. لذا در یک کلمه میگویم؛ کسانی که میدانید میبینید اشاره ناقصی به مطالب گستردهای است. کسانی هم که الآن میشنوید سرنخی است تا به دنبالش بروید و مفصلتر ببینید. این ماشین در یک کلمه این است: ماشین تورینگ یعنی شما طبق یک قواعدی نشانههایی و نمادهایی را دستکاری کنید. به همین سادگی. قاعدهای دلخواه؛ هر جوری میتوانید فرض بگیرید. خلاصه با قاعدههایی، نمادهایی را دستکاری کنید. این حاصلش است. بعداً این گسترده شد و تمام پردازشهای ماشینیای که امروزه هست بهدنبال همان است. یعنی اگر این نبود ساختن پردازشگر ممکن نمیشد. علمش بود؛ منطق بولین و منطق سیمبولیک و ریاضیات نمادین بود. اما این کار او بود که توانست کامپیوتر را راه بیاندازد.
{#معنای_الگوریتم، #انجام_مرحله_به_مرحله_کارها، #رفتا_ر_مرتب، #ترتیب_ضروری، #ترتیب_کمالی، #تابع، #آرگومان_تابع}
فرمودند: چگونه میتوان یک الگوریتم را تعریف کرد؟ جلسه قبل عرض کردم. اینها را بهصورت خلاصه میگویم تا در ذهن شریفتان باشد. الگوریتم چیست؟ همه با الگوریتم سر و کار دارند. حتی حیوانات که کارهای ساده را انجام میدهند با آن سر و کار دارند. «الحیوان جسم نام حساس متحرک بالارادة»، حیوانی که متحرک بالارادة است سر و کارش با الگوریتمها است. یعنی وقتی میخواهد یک کاری انجام بدهد، مرحله مرحله میکند. فقه و عبادت و هر چه بگویید، به این صورت است. حتی وضو که میگیرید، مثلاً میگویید اول دستهایت را بشور، مضمضه کن، استنشاق کن. همین که میگویید اول این کار را بکن و این ترتیب را میگویید، خودش نوعی از الگوریتم و رفتار مرتب است. حالا طبق بحثهایی که قبلاً کردیم، این ترتیب حتماً وضعی و ضروری است و غیر آن امکان ندارد؟ یا کمالی است؟ یعنی کمال کار این است که اینطور انجام بدهید. خیلی گسترده است. یکی از طنزهایی که به نظرم سعدی دارد به این الگوریتم مربوط میشود.
کسی آمد و گفت میخواهم دستشویی بروم، آفتابه سوراخ است. تا مشغول شوم، آبش تمام میشود. چه کار کنم؟ گفت خُب اول تطهیر کن و بعد کارت را انجام بده. خُب این نمیشود. حالت طنز دارد. چون نمیشود اول تطهیر کند و بعد کارش را انجام بدهد. الگوریتم تطهیرش این است که اول کارش را انجام بدهد و بعد تطهیر کند.
بنابراین در یک کلمه، الگوریتم چیست؟ تحلیل یک فرایند به قطعات مترتب. شما یک فرایندی را به چند قطعهای که پشت سر هم هستند تحلیل میبرید. این پشت سر هم بودن، قوام الگوریتم است. اگر چیزهایی در عرض هم باشند، الگوریتم نیست.
{#خوارزمی، #رسالههای_خوارزمی، #الجبر_و_المقابلة، #علم_جبر، #الجزری}
اسمش هم از خوارزمی گرفته شده است. خوارزمی چند تا رساله دارد. رسالهای در جمع و تفریق دارد. یکی در جبر و مقابله دارد. جبر و مقابله او الآن شده (algebra) که کل دنیا به علم جبر میگویند. من در برخی از جاها دیدم که گفته بودند برای ریاضیات در میان مسلمانان اتفاقی نیافتاده است. ترجمه ای کردهاند و نقل کردهاند. یا حتی مسلمانان نتوانستند پارادایمها را تغییر بدهند. درحالیکه اینطور نیست. مستنداتی هست که کل بشر امروزه قبول دارند، اگر هر کجا بروید؛ چین و ژاپن و … قبول میکنند. مثل همین اسم الجبر.، که اسم جهانی آن است. این اسم دارد میگوید که این علم کجا بوده. شما میدانید یکی از مهمترین علوم علم جبر است. خود این اسمش میگوید قبلش نبوده، اگر بود که اسم قبلی را میآوردند. رساله الجبر و المقابله، علم جبر را تدوین کرده و کشف کرده. خُب اگر به این صورت است، شما میگویید پارادایمها را تغییر ندادند؟! وقتی عدد، شیء میشود؛ میگویند کتاب الجبر و المقابله را که به زبان اسپانیایی ترجمه کردند…؛ در خلاصة الحساب هم هست، وقتی شیخ جبر و مقابله را گفتند، گفتند شیء، مال و کعب. این تغییر پارادایم نیست؟! نه تنها تغییر پارادایم است، بلکه پدر جد تغییر پارادایم است. یعنی پارادایم این است که در یک چیزهایی که بین اهل یک فن متفاهم است، تغییراتی اعمال میشود و جلو میرود. به خلاف جبر، که تولید یک علم و تدوین یک علمی است که شناخته شده نبود. کشف و پردهبرداری از مهمترین علمی که تا آن زمان نبود، بالاتر است، یا تغییر دادن یک پارادایم؟! حالا این از تعصب است؟! تعصب نیست. یک چیزی است که هر کجا برویم کلمه الجبرا، میگوید که این علم از کجا آمده است. همه میگویند. امروز این علم از مهمترین علوم است. کسی که آن را درک کند میفهمد که چقدر مهم است. الآن اگر این علم جبر نبود، این کامپیوترها هم نبود. همه اینها مبتنیبر علم جبر است؛ کاربرد حروف به جای اعداد. کاربرد شیء و مال و کعب که اصطلاح آنها بود، به جای اعداد؛ تابع عددی و تابعی که خروجی آن غیر از عدد باشد، با تابعهای مطلقی که امروزه در برنامهنویسی داریم؛ آرگومان میپذیرد و خروجیای میدهد که میتواند هیچکدام عدد نباشد. همه اینها مبتنیبر این است که آن روز علم جبر را فهمیدند و پیش آوردند.
در آن جلسه هم عرض کردم، مرحوم طبرسی که همه ما ایشان را بهعنوان یک مفسر میشناسیم، معاصر ایشان میگوید: «کان یشار الیه فی علوم الحساب و الجبر و المقابلة»1. یعنی جناب طبرسی در زمان خودشان مشارٌ بالبنان بودند که جبر و مقابله بلد هستند. علماء این جور بودند و کار میکردند. حالا چه شد که اینطور شد بماند. یا مثلاً اسمی از الجزری برده نشود! خُب چرا؟ الآن آن جا میگویند؛ در یک کتاب پنجاه اختراع مهم دارد. آن هم در قلب عراق. در زمان ناصر بالله عباسی.
{#ناصر_بالله_عباسی}
خود این ناصر بالله خیلی مهم است. شخصیت شناسی ناصر بالله مهم است. هر کسی فی الجمله آن را نداند خیلی در خسران است. یک خلیفه ای است که به نظرم شصت سال خلافت کرد و به تمام معنا شیعی و بلکه در باطن رافضی هم بوده. مرحوم آسید محسن در اعیان الشیعه2 میگویند ناصر بالله مدعی بود که من نماینده حضرت بقیة الله هستم. اهلسنت هم خیلی از دست او ناراحت هستند. البته در ظاهر هم از او کرامت میدیدند. مثلاً کسی نزد خلیفه میآمد و خلیفه به او میگفت وقتی از سمرقند و بخارا میآمدی در فلان منزل با فلانی چنین حرفی زدی. چنین کاری کردی. عموم مردم میگفتند این ناصر بالله جن دارد که اینطور خبر میدهد. ظاهراً از ذهبی دیدم؛ عدهای دیگر میگفتند او خیلی جاسوس داشت. در محفلهای سراسر راهها جاسوس گذاشته بود، صحبتها را ثبت میکردند و برای خلیفه میفرستادند که وقتی به آن جا رسید خلیفه آنها را ابراز کند.
حاج آقا میفرمودند وقتی مریدهای شوقی نزد او میرفتند، میگفت تو این جوری هستی، چند برادر داری و امثال اینها. یک رندی بود که فهمید شوقی این کار را میکند که در ماشینی که میروند کسانی هستند که سر صحبت را باز میکنند و از او اطلاعات میگیرند و به دفتر شوقی میدهند و او هم تا به اتاق میرفت شروع به گفتن میکرد. چند بار شنیدم که حاج آقا این را میفرمودند. این رند بود. در اتوبوس وقتی طرف نزد او آمد و از او سؤالات را کرد، به او غلط جواب داد. مثلاً پرسید اسم تو چیست، مثلاً اسمش حسن بود ولی گفت زید. مثلاً پرسید در کجا به دنیا آمدی، و او اشتباه گفت. همه اینها را عمداً غلط گفت. وقتی وارد مجلس عامی که شوقی نشسته بود، شدند. او صدا زد آقای زید! ولی او همینطور ساکت نشسته بود. گفت آقای زید با شما هستم! باز ساکت بود. همه به او گفتند با تو است، به او جواب بده. او هم گفت من زید نیستم. همه مردم میدانند که اسم من حسن است. یعنی آن اطلاعات غلط، اینجا به دردش خورد.
منظور اینکه عدهای میگفتند ناصر بالله به این صورت است. علی ای حال چیزهای غلط خیلی است. ناجور هم خیلی است. قدرتهای… .
جایگاه علم و تکنولوژی و صنعت
{#جایگاه_علم، #نسبت_علم_و_تکنولوژی_و_صنعت}
خُب همین بحث هوش مصنوعی را ما ترویج کنیم یا نکنیم؟ خوب است یا نیست؟ مرضیّ شارع هست یا نه؟ اینها بحثهای مهمی است. یعنی در موضعگیری خود نسبت به آن چه کنیم؟ اینها مطالبی است که باید کمکم جلو برویم. نکتهای که برایم خیلی جالب است این است: وقتی آیه شریفه میخواهد آوردن تخت بلقیس را از سبا بفرماید، اولش میفرماید: «قالَ عِفريتٌ مِنَ الجِنِّ أَنا آتيكَ بِهِ قَبلَ أَن تَقومَ مِن مَقامِكَ»3. خُب چرا؟ چون جن است. یک امکانات بدنی، فیزیکی و خارجی دارد که انسانها ندارند. بعد وقتی قرآن کریم قدرت بالاتر را میخواهد بگوید، میگوید: «قَالَ ٱلَّذِي عِندَهُۥ عِلۡم مِّنَ ٱلۡكِتَٰبِ أَنَا۠ ءَاتِيكَ بِهِۦ قَبۡلَ أَن يَرۡتَدَّ إِلَيۡكَ طَرۡفُكَ»4. تعبیر «من الکتاب» جای خودش، من روی کلمه «علم» تأکید دارم. خیلی جالب است. قرآن میگوید آوردن تخت از قدرت اراده نبود. این هم یک گزینه است که بگوید «من کان له قوة الارادة»، مثل مرتاض هندی که در قرن بیستم معروف است که یک مرتاض هندی قطار را با اراده نگه داشت. اگر بگویند چطور نگه داشتی؟ میگوید نمیدانم. من میدانم ارادهام قوی است و وقتی به او میگویم نرو، نمیرود. کیفیتش را نمیداند. اما قرآن میگویند اینطور نیست که صرفاً یک اراده قوی دارد ولی نمیداند چه میشود، بلکه میگوید «علم من الکتاب». خیلی زیبا است که آنچه سبب آن میشد، علم بود.
اتفاقا در مراحل صنعت و تکنولوژی و قوانین علمی، این سه مرحله را داریم که باید بین آنها جدا کنیم. اول، شناخت قانون علمی است. دوم، تکنولوژی است؛ یعنی راه استفاده از این قانون علمی. و سوم، صنعتی کردن آن است. تکنولوژی خودش علم است و اقدام نیست. صنعت، اقدام است. مثلاً الآن بشر این را فهمیده است که در جوش هستهای خیلی انرژی آزاد میشود. این قانون را فهمیده است. یک وقتی بشر فهمید که اگر یک چیزی را فشار بدهید، انرژی جنبشی خود را به اطراف میدهد و داغ میشود. این قانون علمی بود که هر چه را فشار بدهید داغ میشود. بعد اگر یک دفعه باز شود سرد میشود. این را فهمید و از این قانون بهعنوان یک فن استفاده کردند و یخچال درست شد. به فکرشان آمد که خُب اگر این طوری است، یک چیزی را ابتدا فشرده میکنیم تا داغی آن بیرون برود و بعد در یک فضایی دفعتا منبسط شود که همین کانالهای یخچال میشود که زیر چهل درجه هم میبرد. تکنیک، همان راه کار است و شناخت این است که چه کار کنیم. بعد از اینکه راه کار را به دست آورد، صنعت میشود، یعنی اقدام میکند و آن را میسازد.
{#هفتاد_و_سه_حرف_اسم_اعظم، #بیست_و_هفت_حرف_علم، #ارتباط_هفتاد_و_سه_حرف_اسم_اعظم_با_بیست_و_هفت_حرف_علم}
در اینجا قرآن کریم میفرماید که او علم داشت. یعنی پشتوانه او، نه صرف قوت اراده بود و نه خلقت جنی او بود، بلکه علم داشت. خُب این علم چه بود؟ قبلاً صحبتش شد. دو روایت داریم که باید روی جمع آنها خیلی فکر کنیم. یک روایت هست که حضرت فرمودند اسم اعظم الهی هفتاد و سه حرف است. روایت دیگری هم هست که حضرت فرمودند کل علوم بیست و هفت حرف است. از زمان حضرت آدم تا به حال تنها دو حرفش آمده است. بیست و پنج حرف از آن بیست و هفت حرف، مانده برای زمان ظهور مبارک حضرت که در آن زمان میآید. یعنی هر چه تا آن زمان بشود، تازه دو حرف علم است.
خُب آن هفتاد با این بیست و هفت چه ربطی دارند؟ آیا بیست و هفت یکی از بیست و هشت کم دارد، که بیست و هشتم نگه داشته شده و مستأثر است؟ یا اینکه نه،… .
شاگرد: حروف عربی بیست و هشت حرف است. احتمالاً الف را جزء حروف حساب نمیکنند. الف در حروف نقش دیگری دارد. مثل یک در اعداد.
استاد: احتمال دیگری هم دارد… .
شاگرد: چون در تصوف یهودی هم مشابه دارد و حروف عبری همین شأن را دارند.
استاد: آنها بیست و دو تا هستند.
شاگرد: بله، ولی همین حرف را با همین توصیفی که عرض شد، در مورد الفبای عبری میزنند.
استاد: در اینکه الف جزء حروف بیست و هشت گانه هست، ظاهراً شواهد عدیدهای داریم که هست. یکی از مهمترین آنها این است: یکی از استخراجاتی که حضرت امیرالمؤمنین علیهالسلام از قرآن انجام دادند جدول صد در صد بود. حضرت جدول جفر جامع را استخراج کردند که منسوب به امیرالمؤمنین است. کتابهای خطی آن هم هست. در الشامله ببینید. قوام جدول جفر جامع به همان بیست و هشت حرف است. مرحوم ملا احمد نراقی رضواناللهعلیه در آن کتاب خیلی عالی خزائن، آن ۲۸ به توان ۲ را یاد میدهند. علی ای حال در اینکه به الف نقش میدهند، و حتی نقش تکوینی میدهند، مورد تردید نیست. اما اینکه در اینجا چرا حروف علم بیست و هفت تا است؟ از خصوصیاتی که بیست و هفت دارد این است که طبق قانون اساسی علم حساب، تنها از سه ساخته شده است. یعنی فقط سه به توان سه است. یعنی در بیست و هفت، از عامل های اول تنها سه هست. نه دو دخالت دارد و نه … . البته من نمیدانم. اینهایی را هم که گفتم به این خاطر بود که مثل ضبط صوتی شنیدهام تا آنها را محضر شما پس بدهم تا شما هم بهدنبال آن بروید و به درستی آن برسید. من بهعنوان یک ضبط صوت تنها واسطه بودهام تا اینها را بگویم. حیف است که ذکر نکنیم.
علی ای حال پشتوانه تمام این مطالب، علم است. آیه میفرماید «علم من الکتاب»، شاید حضرت قسم هم خوردند و فرمودند علم آصف نسبت به کل علم الکتاب، مثل یک قطره نسبت به دریا است. او علمی داشت و این را آورد. حالا اینکه علم او در چه اندازهای بود، بحثهایش جای خودش باشد.
{#قصد_ربات، #اتاق_چینی، #ماشینهای_دیجیتال، #پیوند_و_شبکه_عصبی، #هوش_قوی، #هوش_ضعیف}
خُب سؤال ما چه بود؟ آیا این ربات قصد دارد یا ندارد؟ این را عرض میکنم تا برای هفته بعد نگاه کنید. یک مسألهای مطرح شده به نام اتاق چینی. کسی که اتاق چینی را آورده مقصودش این بوده که بگوید ممکن نیست بگویید ربات قصد دارد. قصد ندارد. بی خود نگویید که قصد دارد. چون قصد مربوط به هوش قوی است و ما در فضای ماشینهای دیجیتال به قصد نمیرسیم. حالا ماشینهای نسل بعد بماند؛ بهخصوص دیجیتال محاسباتی و سیمبولک که سر و کارشان با نمادها است، نه ماشینهایی که سر و کارشان با پیوند و شبکههای عصبی است که دو لایه تشکیل میدهند، که آنها را بعداً عرض میکنم. فعلاً ببینیم اتاق چینی چیست و چگونه اثبات کرده که در وجود این ربات، قصد نیست. قصد به معنای هوش قوی ندارد و تنها هوش ضعیف دارد.
والحمد لله رب العالمین
کلید: هوش مصنوعی، اتاق چینی، ماشین تورینگ، الگورتیم، جایگاه علم، محدوده فقه، فقههای مضاف، موضوع فقه، تمایز جهت فقهی موضوع با خارجیت موضوع، ضمان، قرار ضمان، استناد، اسم اعظم، هفتاد و سه حرفی بودن اسم اعظم، بیست و هفت حرف علم، جدول جفر جامع، تکنولوژی، صنعت، نسبت علم و تکنولوژی و صنعت، خودرایان،
1 تاريخ بيهق/تعريب (ص: 437)
2 أعيان الشيعة، ج2، ص: 506
3 النمل ٣٩
4 همان ۴٠
فقه هوش مصنوعی؛ جلسه: 2 13/7/1402
بسم الله الرحمن الرحيم
{#خودرایان، #هوش_مصنوعی_محاسباتی، #تقلیل_هوش_به_پردازش_و_محاسبه}
فرمودند راجع به بخش مسئولیتپذیری هوش مصنوعی بحث کنیم. هوش مصنوعی، به معنای خودرایان که از خودش حالت هوشمندی بروز میدهد و کارها را انجام میدهد. مسئولیتپذیری آن را نسبت به قواعد و ضوابط فقهی بررسی کنیم. این اصل بحث ما بود.
شاگرد: اگر بخواهیم خودرایان را معادل هوش مصنوعی بگیریم، اشکالی در معنای هوش پیش میآید. ما هوش را، تنها محاسباتی در نظر گرفتیم. اگر معادل هوش مصنوعی را خودرایان در نظر بگیریم درواقع هوش را تقلیل دادهایم به پردازش و محاسبه.
استاد: اتفاقاً دقیقاً همین را در نظر داشتم. یعنی چون هوش، فربه تر از هوش مصنوعی است؛ چه روی مبنای محاسباتی و حتی روی مبنای شبکههای عصبی و حیات مصنوعی؛ چون آن بالاتر از همه اینها است لذا گفتم خودرایان. چون کاربرد واژه هوش در اینجا را نقص شأن آن میدانم. لذا فرمایش شما به جا است، اما با اینکه من عنایت داشتم.
شاگرد: یعنی چون در هوش مصنوعی، هوشهای دیگری وارد نمیشود، در اینجا میتواند تقلیل پیدا کند.
{#الگوریتم، #نظم_دادن_و_مرتب_کردن}
استاد: بله، خودرایان با همه ضوابطی که دارد جور در میآید. چون رایان، حتماً بهمعنای محاسباتی و سیمبولیک (Symbolic) کار کردن نیست. رایان یعنی خودش به خودش نظم میدهد و واژه تاب این را دارد. این واژه صرفاً نه وضع شده و نه از نظر دلالت در روش محاسباتی و هوش مصنوعی محاسباتی منحصر میشود. رایانیدن یعنی نظم دادن و مرتب کردن. هر چیزی که سر و کارش با الگوریتم و نظم دادن به مراحل یک فرایند است، میتوانیم بگوییم خودرایان است، اگر خودش میتواند این کار را انجام دهد.
ریشه لفظ سیلیکون
{#لفظ_سیلیکون، #ریشه_شناسی}
یکی از آقایان فرمودند هفته قبل گفتی «سِی لکون»، اما درستش «سیلیکون» است. خیلی ممنون که گفتید. چون ما طلبه هستیم کلمات را تنها با چشم میخوانیم. از اساتید تلفظ لفظ را نشنیدهایم. ممکن است همانطوری که میخوانیم در ذهنمان به تلفظ من در آوردی انس بگیریم، بدون اینکه شنیده باشیم. لذا تذکر شما باعث منت بر این حقیر است. در جلسه قبل هم گفتم این مباحثه از باب هندل زدن است، نه از باب اینکه ما رانندگی بلدیم. البته در اصل در عالم شیمی، سیلیکون دو اسم دارد: سیلیسیوم و سیلیکون. اختلاف نظری بوده در اینکه فلز است یا نافلز. در این پسوند «کون» و سیلیسیوم این اختلاف نظر بود. اصلش هم که سیلیکا است که برای سنگ چخماق است و از آن گرفته شده است. وقتی یک حرف صامت بین دو حرف مصوت است، باید با «i» بخوانیم؟ یک قانونی دارند که وقتی یک حرف مصوت آمد و بعدش یک حرف صامت بود و بعد از آن حرف صامت، دوباره حرف مصوت بود، حرف اولی را بهصورت خودش بخوانید. طبق این قانون، سیلیکون (Silicone)، باید سایلکون خوانده شود. مثل «Mining»؛ نمیگویید «مینینگ». البته لهجات هم فرق میکند. همین سنگ چخماق را در برخی از لغات دیدم سایلکس (silex) میگویند. سیلیکس نمیگویند. خود سنگ را سیلیکا میگویند. اینکه خود لهجهها فرق دارد یا ندارد، نمیدانم. علی ای حال این تذکری که دادند خیلی خوب بود.
{#موضوع_شناسی، #ضمان_در_فقه، #گستره_فقههای_مضاف، #عناصر_حقوقی، #موضوعات_حقوقی، #حیث_حقوقی_موضوعات_خارجی}
شاگرد٢: در این مسئولیت شناسی، قبل از موضوع شناسی، نظریه جرم شناسی مهم نیست؟ مثلاً اگر هوش نباشد و ژن باشد، ژن در سویههای مختلف تغییر میکند. یک جاهایی هم از دست در میرود. یعنی طرف هم قصد نکرده است. این فرقی میکند؟ یعنی موضوع هوش مصنوعی در این بحث مسئولیت ویژگیای دارد؟
استاد: ایشان هم نکتهای را گفته بودند، الآن عرض میکنم. نکتهی دوم ایشان این بود: فرمودند که شما جلسه را مسأله محور شروع کردید. اما بناء من این نبود که مسأله محور طرح کنم. آن ده امری که گفتم بهخاطر نظم دادن به کل بحث ضمان در فقه بود. نه اینکه یک مسأله را طرح کنم. اگر مثال دزدی و ربات دزدی را زدم، آن برای تحریر محل نزاع بود. نه اینکه حکم یک مسأله را بگویم. علی ای حال نفهمیدم منظور ایشان از مسأله محور چیست. در اینجا نوشتهاند: «گستره فقههای مضاف چقدر است؟ تا کجا میتوان بحث از فقه مضاف داشت؟ مثلاً با همان تحلیل از فقه هوش مصنوعی میتوان گفت فقه میز و فقه صندلی؟ اگر میزی شکست و شخص آسیب دید چه کسی مسئول است؟».
کلی آن را عرض میکنم تا روی آن تأمل کنید و به گمانم بسیار مهم است. در فقه سر و کار ما با احکام و حقوق است. علم حقوق بهمعنای گسترده خودش. چون به این صورت است موضوع دقیق فقه، عناصر حقوقی است. کسانی که با فقه و حقوق سر و کار دارند، عنصر حقیقی را از حقوقی زود تشخیص میدهند. اما کسانی که ندارند مقداری سخت است. همین میز بهعنوان اینکه میز است، ربطی به حقوق ندارد. اما یک ملاحظات حقوقی به آن ضمیمه میشود و میتواند از آن بحث شود. پس اگر میز، میز است ربطی به فقه ندارد و فقه با آن کاری ندارد. اما وقتی ملاحظهای شد کار دارد. میز میتواند موضوع حقوق باشد؟ بله. اما از آن حیثی که مال است. حیثیت مالیت وقتی روی میز میآید، آن حیث مالیتش، حقوقی میشود. مثلاً یک میزی است که برای استادی است، اگر بشکند استادی او چند درجه پایین میآید. در اینجا دیگر مالیت میز میزان نیست اما باز اثر حقوقی دارد. یعنی میزی است که با شکستن آن، رتبه این استاد پایین میآید. پس هرگاه از فقه و فقه مضاف اسم بردید، بدانید که سر و کار شما با موضوعات حقوقی است، نه با اجسام و این پیکره ظاهریه. این مطلب بسیار مهمی است. چندبار دیگر هم عرض کردم. مثلاً سر بحث هوا و نور بود، راجع به عین عرض میکردم و میگفتم عین حقوقی و عین فقهی با عین در فضای دیگر فرق میکند.
{#احکام_شرعیه، #حکم_تکلیفی، #حکم_وضعی، #هوش_مصنوعی_به_مثابه_موضوع_فقهی}
نکته دوم ایشان این است: «اگر فقه بیان احکام مکلفین است، مگر هوش مصنوعی مکلف است؟». آقا هم فرمودند به جای اینکه ما از هوش شروع کنیم، از جرم شروع کنیم. ببینید درست است که فقه، بیان احکام مکلفین است. میگویند موضوع آن افعال مکلفین است. ولی میتوانیم بگوییم فقه، بحث از احکام شرعیه است و میدانیم که حکم دو جور است؛ حکم تکلیفی و حکم وضعی. اگر شما از یک حکم وضعی بحث کنید که از فقه بیرون نرفتهاید. بحث الآن ما هم بر سر ضمان است. نظم ضمانات در فقه. خُب بگویید این کار کدام مکلف است؟! ضمانات و احکام وضعیه، مباشرتاً به فعل مکلف مربوط نمیشود، اما حکم فعل، بر آن متفرع میشود؛ با آن بحثهایی که در اصول بود که آیا اعتباری است یا انتزاعی.
نکته بعدی این بود که آیا هوش مصنوعی مکلف هست یا نه، فقه که از احکام مکلفین صحبت میکند بسیاری از موضوعات فقهی داریم که فقها از آنها بحث میکنند. بحث از یک موضوع فقهی، بهخاطر این است که مربوط به افعال مکلفین میشود. نمیتوانیم بگوییم بحث از آنها فقهی نیست. بحث فقهی است چون موضوع آن، موضوع فقهی است. موضوعات مستنبطه و غیر مستنبطه که انواعی داشت و سر جایش گفتهاند. پس هوش مصنوعی بهعنوان موضوعی در فضای فقه است که بر آن آثاری بار میشود و باید از آن بحث کرد. و الا خودش مکلف نیست.
{#استناد، #مبدأیت_استناد_برای_چگونگی_جبران_خسارت، #مثلث_متلِف_تالف_تلافی}
شاگرد: فرض کنید نظریه تأمین خسارت باشد؛ مثلاً اگر جوهر نمک و وایتکش را با هم مخلوط کنند، گاز خردل میشود و طرف میمیرد. میگویند اگر کارخانه نوشت که نباید این دو مخلوط شوند، اگر شکایت کرد، کارخانه جرمی ندارد. ولی اگر ننوشت جرم دارد. چون اصلاً کاری به استناد ندارند. میگویند این جبران خسارت است. یا گارانتی. یعنی ما نباید از اینها بحث کنیم که نظریه جرم شناسی نظام شریعت ما چیست. تأمین خسارت است؟ استناد است؟ گارانتی است؟ اینها مقدم بر موضوع شناسی نیست؟
استاد: شما الآن واژههایی را به کار بردید. گفتید تأمین خسارت و استناد. جلسه قبل عرض کردم اینها از یک وادی نیستند و مانعة الجمع نیستند که بگوییم این یا آن. استناد، مبدأ این است که چطور خسارت را جبران کنیم. یعنی اول باید استناد را صاف کنیم و وقتی استناد شفاف شد و فهمیدیم که این تلف مستند به چه چیزی است، حالا بگوییم چیزی که تلف مستند به او است، چطور باید جبران خسارت بکند. الآن در اینجا شما میگویید «اگر نوشته و اگر ننوشته». چرا این تفصیل را میدهید؟ چون جایش بوده که بنویسد. اگر ننوشته و حال اینکه جایش بوده که بنویسد، پس کور شدن آن شخص مستند به او است. حالا که مستند است باید جبران خسارت کند. دو باب هستند.
البته من سه چیز را مطرح کردم؛ گفتم مثلث متلِف، تالف و تلافی. استناد، مبادی روشن کردن متلف است. میخواهد متلف را معین کند که چه کسی است و در کجاست. تلافی نحوه جبران کردن خسارت است، اما بعد از اینکه متلف را با استناد مشخص کردیم.
شاگرد: یعنی ممکن نیست که بگوییم یا مستند نیست یا درجه استنادش خیلی کم است، ولی باید جبران خسارت بکند.
{#توزیع_پذیری_عرضی_ضمان، #اشتراک_در_قتل، #استناد_طولی، #تسبیب_و_مباشرت، #اقوائیت_استناد}
استاد: این چیزی است که الآن میخواهم عرض کنم. ببینید در جلسه قبل عرض کردم استناد، عرضاً توزیع پذیر است. مثلاً در فقه میگوییم اشتراک در قتل؛ اگر دو نفر با هم کسی را بکشند هر دو قصاص میشوند. چون این قتل مستند به دو نفر در عرض هم است. استناد عرضی، توزیع پذیر است و باید آن را جبران کنند. اما مطلب مهم دیگری در استناد که بخش وسیعی از فقه را میگیرد، استناد طولی است. استناد طولی به چه معنا است؟ یعنی مطالبی هست که در فقه و جاهای مختلف میگوییم: تسبیب و مباشرت. یعنی یک چیزهایی و روالی طی میشود تا منجر به تلف میشود. وقتی نگاه میکنید آن جزء اخیر مباشر اتلاف است اما قبلیها هم دخالت دارند. به این، تسبیب و مباشرت میگوییم. دو جای فقه که خیلی روشن از تسبیب و مباشرت بحث شده، یکی در کتاب غصب است و یکی در کتاب دیات است. ولی در جاهای دیگر هم آمده است. این تسبیب و مباشرت بود، اما مسأله اقوائیت هم مطرح است و آن همین چیزی است که الآن شما گفتید. شما نمیتوانید بگویید استناد ضعیف است؛ ما استناد را دقیقاً بررسی میکنیم و بعد میگوییم مباشر اقوی است. استناد ضعیف طولی تسبیبی کنار میرود. تسبیب دارد ولی چون ضعیف است کنار میرود. اما یک جای دیگر میگوییم در اینجا سبب از مباشر اقوی است. یعنی استناد طولیای که برقرار بود، در اینجا اقوی، آن است و ضمان بر او قرار میگیرد. پس مسأله استناد طولی، بحث گسترده تسبیب و مباشرت و اقوائیت را در فقه مطرح میکند.
{#قرار_ضمان، #تعاقب_ایدی، #مقبوض_به_بیع_فاسد، #بیع_فضولی، #غصب}
بحث دیگری که در این ده بند عرض کردم که به گمانم حرف آخر را میزند، مسأله قرار ضمان است. قرار ضمان در فقه خیلی لطافت دارد. اینکه استقرار ضمان کجا است. در این تسبیب و مباشرت و استناد طولی وقتی یک ضمان آمد، فقها از قرار ضمان بحث میکنند. در چند جای فقه هم هست. در تعاقب ایدی هست، در مقبوض به بیع فاسد، در بیع فضولی که تعاقب ایدی شود، در غصب هست. این قرار ضمان در جاهای مختلف مطرح میشود و خیلی مهم است. یعنی ظاهرش شاید به همین صورت جلوه بکند اما بعداً میخواهم از این قرار ضمان استفادههای مهمی کنم. البته هنوز نرسیده ام متون فقهی آن را در فدکیه بگذارم. عناوینش را باز کردهام، هر کدام به متنی برخورد کردید ارسال کنید تا همه استفاده کنند.
بنابراین استناد به نحوی طولی که مباشرت و تسبیب را میآورد، بسیار اهمیت دارد. در مانحن فیه مثال خارجی آن پزشک است. پزشک نسخه مینویسد که مریض فلان قرص را بخورد. بعد قرص را که خورد برای او ضرر دارد. یک وقتی هم هست که به مطب رفته و پزشک به او میگوید دهانت را باز کن، این قرص را در دهانش میگذارد یا حتی او در حال هوش و حساب هم نیست و آن را فرو میبرد. یا جراحی است که دیگر مریض هیچ کاره است. در اینجا چه میگوییم؟ میگوییم وقتی که نسخه نوشت، تسبیب کرد، اما پزشک، مباشر نبود. خود این میتوانست تحقیق کند و ببیند که آیا دکتر دیگری تأیید میکند یا نمیکند؛ مباشر، خود مریض بود. ولی باید ببینیم مباشر اقوی است یا سبب. ولی خلاصه نسخه را او نوشت که سبب است و نه مباشر. اما جراح، مباشر است. او خودش اقدام کرده؛ بدن او زیر دست جراح بوده و انجام داده. خطای او خطای مباشری است و همچنین عمد او؛ اگر دکتری بیاید و با قصد ناجور اقدام کند و کسی را…؛ اینها احکامش فرق میکند. آن احکام عمد است، آن احکام شبه عمد است و سائر مواردیکه خطای محض است. خطای محض هم در همه تسبیب و مباشرتها هم با آن گستردگی که دارند، میآید.
بنابراین اینکه فرمودند ما جرم را بشناسیم، جرم، متلِف است، از آن حیثی که اتلاف به آن مستند شود. پس قبل از آن باید استناد را در یک الگوریتم دقیق و منظم شفاف کنیم، تا متلِف روشن شود. وقتی متلف روشن شد آن وقت جرم شکل میگیرد. حتی همه جا هم جرم نیست. در آن جا عرض کرده بودم که گاهی تلافی به کیفر است. معمولاً در موارد کیفر میگوییم جرم است. و الا در خیلی از جاهایی که مالی است و …، جرم نیست. کما اینکه در فقه کلمه جنایت هم به کار میرود اما اعم از خطا است. حتی فقها به جنایتِ خطأ محض هم جنایت میگویند اما از باب توسعه است و ارتکاز عرفی را ندارد.
{#آموزش_ماشین_باناظر، #آموزش_ماشین_بدون_ناظر، #قرار_ضمان، #تعاقب_ایدی، #ید_اخیر}
برای اینکه مطلب سر برسد و مثالی که هفته قبل عرض کردم، جلو برود، که عرض کردم بدترین حالت حقوقی و اخلاقی را فرض گرفتم و برای آن مثالی زدم، که از نظر علمی هم جلوترین کار است. یعنی هوش مصنوعی را که به کار میگیرید گاهی است که محدود است و معین است؛ که میگویند آموزش ماشین نظارت شده. از این جلوتر رفتیم… .
شاگرد: یادگیری با ناظر (Supervised learning).
استاد: بله، یکی هم (Unsupervised learning) است، که یادگیری بدون ناظر است. مثالی که من گفتم به دومی نزدیک تر است. یعنی به جایی بردم که کاملاً هوش عمومی محقق باشد و بدون نظارت ناظر، خودش چیزی را یاد میگیرد و انجام میدهد. شما کامل میبینید که این ربات خودش یاد گرفته است. اگر جایی از آن را بگویید ممکن نیست، بحثهای علمی آن را عرض میکنم، اما فعلاً بحث ما این است. اگر الآن هم ممکن نباشد، نباشد و محل بحث ما امکان و عدم امکان آن در حال حاضر نیست و ما میخواهیم حکم شرعی آن را پیدا کنیم. در پیدا کردن حکم شرعی این موارد، عرض من این است که: شما باید در فهم قرار ضمان ذهن فقهیتان فعال شود. یعنی فقهیاً و حقوقیاً بهخوبی درک کنید که قرار ضمان به چه معنا است. چرا در تعاقب ایدی میگویید قرار ضمان بر ید اخیر است؟ مشهور همین است. اصلاً خبر هم نداشته که معامله آنها فاسد بوده. دست به دست گشته و در دست پنجمی تلف شده. چه کسی ضامن است؟ یعنی قرار ضمان بر کیست؟ بر آخری است. بر کسی است که مباشر است. خُب چرا؟! او که اصلاً خبر نداشته! باید گوش غاصب اولی را بگیرید! منافاتی ندارد. غاصب جای خودش است و گوش او را هم میگیریم و همه چیز را میگیریم. اما قرار ضمان بر این ید اخیر است. چرا؟ تحلیل دقیق فقهی-حقوقی دارد که در این بحث ما بسیار راهگشا است. ما از این قرار ضمان میخواهیم خیلی استفاده کنیم؛ وقتی یک رباتی بدون ناظر، یک الگوریتمی را کشف میکند و اعمال میکند و یک رفتار مجرمانه انجام میدهد، چه کسی مسئول آن است و چه باید کرد؟ فقه برای این حرف دارد یا ندارد؟ به گمان من بهوضوح دارد. اتفاقاً چون فقه ما بعضی زوایای تراث عظیم و قدیم ریشهدار را دارد، برای بسیاری از جنبههای این عاملهای هوشمند در فقه بحثهای گستردهای هست. خیلی جالب! ولی باید مبادی آن روشن شود. یعنی مسأله قرار ضمان و امثال آن، تحلیل شود.
قصد و عمد
{#قصد_عامل_هوشمند، #تصویر_قتل_عمد_عامل_هوشمند}
سؤالی که مطرح میکنم تا هم با جهات مسائلی که گفته شد بیشتر آشنا شوید و هم اینکه بحث باز شود، این است: اگر فرض گرفتیم یک رباتی خودش یاد گرفت و بعد سرقت مسلحانه انجام داد و کسی را کشت، از نظر فقهی آیا این قتل عمد است یا نه؟ قتل عمد چیست؟ قاتل قاصد کار و نتیجه است. ربات هم دقیقاً همین کار را کرده. یاد گرفته و الآن هم میخواهد او را بکشد. چون اگر زنده باشد نمیگذارد. لذا او را میکشد و سپس ماشینش را میبرد. این قتل عمد هست یا نه؟
شاگرد: «میخواهد» یک عمل جوانحی است؟
شاگرد٢: در این رفتاری که براساس الگوریتم یاد گرفته دو حالت فرض میشود؛ جایی که قصد در ضمان و استناد نقش دارد. جایی که قصد نقش ندارد. درجاییکه قصد نقشی ندارد بحث روان تر است. ولی درجاییکه قصد نقشآفرینی میکند معنای قصد در هوش مصنوعی یک بحث فلسفی مهمی دارد.
استاد: من گفتم تا این بحث فلسفی مهم را بگویم. اینکه این ربات یاد گرفت و او را کشت، یعنی هم کشتن او را قاصد بود و هم به نتیجه رسید و او را کشت.
{#اتاق_چینی}
شاگرد: قاصد بودن آن را نمی فهمم.
استاد: من اول میخواهم ابتدا قصد را جا بیاندازم؛ کما اینکه کسانی که طرفدار سخت هوش مصنوعی بودند قصد را به کار میبرند و مدافع آن بودند. لذا آقای سرل اتاق چینی را آورد و گفت معنا ندارد که قصد داشته باشد. الآن میخواهم همین را مطرح کنم. ابتدا میخواهم بگویم از قصد چه چیزی را کم دارد؟ شما میگویید جوانحی است؛ آنکه دل ندارد. این ماشین دلی نداشت. وقتی شما میخواهید یک وظیفه ای را برای جرمها یا اتلافهای عامدانه بیاورید، پس باید تعریف را عوض کنید، یا قصد را معنا کنید که قصد چیست.
{ماشینتورینگ}
در جلسه قبل جملهای را خواندم که ناتمام ماند. از کتابی که در حوزه پیرامون هوش مصنوعی چاپ کردهاند؛ جلسه قبل نتیجهگیری آخرش را خواندم. فرمودند:
«در سال 1936 یک ریاضیدان با مداد و کاغذ تصویری کشید»، اینها را خواندم. تا آن جا که «اختراع منحصر به فرد تورینگ که امروز بهسادگی بهعنوان ماشین تورینگ شناخته میشود…»؛ چرا ماشین میگویند؟ قبل از او منطق نمادین، منطق ریاضی، جبر، حتی جبر بولی (Boolean algebra) که پایهاش قبل از منطق نمادین ریخته شده بود، اینها بود، اما کافی نیست تا کامپیوتر درست شود. کامپیوتر، ماشین است. مثل اینکه خوارزمی الگوریتم جمع را ارائه داده بود، اما چرتکه غیر از الگوریتمی است که او میگوید. آن یک چیز علمی-انتزاعی است. اما اینکه ماشینی طراحی کنید تا آن را اجراء کند، مطلب دیگری است. مهم بودن کار تورینگ از این جهت است. یعنی چیزی را طراحی کرد که این کار را انجام دهد، اما ماشینی کلی است. خود ماشین او کلی است و علمی است ولی ماشین است. یعنی وقتی اجراء میکنید، میتواند این کار را انجام بدهد. لذا در یک کلمه میگویم؛ کسانی که میدانید میبینید اشاره ناقصی به مطالب گستردهای است. کسانی هم که الآن میشنوید سرنخی است تا به دنبالش بروید و مفصلتر ببینید. این ماشین در یک کلمه این است: ماشین تورینگ یعنی شما طبق یک قواعدی نشانههایی و نمادهایی را دستکاری کنید. به همین سادگی. قاعدهای دلخواه؛ هر جوری میتوانید فرض بگیرید. خلاصه با قاعدههایی، نمادهایی را دستکاری کنید. این حاصلش است. بعداً این گسترده شد و تمام پردازشهای ماشینیای که امروزه هست بهدنبال همان است. یعنی اگر این نبود ساختن پردازشگر ممکن نمیشد. علمش بود؛ منطق بولین و منطق سیمبولیک و ریاضیات نمادین بود. اما این کار او بود که توانست کامپیوتر را راه بیاندازد.
{#معنای_الگوریتم، #انجام_مرحله_به_مرحله_کارها، #رفتا_ر_مرتب، #ترتیب_ضروری، #ترتیب_کمالی، #تابع، #آرگومان_تابع}
فرمودند: چگونه میتوان یک الگوریتم را تعریف کرد؟ جلسه قبل عرض کردم. اینها را بهصورت خلاصه میگویم تا در ذهن شریفتان باشد. الگوریتم چیست؟ همه با الگوریتم سر و کار دارند. حتی حیوانات که کارهای ساده را انجام میدهند با آن سر و کار دارند. «الحیوان جسم نام حساس متحرک بالارادة»، حیوانی که متحرک بالارادة است سر و کارش با الگوریتمها است. یعنی وقتی میخواهد یک کاری انجام بدهد، مرحله مرحله میکند. فقه و عبادت و هر چه بگویید، به این صورت است. حتی وضو که میگیرید، مثلاً میگویید اول دستهایت را بشور، مضمضه کن، استنشاق کن. همین که میگویید اول این کار را بکن و این ترتیب را میگویید، خودش نوعی از الگوریتم و رفتار مرتب است. حالا طبق بحثهایی که قبلاً کردیم، این ترتیب حتماً وضعی و ضروری است و غیر آن امکان ندارد؟ یا کمالی است؟ یعنی کمال کار این است که اینطور انجام بدهید. خیلی گسترده است. یکی از طنزهایی که به نظرم سعدی دارد به این الگوریتم مربوط میشود.
کسی آمد و گفت میخواهم دستشویی بروم، آفتابه سوراخ است. تا مشغول شوم، آبش تمام میشود. چه کار کنم؟ گفت خُب اول تطهیر کن و بعد کارت را انجام بده. خُب این نمیشود. حالت طنز دارد. چون نمیشود اول تطهیر کند و بعد کارش را انجام بدهد. الگوریتم تطهیرش این است که اول کارش را انجام بدهد و بعد تطهیر کند.
بنابراین در یک کلمه، الگوریتم چیست؟ تحلیل یک فرایند به قطعات مترتب. شما یک فرایندی را به چند قطعهای که پشت سر هم هستند تحلیل میبرید. این پشت سر هم بودن، قوام الگوریتم است. اگر چیزهایی در عرض هم باشند، الگوریتم نیست.
{#خوارزمی، #رسالههای_خوارزمی، #الجبر_و_المقابلة، #علم_جبر، #الجزری}
اسمش هم از خوارزمی گرفته شده است. خوارزمی چند تا رساله دارد. رسالهای در جمع و تفریق دارد. یکی در جبر و مقابله دارد. جبر و مقابله او الآن شده (algebra) که کل دنیا به علم جبر میگویند. من در برخی از جاها دیدم که گفته بودند برای ریاضیات در میان مسلمانان اتفاقی نیافتاده است. ترجمه ای کردهاند و نقل کردهاند. یا حتی مسلمانان نتوانستند پارادایمها را تغییر بدهند. درحالیکه اینطور نیست. مستنداتی هست که کل بشر امروزه قبول دارند، اگر هر کجا بروید؛ چین و ژاپن و … قبول میکنند. مثل همین اسم الجبر.، که اسم جهانی آن است. این اسم دارد میگوید که این علم کجا بوده. شما میدانید یکی از مهمترین علوم علم جبر است. خود این اسمش میگوید قبلش نبوده، اگر بود که اسم قبلی را میآوردند. رساله الجبر و المقابله، علم جبر را تدوین کرده و کشف کرده. خُب اگر به این صورت است، شما میگویید پارادایمها را تغییر ندادند؟! وقتی عدد، شیء میشود؛ میگویند کتاب الجبر و المقابله را که به زبان اسپانیایی ترجمه کردند…؛ در خلاصة الحساب هم هست، وقتی شیخ جبر و مقابله را گفتند، گفتند شیء، مال و کعب. این تغییر پارادایم نیست؟! نه تنها تغییر پارادایم است، بلکه پدر جد تغییر پارادایم است. یعنی پارادایم این است که در یک چیزهایی که بین اهل یک فن متفاهم است، تغییراتی اعمال میشود و جلو میرود. به خلاف جبر، که تولید یک علم و تدوین یک علمی است که شناخته شده نبود. کشف و پردهبرداری از مهمترین علمی که تا آن زمان نبود، بالاتر است، یا تغییر دادن یک پارادایم؟! حالا این از تعصب است؟! تعصب نیست. یک چیزی است که هر کجا برویم کلمه الجبرا، میگوید که این علم از کجا آمده است. همه میگویند. امروز این علم از مهمترین علوم است. کسی که آن را درک کند میفهمد که چقدر مهم است. الآن اگر این علم جبر نبود، این کامپیوترها هم نبود. همه اینها مبتنیبر علم جبر است؛ کاربرد حروف به جای اعداد. کاربرد شیء و مال و کعب که اصطلاح آنها بود، به جای اعداد؛ تابع عددی و تابعی که خروجی آن غیر از عدد باشد، با تابعهای مطلقی که امروزه در برنامهنویسی داریم؛ آرگومان میپذیرد و خروجیای میدهد که میتواند هیچکدام عدد نباشد. همه اینها مبتنیبر این است که آن روز علم جبر را فهمیدند و پیش آوردند.
در آن جلسه هم عرض کردم، مرحوم طبرسی که همه ما ایشان را بهعنوان یک مفسر میشناسیم، معاصر ایشان میگوید: «کان یشار الیه فی علوم الحساب و الجبر و المقابلة»1. یعنی جناب طبرسی در زمان خودشان مشارٌ بالبنان بودند که جبر و مقابله بلد هستند. علماء این جور بودند و کار میکردند. حالا چه شد که اینطور شد بماند. یا مثلاً اسمی از الجزری برده نشود! خُب چرا؟ الآن آن جا میگویند؛ در یک کتاب پنجاه اختراع مهم دارد. آن هم در قلب عراق. در زمان ناصر بالله عباسی.
{#ناصر_بالله_عباسی}
خود این ناصر بالله خیلی مهم است. شخصیت شناسی ناصر بالله مهم است. هر کسی فی الجمله آن را نداند خیلی در خسران است. یک خلیفه ای است که به نظرم شصت سال خلافت کرد و به تمام معنا شیعی و بلکه در باطن رافضی هم بوده. مرحوم آسید محسن در اعیان الشیعه2 میگویند ناصر بالله مدعی بود که من نماینده حضرت بقیة الله هستم. اهلسنت هم خیلی از دست او ناراحت هستند. البته در ظاهر هم از او کرامت میدیدند. مثلاً کسی نزد خلیفه میآمد و خلیفه به او میگفت وقتی از سمرقند و بخارا میآمدی در فلان منزل با فلانی چنین حرفی زدی. چنین کاری کردی. عموم مردم میگفتند این ناصر بالله جن دارد که اینطور خبر میدهد. ظاهراً از ذهبی دیدم؛ عدهای دیگر میگفتند او خیلی جاسوس داشت. در محفلهای سراسر راهها جاسوس گذاشته بود، صحبتها را ثبت میکردند و برای خلیفه میفرستادند که وقتی به آن جا رسید خلیفه آنها را ابراز کند.
حاج آقا میفرمودند وقتی مریدهای شوقی نزد او میرفتند، میگفت تو این جوری هستی، چند برادر داری و امثال اینها. یک رندی بود که فهمید شوقی این کار را میکند که در ماشینی که میروند کسانی هستند که سر صحبت را باز میکنند و از او اطلاعات میگیرند و به دفتر شوقی میدهند و او هم تا به اتاق میرفت شروع به گفتن میکرد. چند بار شنیدم که حاج آقا این را میفرمودند. این رند بود. در اتوبوس وقتی طرف نزد او آمد و از او سؤالات را کرد، به او غلط جواب داد. مثلاً پرسید اسم تو چیست، مثلاً اسمش حسن بود ولی گفت زید. مثلاً پرسید در کجا به دنیا آمدی، و او اشتباه گفت. همه اینها را عمداً غلط گفت. وقتی وارد مجلس عامی که شوقی نشسته بود، شدند. او صدا زد آقای زید! ولی او همینطور ساکت نشسته بود. گفت آقای زید با شما هستم! باز ساکت بود. همه به او گفتند با تو است، به او جواب بده. او هم گفت من زید نیستم. همه مردم میدانند که اسم من حسن است. یعنی آن اطلاعات غلط، اینجا به دردش خورد.
منظور اینکه عدهای میگفتند ناصر بالله به این صورت است. علی ای حال چیزهای غلط خیلی است. ناجور هم خیلی است. قدرتهای… .
جایگاه علم و تکنولوژی و صنعت
{#جایگاه_علم، #نسبت_علم_و_تکنولوژی_و_صنعت}
خُب همین بحث هوش مصنوعی را ما ترویج کنیم یا نکنیم؟ خوب است یا نیست؟ مرضیّ شارع هست یا نه؟ اینها بحثهای مهمی است. یعنی در موضعگیری خود نسبت به آن چه کنیم؟ اینها مطالبی است که باید کمکم جلو برویم. نکتهای که برایم خیلی جالب است این است: وقتی آیه شریفه میخواهد آوردن تخت بلقیس را از سبا بفرماید، اولش میفرماید: «قالَ عِفريتٌ مِنَ الجِنِّ أَنا آتيكَ بِهِ قَبلَ أَن تَقومَ مِن مَقامِكَ»3. خُب چرا؟ چون جن است. یک امکانات بدنی، فیزیکی و خارجی دارد که انسانها ندارند. بعد وقتی قرآن کریم قدرت بالاتر را میخواهد بگوید، میگوید: «قَالَ ٱلَّذِي عِندَهُۥ عِلۡم مِّنَ ٱلۡكِتَٰبِ أَنَا۠ ءَاتِيكَ بِهِۦ قَبۡلَ أَن يَرۡتَدَّ إِلَيۡكَ طَرۡفُكَ»4. تعبیر «من الکتاب» جای خودش، من روی کلمه «علم» تأکید دارم. خیلی جالب است. قرآن میگوید آوردن تخت از قدرت اراده نبود. این هم یک گزینه است که بگوید «من کان له قوة الارادة»، مثل مرتاض هندی که در قرن بیستم معروف است که یک مرتاض هندی قطار را با اراده نگه داشت. اگر بگویند چطور نگه داشتی؟ میگوید نمیدانم. من میدانم ارادهام قوی است و وقتی به او میگویم نرو، نمیرود. کیفیتش را نمیداند. اما قرآن میگویند اینطور نیست که صرفاً یک اراده قوی دارد ولی نمیداند چه میشود، بلکه میگوید «علم من الکتاب». خیلی زیبا است که آنچه سبب آن میشد، علم بود.
اتفاقا در مراحل صنعت و تکنولوژی و قوانین علمی، این سه مرحله را داریم که باید بین آنها جدا کنیم. اول، شناخت قانون علمی است. دوم، تکنولوژی است؛ یعنی راه استفاده از این قانون علمی. و سوم، صنعتی کردن آن است. تکنولوژی خودش علم است و اقدام نیست. صنعت، اقدام است. مثلاً الآن بشر این را فهمیده است که در جوش هستهای خیلی انرژی آزاد میشود. این قانون را فهمیده است. یک وقتی بشر فهمید که اگر یک چیزی را فشار بدهید، انرژی جنبشی خود را به اطراف میدهد و داغ میشود. این قانون علمی بود که هر چه را فشار بدهید داغ میشود. بعد اگر یک دفعه باز شود سرد میشود. این را فهمید و از این قانون بهعنوان یک فن استفاده کردند و یخچال درست شد. به فکرشان آمد که خُب اگر این طوری است، یک چیزی را ابتدا فشرده میکنیم تا داغی آن بیرون برود و بعد در یک فضایی دفعتا منبسط شود که همین کانالهای یخچال میشود که زیر چهل درجه هم میبرد. تکنیک، همان راه کار است و شناخت این است که چه کار کنیم. بعد از اینکه راه کار را به دست آورد، صنعت میشود، یعنی اقدام میکند و آن را میسازد.
{#هفتاد_و_سه_حرف_اسم_اعظم، #بیست_و_هفت_حرف_علم، #ارتباط_هفتاد_و_سه_حرف_اسم_اعظم_با_بیست_و_هفت_حرف_علم}
در اینجا قرآن کریم میفرماید که او علم داشت. یعنی پشتوانه او، نه صرف قوت اراده بود و نه خلقت جنی او بود، بلکه علم داشت. خُب این علم چه بود؟ قبلاً صحبتش شد. دو روایت داریم که باید روی جمع آنها خیلی فکر کنیم. یک روایت هست که حضرت فرمودند اسم اعظم الهی هفتاد و سه حرف است. روایت دیگری هم هست که حضرت فرمودند کل علوم بیست و هفت حرف است. از زمان حضرت آدم تا به حال تنها دو حرفش آمده است. بیست و پنج حرف از آن بیست و هفت حرف، مانده برای زمان ظهور مبارک حضرت که در آن زمان میآید. یعنی هر چه تا آن زمان بشود، تازه دو حرف علم است.
خُب آن هفتاد با این بیست و هفت چه ربطی دارند؟ آیا بیست و هفت یکی از بیست و هشت کم دارد، که بیست و هشتم نگه داشته شده و مستأثر است؟ یا اینکه نه،… .
شاگرد: حروف عربی بیست و هشت حرف است. احتمالاً الف را جزء حروف حساب نمیکنند. الف در حروف نقش دیگری دارد. مثل یک در اعداد.
استاد: احتمال دیگری هم دارد… .
شاگرد: چون در تصوف یهودی هم مشابه دارد و حروف عبری همین شأن را دارند.
استاد: آنها بیست و دو تا هستند.
شاگرد: بله، ولی همین حرف را با همین توصیفی که عرض شد، در مورد الفبای عبری میزنند.
استاد: در اینکه الف جزء حروف بیست و هشت گانه هست، ظاهراً شواهد عدیدهای داریم که هست. یکی از مهمترین آنها این است: یکی از استخراجاتی که حضرت امیرالمؤمنین علیهالسلام از قرآن انجام دادند جدول صد در صد بود. حضرت جدول جفر جامع را استخراج کردند که منسوب به امیرالمؤمنین است. کتابهای خطی آن هم هست. در الشامله ببینید. قوام جدول جفر جامع به همان بیست و هشت حرف است. مرحوم ملا احمد نراقی رضواناللهعلیه در آن کتاب خیلی عالی خزائن، آن ۲۸ به توان ۲ را یاد میدهند. علی ای حال در اینکه به الف نقش میدهند، و حتی نقش تکوینی میدهند، مورد تردید نیست. اما اینکه در اینجا چرا حروف علم بیست و هفت تا است؟ از خصوصیاتی که بیست و هفت دارد این است که طبق قانون اساسی علم حساب، تنها از سه ساخته شده است. یعنی فقط سه به توان سه است. یعنی در بیست و هفت، از عامل های اول تنها سه هست. نه دو دخالت دارد و نه … . البته من نمیدانم. اینهایی را هم که گفتم به این خاطر بود که مثل ضبط صوتی شنیدهام تا آنها را محضر شما پس بدهم تا شما هم بهدنبال آن بروید و به درستی آن برسید. من بهعنوان یک ضبط صوت تنها واسطه بودهام تا اینها را بگویم. حیف است که ذکر نکنیم.
علی ای حال پشتوانه تمام این مطالب، علم است. آیه میفرماید «علم من الکتاب»، شاید حضرت قسم هم خوردند و فرمودند علم آصف نسبت به کل علم الکتاب، مثل یک قطره نسبت به دریا است. او علمی داشت و این را آورد. حالا اینکه علم او در چه اندازهای بود، بحثهایش جای خودش باشد.
{#قصد_ربات، #اتاق_چینی، #ماشینهای_دیجیتال، #پیوند_و_شبکه_عصبی، #هوش_قوی، #هوش_ضعیف}
خُب سؤال ما چه بود؟ آیا این ربات قصد دارد یا ندارد؟ این را عرض میکنم تا برای هفته بعد نگاه کنید. یک مسألهای مطرح شده به نام اتاق چینی. کسی که اتاق چینی را آورده مقصودش این بوده که بگوید ممکن نیست بگویید ربات قصد دارد. قصد ندارد. بی خود نگویید که قصد دارد. چون قصد مربوط به هوش قوی است و ما در فضای ماشینهای دیجیتال به قصد نمیرسیم. حالا ماشینهای نسل بعد بماند؛ بهخصوص دیجیتال محاسباتی و سیمبولک که سر و کارشان با نمادها است، نه ماشینهایی که سر و کارشان با پیوند و شبکههای عصبی است که دو لایه تشکیل میدهند، که آنها را بعداً عرض میکنم. فعلاً ببینیم اتاق چینی چیست و چگونه اثبات کرده که در وجود این ربات، قصد نیست. قصد به معنای هوش قوی ندارد و تنها هوش ضعیف دارد.
والحمد لله رب العالمین
کلید: هوش مصنوعی، اتاق چینی، ماشین تورینگ، الگورتیم، جایگاه علم، محدوده فقه، فقههای مضاف، موضوع فقه، تمایز جهت فقهی موضوع با خارجیت موضوع، ضمان، قرار ضمان، استناد، اسم اعظم، هفتاد و سه حرفی بودن اسم اعظم، بیست و هفت حرف علم، جدول جفر جامع، تکنولوژی، صنعت، نسبت علم و تکنولوژی و صنعت، خودرایان،
1 تاريخ بيهق/تعريب (ص: 437)
2 أعيان الشيعة، ج2، ص: 506
3 النمل ٣٩
4 همان ۴٠
فقه هوش مصنوعی؛ جلسه: 2 13/7/1402
بسم الله الرحمن الرحيم
فرمودند راجع به بخش مسئولیتپذیری هوش مصنوعی بحث کنیم. هوش مصنوعی، خودرایان که از خودش حالت هوشمندی بروز میدهد و کار انجام میدهد. مسئولیتپذیری آن را نسبت به قواعد و ضوابط فقهی بررسی کنیم. این اصل بحث ما بود.
شاگرد: اگر بخواهیم خودرایان را معادل هوش مصنوعی بگیریم، اشکالی در معنای هوش پیش میآید. ما هوش را، تنها محاسباتی در نظر گرفتیم. اگر معادل هوش را خود رایان در نظر بگیریم درواقع هوش را تقلیل دادیم به پردازش و محاسبه.
استاد: اتفاقا دقیقاً این را در نظر داشتم. یعنی چون هوش، فربه تر از هوش مصنوعی است؛ چه روی مبنای محاسباتی و حتی روی مبنای شبکههای عصبی و حیات مصنوعی؛ چون آن بالاتر از همه اینها است لذا گفتم خودرایان. چون کاربرد واژه هوش در اینجا را نقص شأن آن میدانم. لذا فرمایش شما به جا است. با اینکه من عنایت داشتم.
شاگرد: یعنی چون در هوش مصنوعی، هوش وارد نمیشود، در اینجا میتواند تقلیل پیدا کند.
استاد: بله، خود رایان با همه ضوابطی که دارد جور در میآید. چون رایان، حتماً بهمعنای محاسباتی و سیمبولیک (Symbolic) کار کردن نیست. یعنی خودش به خودش نظم میدهد. واژه تاب این را دارد. این واژه صرفاً نه وضع شده و نه از نظر دلالت در روش محاسباتی منحصر میشود. رایانیدن یعنی نظم دادن و منظم کردن. هر چیزی که سر و کارش با الگوریتم و نظم دادن به مراحل یک فرایند است، میتوانیم بگوییم خودرایان است. خود میتواند این کار را انجام دهد.
یکی از آقایان فرمودند هفته قبل گفتی «سِی لکون»، اما درستش «سیلیکون» است. خیلی ممنون که گفتید. چون ما طلبه هستیم کلمات را تنها با چشم میخوانیم. از اساتید تلفظ لفظ را نشنیده ایم. ممکن است همانطوری که میخوانیم در ذهنمان به تلفظ من در آوردی انس بگیریم. لذا تذکر شما باعث منت حقیر است. در جلسه قبل هم گفتم این مباحثه از باب هندل زدن است. البته اصل در عالم شیمی، سیلیکون دو اسم دارد. سیلیسیوم و سیلیکون. اختلاف نظر بود در اینکه فلز است یا نافلز. پسوند «کون» و سیلیسیوم این اختلاف نظر را داشتند. اصلش هم که سیلیکا است که برای سنگ چخماق است. از آن گرفته شده است. وقتی یک حرف صامت بین دو حرف مصوت است، باید با «i» بخوانیم؟ یک قانونی دارند که وقتی یک حرف مصوت آمد و بعدش یک حرف صامت بود و بعد از آن حرف صامت، دوباره حرف مصوت بود، حرف اولی را بهصورت خودش بخوانید. طبق این قانون، سیلیکون (Silicone)، باید سایلکون خوانده شود. مثل «Mining»؛ نمیگویید «مینینگ». البته لهجات هم فرق میکند. همین سنگ چخماق را در برخی از لغات دیدم سایلکس (silex) میگویند. سیلیکس نمیگویند. خود سنگ را سیلیکا میگویند. اینکه خود لهجهها فرق دارد یا ندارد، نمیدانم. علی ای حال این تذکری که دادند خیلی خوب بود.
شاگرد٢: در این مسئولیت شناسی، قبل از موضوع شناسی، نظریه جرم شناسی مهم نیست؟ مثلاً اگر هوش نباشد و ژن باشد، ژن در سویه های مختلف تغییر میکند. یک جاهایی هم از دست در میرود. یعنی طرف هم قصد نکرده است. این فرقی میکند؟ یعنی موضوع هوش مصنوعی در این بحث مسئولیت ویژگیای دارد؟
استاد: ایشان هم نکتهای را گفته بودند، الآن عرض میکنم. نکته ی دوم ایشان این بود: فرمودند که شما جلسه را مسأله محور شروع کردید. اما بناء من این نبود که مسأله محور طرح کنم. آن ده امری که گفتم بهخاطر نظم دادن به کل بحث ضمان در فقه بود. نه اینکه یک مسأله را طرح کنم. اگر مثال دزدی و ربات دزدی را زدم، آن برای تحریر محل نزاع بود. نه اینکه حکم یک مسأله را بگویم. علی ای حال نفهمیدم منظور ایشان از مسأله محور چیست. در اینجا نوشتهاند: «گسترده فقههای مضاف چقدر است؟ تا کجا میتوان بحث از فقه مضاف داشت؟ مثلاً با همان تحلیل از فقه هوش مصنوعی میتوان گفت فقه میز و فقه صندلی؟ اگر میزی شکست و شخص آسیب دید چه کسی مسئول است؟».
کلی آن را عرض میکنم تا روی آن تأمل کنید. به گمانم بسیار مهم است. در فقه سر و کار ما با احکام و حقوق است. علم حقوق بهمعنای گسترده خودش. چون به این صورت است موضوع دقیق فقه، عناصر حقوقی است.کسانی که با فقه و حقوق سر و کار دارند عنصر حقیقی را زود تشخیص میدهند. اما کسانی که ندارند مقداری سخت است. همین میز بهعنوان اینکه میز است، ربطی به حکم ندارد. اما یک ملاحظات حقوقی به آن ضمیمه میشود و میتوان از آن بحث شود. پس اگر میز، میز است ربطی به فقه ندارد و فقه با آن کاری ندارد. اما وقتی ملاحظهای شد کار دارد. میز میتواند موضوع حقوقی باشد؟ بله. اما از آن حیثی که مال است. حیثیت مالیت وقتی روی میز میآید، آن حیث مالیتش، حقوقی میشود. مثلاً یک میزی است که برای استادی است، اگر بشکند استادی او چند درجه پایین میآید. در اینجا دیگر مالیت میز میزان نیست اما باز اثر حقوقی دارد. یعنی میزی است که با شکستن آن، رتبه این استاد پایین میآید. پس هرگاه از فقه و فقه مضاف اسم بردید، بدانید که سر و کار شما با موضوعات حقوقی است. نه با اجسام و این پیکره ظاهریه. این مطلب بسیار مهمی است. چندبار دیگر هم عرض کردم. مثلاً سر بحث هوا و نور بود، راجع به عین عرض میکردم و میگفتم عین حقوقی و عین فقهی با عین در فضای دیگر فرق میکند.
نکته دوم ایشان این است: «اگر فقه بیان احکام مکلفین است، مگر هوش مصنوعی مکلف است؟». آقا هم فرمودند به جای اینکه ما از هوش شروع کنیم از جرم شروع کنیم. ببینید درست است که فقه، بیان احکام مکلفین است. میگویند موضوع آن افعال مکلفین است. ولی میتوانیم بگوییم فقه بحث از احکام شرعیه است و میدانیم که حکم دو جور است؛ حکم تکلیفی و حکم وضعی. اگر شما از یک حکم وضعی بحث کنید که از فقه بیرون نرفتهاید. بحث الآن ما هم سر ضمان است. نظم ضمانات در فقه. خُب بگویید این کار کدام مکلف است؟! ضمانات و احکام وضعیه مباشرتا به فعل مکلف مربوط نمیشود. اما حکم فعل بر آن متفرع میشود. با آن بحثهایی که در اصول بود که آیا اعتباری است یا انتزاعی.
نکته بعدی این بود که آیا هوش مصنوعی مکلف هست یا نه، فقه که از احکام مکلفین صحبت میکند بسیاری از موضوعات فقهی داریم که فقها از آنها بحث میکنند. بحث از یک موضوع فقهی، بهخاطر این است که مربوط به افعال مکلفین میشود. نمیتوانیم بگوییم بحث از آنها فقهی نیست. بحث فقهی است چون موضوع آن، موضوع فقهی است. موضوعات مستنبطه و غیر مستنبطه که انواعی داشت و سر جایش گفتیم. پس هوش مصنوعی بهعنوان موضوعی در فضای فقه است که بر آن آثاری بار میشود و باید از آن بحث کرد. و الا خودش مکلف نیست.
شاگرد: فرض کنید نظریه تامین خسارت باشد؛ مثلاً اگر جوهر نمک و وایتکش را با هم مخلوط کنند، گاز خردل میشود و طرف میمیرد. میگویند اگر کارخانه نوشت که نباید این دو مخلوط شوند، اگر شکایت کرد، کارخانه جرمی ندارد. ولی اگر ننوشت جرم دارد. چون اصلاً کاری به استناد ندارند. میگویند این جبران خسارت است. یا گارانتی. یعنی ما نباید از اینها بحث کنیم که نظریه جرم شناسی نظام شریعت ما چیست. تأمین خسارت است؟ استناد است؟ گارانتی است؟ اینها مقدم بر موضوع شناسی نیست؟
استاد: شما الآن واژههایی را به کار بردید. گفتید تأمین خسارت و استناد. جلسه قبل عرض کردم اینها از یک وادی نیستند. مانعة الجمع نیستند که بگوییم این یا آن. استناد، مبدأ این است که چطور خسارت را جبران کنیم. یعنی اول باید استناد را صاف کنیم و وقتی استناد شفاف شد و فهمیدیم که این تلف مستند به چه کسی است، حالا بگوییم کسی که تلف مستند به او است، چطور باید جبران خسارت بکند. الآن در اینجا شما میگویید «اگر نوشته و اگر ننوشته». چرا این تفصیل را میدهید؟ چون جایش بوده که بنویسد. اگر ننوشته و حال اینکه جایش بوده که بنویسد، پس کور شدن آن شخص مستند به او است. حالا که مستند است باید جبران خسارت کند. دو باب هستند.
البته من سه امر کردم؛ گفتم مثلث متلِف، تالف و تلافی. استناد، مبادی روشن کردن متلف است. میخواهد متلف را معین کند که چه کسی است. تلافی نحوه جبران کردن خسارت است، اما بعد از اینکه متلف را با استناد مشخص کردیم.
شاگرد: یعنی ممکن نیست که بگوییم یا مستند نیست یا درجه استنادش خیلی کم است، ولی باید جبران خسارت بکند.
استاد: این چیزی است که الآن میخواهم عرض کنم. ببینید در جلسه قبل عرض کردم استناد، عرضا توزیع پذیر است. مثلاً در فقه میگوییم اشتراک در قتل. اگر دو نفر با هم کسی را بکشند هر دو قصاص میشوند. چون این قتل مستند به دو نفر در عرض هم است. استناد عرضی توزیع پذیر است و باید آن را جبران کنند. اما مطلب مهم دیگری در استناد که بخش وسیعی از فقه را میگیرد، استناد طولی است. استناد طولی به چه معنا است؟ یعنی مطالبی هست که در فقه و جاهای مختلف میگوییم تسبیب و مباشرت. یعنی یک چیزهایی طی میشود تا منجر به تلف میشود. وقتی نگاه میکنید آن جزء اخیر مباشر اتلاف است اما قبلی ها هم دخالت دارند. به این تسبیب و مباشرت میگوییم. دو جای فقه که خیلی روشن از تسبیب و مباشرت بحث شده، یکی در کتاب غصب است و یکی در کتاب دیات است. ولی در جاهای دیگر هم آمده است. این تسبیب و مباشرت بود، اما مسأله اقوائیت هم مطرح است. همینی است که الآن شما گفتید. شما نمیتوانید بگویید استناد ضعیف است؛ ما استناد را دقیقاً بررسی میکنیم و بعد میگوییم مباشر اقوی است. استناد ضعیف طولی تسبیبی کنار میرود. تسبیب دارد ولی چون ضعیف است کنار میرود. اما یک جای دیگر میگوییم در اینجا سبب از مباشر اقوی است. یعنی استناد طولیای که برقرار بود، در اینجا اقوی آن است و ضمان بر او قرار میگیرد. پس مسأله استناد طولی، بحث گسترده تسبیب و مباشرت و اقوائیت را در فقه مطرح میکند.
بحث دیگری که در این ده بند عرض کردم که به گمانم حرف آخر را میزند، مسأله قرار ضمان است. قرار ضمان در فقه خیلی لطافت دارد. اینکه استقرار ضمان کجا است. در این تسبیب و مباشرت و استناد طولی وقتی یک ضمان آمد فقها از قرار ضمان بحث میکنند. در چند جای فقه هم هست. در تعاقب ایدی هست، در مقبوض به بیع فاسد، در بیع فضولی، در غصب هست. این قرار ضمان در جاهای مختلف مطرح میشود و خیلی مهم است. یعنی ظاهرش شاید به همین صورت جلوه بکند اما بعداً میخواهم از این قرار ضمان استفادههای مهمی کنم. البته هنوز نرسیده ام متون فقهی آن را بگذارم. عناوینش را باز کردهام، هر کدام به متنی برخورد کردید ارسال کنید تا همه استفاده کنند.
بنابراین استناد به نحوی طولی که مباشرت و تسبیب را میآورد، بسیار اهمیت دارد. در مانحن فیه مثال خارجی آن پزشک است. پزشک نسخه مینویسد که مریض فلان قرص را بخورد. بعد قرص را که خورد برای او ضرر دارد. یک وقتی هم هست که به مطب رفته و میگوید دهنت را باز کن، این قرص را در دهنش میگذارد یا حتی او در حال هوش و حساب هم نیست. یا جراحی است که دیگر مریض هیچ کاره است. در اینجا چه میگوییم؟ میگوییم وقتی که نسخه نوشت، تسبیب کرد اما پزشک مباشر نبود. خود این میتوانست تحقیق کند و بگوید آیا دکتر دیگری تأیید میکند یا نمیکند. مباشر خود مریض بود. ولی باید ببینیم مباشر اقوی است یا سبب. ولی خلاصه نسخه را او نوشت که سبب است و نه مباشر. اما جراح مباشر است. او خودش اقدام کرده؛ بدن او زیر دست جراح بوده و انجام داده. خطای او خطای مباشری است. همچنین عمد او. اگر دکتری بیاید و با قصد ناجور اقدام کند و کسی را…؛ اینها احکامش فرق میکند. آن احکام عمد است، آن احکام شبه عمد است و سائر مواردیکه خطای محض است. خطای محض هم در همه تسبیب و مباشرها هم میآید.
بنابراین اینکه فرمودند ما جرم را بشناسیم، جرم، متلِف است. از آن حیثی که اتلاف به آن مستند شود. پس قبل از آن باید استناد را در یک الگوریتم دقیق و منظم شفاف کنیم تا متلِف روشن شود. وقتی متلف روشن شد آن وقت جرم شکل میگیرد. حتی همه جا هم جرم نیست. در آن جا عرض کرده بودم که گاهی تلافی به کیفر است. معمولاً در موارد کیفر میگوییم جرم است. و الا در خیلی از جاهایی که مالی است و …، جرم نیست. کما اینکه در فقه کلمه جنایت هم به کار میرود اما اعم از خطا است. حتی فقها به جنایت خطأ محض هم جنایت میگویند اما از باب توسعه است. ارتکاز عرفی را ندارد.
برای اینکه مطلب سر و مثالی که هفته قبل عرض کردم، جلو برود، عرض کردم بدترین حالت حقوقی و اخلاقی را فرض گرفتم و برای آن مثالی زدم، که از نظر علمی هم جلوترین است. یعنی هوش مصنوعی را که به کار میگیرید گاهی است که محدود است و معین است؛ میگویند آموزش ماشین نظارت شده. از این جلوتر رفتیم… .
شاگرد: یادگیری با ناظر (Supervised learning).
استاد: بله، یکی هم (Unsupervised learning) است. یادگیری بدون ناظر است. مثالی که من گفتم به دومی نزدیک تر است. یعنی به جایی بردم که کاملاً هوش عمومی محقق باشد و بدون نظارت ناظر خودش چیزی را یاد میگیرد و انجام میدهد. شما کامل میبینید که این ربات خودش یاد گرفته است. اگر بگویید ممکن نیست، بحثهای علمی آن را عرض میکنم اما فعلاً بحث ما این است. الآن هم ممکن نباشد، نباشد. ما میخواهیم حکم شرعی آن را پیدا کنیم. عرض من پیدا کردن حکم شرعی این موارد، این است: شما باید در فهم قرار ضمان ذهن فقهیتان فعال شود. یعنی فقها و حقوقیا بهخوبی درک کنید که قرار ضمان به چه معنا است. چرا در تعاقب ایدی میگویید قرار ضمان بر ید اخیر است؟ مشهور همین است. اصلاً خبر هم نداشته که معامله آنها فاسد بوده. دست به دست گشته و در دست پنجمی تلف شده. چه کسی ضامن است؟ یعنی قرار ضمان بر کیست؟ بر آخری است. بر کسی است که مباشر است. خُب چرا؟! او که اصلاً خبر نداشته! باید گوش غاصب اولی را بگیرید! منافاتی ندارد. غاصب جای خودش است. گوش او را میگیریم و همه چیز را میگیریم. اما قرار ضمان بر این است. چرا؟ تحلیل دقیق فقهی-حقوقی دارد که در این بحث ما بسیار راهگشا است. ما از قرار ضمان خیلی استفاده میکنیم؛ وقتی یک رباتی بدون ناظر، یک الگوریتمی را کشف میکند و اعمال میکند و یک رفتار مجرمانه انجام میدهد، چه کسی مسئول آن است. فقه برای این حرف دارد یا ندارد؟ به گمان من بهوضوح دارد. اتفاقا چون فقه ما بعضی زوایای تراث عظیم و قدیم ریشهدار را دارد، برای این عامل های هوشمند در فقه بحثهای گستردهای هست. خیلی جالب! ولی باید مبادی آن روشن شود. یعنی مسأله قرار ضمان تحلیل شود.
سؤالی که مطرح میکنم تا با جهات مسائلی که گفته شد بیشتر آشنا شوید و هم اینکه بحث باز شود، این است: اگر فرض گرفتیم ربات خودش یاد گرفت و بعد سرقت مسلحانه انجام داد و کسی را کشت، از نظر فقهی این قتل عمد است یا نه؟ قتل عمد چیست؟ قاتل قاصد کار و نتیجه است. ربات هم دقیقاً همین کار را کرده. یاد گرفته و الآن هم میخواهد او را بکشد. چون اگر زنده باشد نمیگذارد. لذا او را میکشد و سپس ماشینش را میبرد. این قتل عمد هست یا نه؟
شاگرد: میخواهد یک عمل جوانحی است؟
شاگرد٢: در این رفتاری که براساس الگوریتم یاد گرفته دو حالت فرض میشود؛ جایی که قصد در ضمان و استناد نقش دارد. جایی که قصد نقش ندارد. درجاییکه قصد نقشی ندارد بحث روان تر است. ولی درجاییکه قصد نقشآفرینی میکند معنای قصد در هوش مصنوعی یک بحث فلسفی مهمی دارد.
استاد: من گفتم تا این بحث فلسفی مهم را بگویم. اینکه این ربات یاد گرفت و او را کشت، یعنی هم کشتن او را قاصد بود و هم به نتیجه رسید و او را کشت.
شاگرد: قاصد بدون آن را نمی فهمم.
استاد: من اول میخواهم ابتدا قصد را جا بیاندازم؛ کما اینکه کسانی که طرفدار سخت هوش مصنوعی بودند قصد را به کار میبرند و مدافع آن بودند. لذا آقای سرل اتاق چینی را آورد و گفت معنا ندارد که قصد داشته باشد. الآن میخواهم همین را مطرح کنم. ابتدا میخواهم بگویم از قصد چه چیزی را کم دارد؟ شما میگویید جوانحی است؛ آنکه دل ندارد. این ماشین دلی نداشت. وقتی شما میخواهید یک وظیفه ای را برای جرم ها یا اتلاف های عامدانه بیاورید پس باید تعریف را عوض کنید، یا قصد را معنا کنید که قصد چیست.
در جلسه قبل جملهای را خواندم که ناتمام ماند. از کتابی که در حوزه پیرامون هوش مصنوعی چاپ کردند؛ جلسه قبل نتیجهگیری آخرش را خواندم. فرمودند:
«در سال 1936 یک ریاضی دان با مداد و کاغذ تصویری کشید»، اینها را خواندم. تا آن جا که «اختراع منحصر به فرد تورینگ که امروز بهسادگی بهعنوان ماشین تورینگ شناخته میشود…»؛ چرا ماشین میگویند؟ قبل از او منطق نمادین، منطق ریاضی، جبر، حتی جبر بولی (Boolean algebra) که پایه اش قبل از منطق نمادین ریخته شده بود، اینها بود اما کافی نیست تا کامپیوتر باشند. کامپیوتر ماشین است. مثل اینکه خوارزمی الگوریتم جمع را ارائه داده بود اما چرتکه غیر از الگوریتمی است که او میگوید. آن یک چیز علمی-انتزاعی است. اما اینکه ماشینی طراحی کنید تا آن را اجراء کند مطلب دیگری است. مهم بودن کار تورینگ برای این است. یعنی چیزی را طراحی کرد که این کار را انجام بدهد. همان ماشین کلی است. خود ماشین او کلی است و علمی است ولی ماشین است. یعنی وقتی اجراء میکنید میتواند این کار را انجام بدهد. لذا در یک کلمه میگویم؛ کسانی که میدانید میبینید اشاره ناقصی به مطالب گستردهای است. کسانی هم که الآن میشنوید سرنخی است تا به دنبالش بروید و مفصل تر ببینید. این ماشین در یک کلمه این است: ماشین تورینگ یعنی شما طبق یک قواعدی نشانههایی و نمادهایی را دست کاری کنید. به همین سادگی. قاعدهای دلخواه؛ هر جوری میتوانید فرض بگیرید. خلاصه با قاعدههایی نمادهایی را دستکاری کنید. این حاصلش است. بعداً این گسترده شد و تمام پردازش های ماشینیای که امروزه هست بهدنبال همان است. یعنی اگر این نبود ساختن پردازشگر ممکن نمیشد. علمش بود؛ منطق بولین و منطق سیمبولیک و ریاضیات نمادین بود. اما این کار او بود که توانست کامپیوتر را راه بیاندازد.
فرمودند: چگونه میتوان یک الگوریتم را تعریف کرد؟ جلسه قبل عرض کردم. اینها را بهصورت خلاصه میگویم تا در ذهن شریفتان باشد. الگوریتم چیست؟ همه با الگوریتم سر و کار دارند. حتی حیوانات که کارهای ساده را انجام میدهند با آن سر و کار دارند. «الحیوان جسم نام حساس متحرک بالارادة»، حیوانی که متحرک بالارادة است سر و کارش با الگوریتم ها است. یعنی وقتی میخواهد یک کاری انجام بدهد، مرحله مرحله میکند. فقه و عبادت و هر چه بگویید به این صورت است. حتی وضو که میگیرید، مثلاً میگویید اول دستهایت را بشور، مزه مزه کن، استنشاق کن. همین که میگویید اول این کار را بکن و این ترتیب را میگویید، خودش نوعی از الگوریتم و رفتار مرتب است. حالا طبق بحثهایی که قبلاً کردیم این ترتیب حتماً وضعی و ضروری است؟ یا کمالی است؟ یعنی کمال کار این است که اینطور انجام بدهید. خیلی گسترده است. یکی از طنزهایی که به نظرم سعدی دارد به این الگوریتم مربوط میشود.
کسی آمد و گفت میخواهم دست شویی بروم، آفتابه سوراخ است. تا مشغول شوم آبش تمام میشود. چه کار کنم؟ گفت خُب اول تطهیر کن و بعد کارت را انجام بده. خُب این نمیشود. حالت طنز دارد. چون نمیشود اول تطهیر کند و بعد کارش را انجام بدهد. الگوریتم تطهیرش این است که اول کارش را انجام بدهد و بعد تطهیر کند.
بنابراین در یک کلمه الگوریتم چیست؟ تحلیل یک فرایند به قطعات مترتب. شما یک فرایندی را به چند قطعهای که پشت سر هم هستند تحلیل میبرید. این پشت سر هم بودن قوام الگوریتم است. اگر چیزهایی در عرض هم باشند الگوریتم نیست.
اسمش هم از خوارزمی گرفته شده است. خوارزمی چند رساله دارد. رسالهای در جمع و تفریق دارد. یکی در جبر و مقابله دارد. جبر و مقابله او الآن شده (algebra) که کل دنیا به علم جبر میگویند. من در برخی از جاها دیدم که گفته بودند برای ریاضیات در میان مسلمانان اتفاقی نیافتاده است. ترجمه ای کردهاند و نقل کردهاند. یا حتی مسلمانان نتوانستند پارادایم ها را تغییر بدهند. درحالیکه اینطور نیست. مستنداتی هست که کل بشر امروزه قبول دارند، اگر هر کجا بروید؛ چین و ژاپن و … قبول میکنند. مثل همین اسم الجبرا. که اسم جهانی آن است. این اسم دارد میگوید که این علم کجا بوده. شما میدانید یکی از مهمترین علوم علم جبر است. خود این اسمش میگوید قبلش نبوده، اگر بود که اسم قبلی را میآوردند. رساله الجبر و المقابله، علم جبر را تدوین کرده و کشف کرده. خُب اگر به این صورت است شما میگویید پارادایم ها را تغییر ندادند؟! وقتی عدد، شیء میشود؛ میگویند کتاب الجبر و المقابله را که به زبان اسپانیایی ترجمه کردند…؛ در خلاصة الحساب هم هست، وقتی شیخ جبر و مقابله را گفتند، گفتند شیء، مال و کعب. این تغییر پارادایم نیست؟! نه تنها تغییر پارادایم است، بلکه پدر جد تغییر پارادایم است. یعنی پارادایم این است که در یک چیزهایی که بین اهل یک فن متفاهم است، تغییراتی اعمال میشود جلو میرود. به خلاف جبر، که تولید یک علم و تدوین یک علمی است که شناخته شده نبود. کشف و پرده برداری از مهمترین علمی که تا آن زمان نبود بالاتر است یا تغییر دادن یک پارادایم؟! حالا این از تعصب است؟! تعصب نیست. یک چیزی است که هر کجا برویم کلمه الجبرا، میگوید که این علم از کجا آمده است. همه میگویند. امروز این علم از مهمترین علوم است. کسی که آن را درک کند میفهمد که چقدر مهم است. الآن اگر این علم جبر نبود، این کامپیوترها هم نبود. همه اینها مبتنیبر علم جبر است؛ کاربرد حروف به جای اعداد. کاربرد شیء و مال و کعب که اصطلاح آنها بود، به جای اعداد؛ تابع عددی و تابعی که خروجی آن غیر از آن باشد، با تابع های مطلقی که امروزه در برنامهنویسی داریم؛ آرگمان میپذیرد و خروجیای میدهد که میتواند هیچکدام عدد نباشد. همه اینها مبتنیبر این است که آن روز علم جبر را فهمیدند و پیش آوردند.
در آن جلسه هم عرض کردم، مرحوم طبرسی که همه ما ایشان را بهعنوان یک مفسر میشناسیم، معاصر ایشان میگویند: «کان یشار الیه فی علوم الحساب و الجبر و المقابله»1. یعنی جناب طبرسی در زمان خودشان مشارٌ بالبنان بودند که جبر و مقابله بلد هستند. علماء این جور بودند و کار میکردند. حالا چه شد که اینطور شد بماند. یا مثلاً اسمی از الجزری برده نمیشود! خُب چرا؟ الآن آن جا میگویند؛ در یک کتاب پنجاه اختراع مهم دارد. آن هم در قلب عراق. در زمان ناصر بالله عباسی. خود این ناصر بالله خیلی مهم است. شخصیت شناسی ناصر بالله مهم است. هر کسی فی الجمله آن را نداند خیلی در خسران است. یک خلیفه ای است که به نظرم شصت سال خلافت کرد و به تمام معنا شیعی و بلکه در باطن رافضی هم بوده. مرحوم آسید محسن در اعیان الشیعه2 میگویند ناصر بالله مدعی بود که من نماینده حضرت بقیة الله هستم. اهلسنت هم خیلی از دست او ناراحت هستند. البته در ظاهر هم از او کرامت میدیدند. مثلاً کسی نزد خلیفه میآمد و خلیفه به او میگفت وقتی از سمرقند و بخارا میآمدی در فلان منزل با فلانی چنین حرفی زدی. چنین کاری کردی. عموم مردم میگفتند این ناصر بالله جن دارد که اینطور خبر میدهد. از ذهبی دیدم؛ عدهای دیگر میگفتند او خیلی جاسوس داشت. در محفل های سراسر راهها جاسوس گذاشته بود، صحبتها را ثبت میکردند و برای خلیفه میفرستادند که وقتی به آن جا رسید خلیفه آنها را ابراز کند.
حاج آقا میفرمودند وقتی مریدهای شوقی نزد او میرفتند میگفت تو این جوری هستی، چند برادر داری و امثال اینها. یک رندی بود که فهمید شوقی این کار را میکند؛ در ماشینی که بودند کسانی هستند سر صحبت را باز میکنند و از او اطلاعات میگیرند و به دفتر شوقی میدهند و او هم تا به اتاق رفت شروع به گفتن میکرد. چند بار شنیدم که حاج آقا این را میفرمودند. این رند بود. در اتوبوس وقتی طرف نزد او آمد و از او سؤالات را کرد، به او غلط جواب داد. مثلاً پرسید اسم تو چیست، گفت زید. مثلاً پرسید در کجا به دنیا آمدی، و او اشتباه گفت. همه اینها را عمداً غلط گفت. وقتی وارد مجلس عامی که شوقی نشسته بود، شد. او صدا زد آقای زید! ولی او همینطور ساکت نشسته بود. گفت آقای زید با شما هستم! باز ساکت بود. همه به او گفتند با تو است، به او جواب بده. او هم گفت من زید نیستم. همه مردم میدانند که اسم من حسن است. یعنی آن اطلاعات غلط اینجا به دردش خورد.
منظور اینکه عدهای میگفتند ناصر بالله به این صورت است. علی ای حال چیزهای غلط خیلی است. ناجور هم خیلی است. قدرتهای… . خُب همین بحث هوش مصنوعی را ما ترویج کنیم یا نکنیم؟ خوب است یا نیست؟ مرضی شارع هست یا نه؟ اینها بحثهای مهمی است. یعنی در موضع گیری خود نسبت به آن چه کنیم؟ اینها مطالبی است که باید کمکم جلو برویم. نکتهای که برایم خیلی جالب است این است: وقتی آیه شریفه میخواهد آوردن تخت بالقیس را از سبا بفرماید، اولش میفرماید: «قالَ عِفريتٌ مِنَ الجِنِّ أَنا آتيكَ بِهِ قَبلَ أَن تَقومَ مِن مَقامِكَ»3. خُب چرا؟ چون جن است. یک امکانات بدنی، فیزیکی و خارجی دارد که انسانها ندارند. بعد وقتی قرآن کریم قدرت بالاتر را میخواهد بگوید، میگوید: «قَالَ ٱلَّذِي عِندَهُۥ عِلۡم مِّنَ ٱلۡكِتَٰبِ أَنَا۠ ءَاتِيكَ بِهِۦ قَبۡلَ أَن يَرۡتَدَّ إِلَيۡكَ طَرۡفُكَ»4. تعبیر «من الکتاب» جای خودش، من روی کلمه «علم» تأکید دارم. خیلی جالب است. قرآن میگوید آوردن تخت از قدرت اراده نبود. این هم یک گزینه است که بگوید «من کان له قوة الارادة»، مثل مرتاض هندی که در قرن بیستم معروف است. یک مرتاض هندی قطار را با اراده نگه داشت. اگر بگویند چطور نگه داشتی؟ میگوید نمیدانم. من میدانم اراده ام قوی است و وقتی به او میگویم نرو، نمیرود. کیفیتش را نمیداند. اما قرآن میگویند اینطور نیست که صرفاً یک اراده قوی دارد و نمیداند چه میشود، بلکه میگوید «علم من الکتاب». خیلی زیبا است.
اتفاقا در مراحل صنعت و تکنولوژی و قوانین علمی این سه مرحله را داریم که باید بین آنها جدا کنیم. اول شناخت قانون علمی است. دوم، تکنولوژی است؛ یعنی راه استفاده از این قانون علمی. و سوم، صنعتی کردن آن است. تکنولوژی خودش علم است و اقدام نیست. صنعت، اقدام است. مثلاً الآن بشر این را فهمیده است که در جوش هستهای خیلی انرژی آزاد میشود. این قانون را فهمیده است. یک وقتی بشر فهمید اگر یک چیزی را فشار بدهید انرژی جنبشی خود را به اطراف میدهد و داغ میشود. این قانون علمی بود که هر چه را فشار بدهید داغ میشود. بعد اگر یک دفعه باز شود سرد میشود. این را فهمید و از این قانون بهعنوان یک فن استفاده کردند و یخچال درست شد. به فکرشان آمد که خُب اگر این طوری است، یک چیزی را ابتدا فشرده میکنیم تا داغی آن بیرون برود و بعد در یک فضایی دفعتا منبسط شود که همین کانالهای یخچال میشود که زیر چهل درجه هم میبرد. تکنیک همان راه کار است. شناخت این است که چه کار کنیم. بعد از اینکه راه کار را به دست آورد، صنعت میشود. یعنی اقدام میکند و آن را میسازد.
در اینجا قرآن کریم میفرماید که او علم داشت. یعنی پشتوانه او نه صرف قوت اراده بود و نه خلقت جنی او بود، بلکه علم داشت. خُب این علم چه بود؟ قبلاً صحبتش شد. دو روایت داریم که باید روی جمع آنها خیلی فکر کنیم. یک روایت هست که حضرت فرمودند اسم اعظم الهی هفتاد و سه حرف است. روایت دیگری هم هست که حضرت فرمودند کل علوم بیست و هفت حرف است. از زمان حضرت آدم تا به حال تنها دو حرفش آمده است. بیست و پنج حرف از آن بیست و هفت حرف مانده برای زمان ظهور مبارک حضرت. آن زمان میآید. یعنی هر چه تا آن زمان بشود تازه دو حرف علم است.
خُب آن هفتاد با این بیست و هفت چه ربطی دارند؟ آیا بیست و هفت یکی از بیست و هشت کم دارد، که بیست و هشتم نگه داشته شده و مستاثر است؟ یا اینکه نه،… .
شاگرد: حروف عربی بیست و هشت حرف است. احتمالاً الف را جزء حروف حساب نمیکنند. الف در حروف نقش دیگری دارد. مثل یک در اعداد.
استاد: احتمال دیگری هم دارد… .
شاگرد: چون در تصوف یهودی حروف عبری همین شان را دارند.
استاد: آنها بیست و دو تا هستند.
شاگرد: بله، ولی همین حرف را در مورد الفبای عبری میزنند.
استاد: در اینکه الف جزء حروف بیست و هشت گانه هست، ظاهراً شواهد عدیدهای داریم که هست. یکی از مهمترین آنها این است: یکی از استخراجاتی که حضرت امیرالمؤمنین علیهالسلام از قرآن انجام دادند جدول صد در صد بود. حضرت جدول جفر جامع را استخراج کردند. که منسوب به امیرالمؤمنین است. کتابهای خطی آن هم هست. در الشامله ببینید. قوام جدول جامع به همان بیست و هشت حرف است. مرحوم ملا احمد نراقی رضواناللهعلیه در آن کتاب خیلی عالی خزائن یاد میدهند. علی ای حال در اینکه به الف نقش میدهند، و حتی نقش تکوینی میدهند مورد تردید نیست. اما اینکه در اینجا چرا حروف علم بیست و هفت تا است؟ از خصوصیاتی که بیست و هفت دارد این است که طبق قانون اساسی علم حساب، تنها از سه ساخته شده است. یعنی فقط سه به توان سه است. یعنی در بیست و هفت، از عامل های اول تنها سه هست. نه دو دخالت دارد و نه … . البته من نمیدانم. اینهایی را هم که گفتم به این خاطر بود که مثل ضبط صوتی شنیدهام تا آنها را محضر شما پس بدهم. شما هم بهدنبال آن بروید و به درستی آن برسید. من بهعنوان یک ضبط صوت تنها واسطه بودهام تا اینها را بگویم. حیف است که ذکر نکنیم.
علی ای حال پشتوانه تمام این مطالب علم است. آیه میفرماید «علم من الکتاب»، شاید حضرت قسم هم خوردند و فرمودند علم آصف نسبت به کل علم الکتاب، مثل یک قطره نسبت به دریا است. او علمی داشت و این را آورد. حالا اینکه علم او در چه اندازهای بود، بحث هایش جای خودش باشد.
خُب سؤال ما چه بود؟ آیا این ربات قصد دارد یا ندارد؟ این را عرض میکنم تا برای هفته بعد نگاه کنید. یک مسألهای مطرح شده به نام اتاق چینی. کسی که اتاق چینی را آورده مقصودش این بوده که بگوید ممکن نیست بگویید ربات قصد دارد. قصد ندارد. بی خود نگویید که قصد دارد. چون قصد مربوط به هوش قوی است و ما در فضای ماشینهای دیجیتال به قصد نمیرسیم. حالا ماشینهای نسل بعد بماند؛ بهخصوص دیجیتال محاسباتی و سیمبولک که سر و کارشان با نمادها است، نه ماشین هایی که سر و کارشان با پیوند و شبکههای عصبی است. آنها را بعداً عرض میکنم. فعلاً ببینیم اتاق چینی چیست و چگونه اثبات کرده که در وجود این ربات قصد نیست. قصد به این معنا که هوش قوی ندارد. و تنها هوش ضعیف دارد.
والحمد لله رب العالمین
کلید: هوش مصنوعی، اتاق چینی، ماشین تورینگ، الگورتیم، جایگاه علم، محدوده فقه، موضوع فقه، ضمان، قرار ضمان، اسم اعظم، هفتاد و سه حرفی بودن علم، تکنولوژی، خودرایان،
1 تاريخ بيهق/تعريب (ص: 437)
2 أعيان الشيعة، ج2، ص: 506
3 النمل ٣٩
4 همان ۴٠