خوشه‌بندی آیات قرآن(تحقیقاتی)

تغییرات
ارزیابی شرح مسئله و کارهای مرتبط

پس مسئله خوشه‌بندی آیات قرآن را نیز می‌توان به صورت گروه‌بندی آیات قرآن به صورت خودکار در گروه آیه‌های هم‌معنی معرفی نمود. برای درک این رابطه‌ی شباهت معنایی بین آیات می‌توان از روش‌های مختلفی از جمله شباهت‌یابی بر مبنای واژه‌های آیه، واژه‌های ترجمه، تفسیر آیه و ... استفاده نمود.

در این پروژه شما باید آیات قرآن را با استفاده از ظاهر آیات به همراه ترجمه و تفسیر آنها خوشه‌بندی کنید.

۱. مقدمه

داده‫کاوی، فرایند یا پروژه‪ ای نسبتاً پیچیده برای شناسایی الگوها و مدل‫های صحیح، قابل استناد و مفید در حجم وسیعی از داده است؛ به گونه‫ای که این الگو‪ها و مدل‫ها برای انسان‫ها قابل درک باشند. خوشه بندی یکی از پرکاربردترین کارها در حوزه داده کاوی است. خوشه‌بندی به فرآیند تبدیل حجم عظیمی از داده‌ها به گروه‌های داده‌ای مشابه گفته می‌شود. به همین صورت خوشه‌بندی متون عبارت است از تبدیل حجم عظیمی از اسناد متنی به گروه‌هایی از متن‌های مشابه؛ که به هر کدام از این گروه‌ها یک خوشه گفته می‌شود.
برای خوشه‫بندی کاربرد هایی نظیر کاهش داده(فشرده و یکجاسازی اطلاعات) و تولید فرضیه(استنتاج و کشف فرضیه‫های پنهان) وجود دارد. این مهم، از لوازم اولیه پژوهش‫هاست. زمانی که محقق می خواهد در مورد موضوعی تحقیق کند، جمع‫آوری و دسته‫بندی متونی که جهت پژوهش خود به آن نیاز دارد، برای او ضروری است.
استخراج اطلاعات و دانش از قرآن مجید، کتاب مرجع بیش از ۱.۶ میلیارد مسلمان در اقصی نقاط دنیا، هم برای عموم مردم و هم برای متخصصان مطالعات اسلامی بسیار سودمند است.
خوشه‫بندی در مقابل طبقه‫بندی
در طبقه‌بندی هر داده به یک طبقه (کلاس) از پیشین مشخص شده تخصیص می‌یابد ولی در خوشه‌بندی هیچ اطلاعی از کلاسهای موجود درون داده‌ها وجود ندارد و به عبارتی خود خوشه‌ها نیز از داده‌ها استخراج می‌شوند. در شکل زیر تفاوت بین خوشه‌بندی و طبقه‌بندی بهتر نشان داده شده است.

در طبقه‌بندی با استفاده یک سری اطلاعات اولیه داده‌ها به دسته‌های معلومی نسبت داده‌ می‌شوند.

در خوشه‌بندی داده‌ها با توجه به الگوریتم انتخاب شده به خوشه‌هایی نسبت داده‌ می‌شوند.

۲. کارهای مرتبط

۲.۱. پیش‫پردازش و مراحل آن

پیش از مراحل انتخاب ویژگی و خوشه‫بندی نیازمند پردازش‫های مقدماتی بر روی متون هستیم. هدف از این پیش‫پردازش ارائه ورودی قابل فهم و قابل تفسیر برای ماشین است. این مرحله اهمیت به‫سزایی در افزایش صحّت نتایج و کاهش مرتبه زمانی دارد.

۲.۱.۱. حذف حرکه‫ها

این گام مختص زبان‫هایی مانند زبان عربی هستند که حرکات نقش مهمی ایفا می‫کنند. علی رغم اینکه امروزه در عربی همانند فارسی از ذکر حرکات صرف نظر می‫شود، با توجه به اینکه حوزه عمل پژوهش حاضر آیات مبارکه قرآن است، نیاز به حذف حرکات و اعراب داریم. این گام اگرچه از ریزبینی اعجاز‫آمیز کلام وحی می‫کاهد اما پژوهش‫گر را در مراحل ابتدایی، یاری می‫رساند.

۲.۱.۲. نشانه‫گذاری

در گام نخست، متن را به عباراتی جدا از هم تقسیم می کنیم. هر عبارت ممکن است مشتمل بر یک کلمه یا چند کلمه که یک اصطلاح را تشکیل می‫دهند باشد. نشانه‫گذاری مطلوب تأثیر شگرفی در پردازش متن دارد اگر چه ما در آزمایش پژوهش حاضر، همه عبارات را تک کلمه‫ای فرض کرده ایم.

۲.۱.۳. حذف کلمات بی‫اثر

تعداد این کلمات در زبان انگلیسی معمولا کمتر از ۶۰۰ عدد است و لیست‫های مختلف و متغیر مربوط به آن موجود است. در مورد زبان عربی، در پیاده‫سازی‫های موجود از ۲۰۰ تا ۸۰۰ عدد متغیر است. از جمله می‫توان از کلماتی نظیر «فی، من، هو، منذ، هناک، وکانت» نام برد که طی این مرحله از پیش‫پردازش متن، حذف می‫شوند.

۲.۱.۴. ریشه‫یابی

در زبان انگلیسی، معمولا کلمات هم خانواده در چندین حرف انتهایی مختلف اند و هم‫خانوادگی کلمات با تطبییق حرف به حرف ممکن است. این فرایندِ بسیار کاربردی شامل حذف پیشوندها و پسوندهای کلمات، تبدیل افعال و مشتقات به مصادر اصلی خود، حذف حروف بی‫بار از متن، تبدیل جمع ها به مفردات و مؤنت‫ها به مذکّر است. یک مثال کاربردی از آن تبدیل کلمه «استغفار» به ریشه آن یعنی «غفر» و یافتن کلمات با ریشه یکسان مانند «لیستغفر»، «یستغفرون» و ... است.

۲.۱.۵. هرس کردن

در این مرحله کلماتی که تکرار آن‫ها در سند بسیار نادر است حذف می‫کنیم. همچنین کلماتی که تکرار بسیار زیادی دارند هم حذف می‫شوند. پیش‫فرض انجام این عملیت این است که این کلمات، حتی اگر قدرت تمایز زیادی داشته باشد، کمک حال خوشه‫بندی نخواهند بود. مثلاً عبارت «فَبِأَیِّ آلَاءِ رَبِّکُمَا تُکَذِّبَانِ» در سوره مبارکه الرحمن تاثیرگذاری مطلوب بر فرایند خوشه‫بندی ندارد.

۲.۱.۶. کاهش ابعاد

ابعاد زیاد داده‫ها پیچیدگی محاسبات را سبب می‫شود. در خوشه بندی N سند ممکن است M خصوصیت مختلف استخراج شود اما اگر M >> N غیرمنطقی است. در پاسخ به این مشکل نیاز به کاهش ابعاد پیدا می‫کنیم.
این عمل یا با ناظر انجام می‫شود که به آن انتخاب خصوصیات گفته می‫شود یا بی‫ناظر که فرایند تبدیل فضای M-بعدی به K-بعدی به صورت خطی یا غیر خطی است به طوری که K < M.

۲.۱.۷. انتخاب خصوصیت

در این روش از ادبیات بهره می‫گیریم و کلماتی غیرمؤثر را کنار می‫گذاریم. طی این فرایند از قواعد و دیدگاه زبان‫شناسانه به بررسی اجزاء جمله مانند عبارت فعلی و عبارت اسمی می‫پردازیم و دیگر بخش ها که تنها فعل و نقش‫هایی مثل فاعل یا مفعول یا ... را نگه می‫داریم.
مثلا از عبارت «أَفَلَمْ یَسِیرُوا فِی الْأَرْضِ فَیَنظُرُوا کَیْفَ کَانَ عَاقِبَةُ الَّذِینَ مِن قَبْلِهِمْ دَمَّرَ اللَّهُ عَلَیْهِمْ وَ لِلْکَافِرِینَ أَمْثَالُهَا» پس از هرس کردن مثل حذف «اللَّهُ» و حذف کلمات بی‫اثر مثل «کَیْفَ» به چنین عبارتی می رسیم:«یَسِیرُوا الْأَرْضِ یَنظُرُوا عَاقِبَةُ قَبْلِهِمْ دَمَّرَ الکَافِرِینَ أَمْثَالُهَا». حال با توجه به مفاهیم ادبی می‫توانیم کلماتی چون «الْأَرْضِ» را کنار بگذاریم و خروجی‫ای پیراسته‫تر داشته باشیم: «یَسِیرُوا عَاقِبَةُ دَمَّرَ الکَافِرِینَ»

۲.۲. روش‫های خوشه‫بندی

2.2.1. K-معدل‫های پایه

ایده پایه معرفی نقاطی گرانیگاهی بر اساس فاصله‫ی تمام عناصر خوشه مورد نظر است. با هر انتصاب جدید نقاط گرانیگاه جابجا شده و بر دقت می‫افزایند. تصویر زیر چند مرحله از این الگوریتم در خوشه‫بندی فرضی را به تصویر می‫کشد.

چند مرحله از یک الگوریتم K-معدل در خوشه‫بندی

الگوریتم K-معدل‫های پایه به این شرح است: 

Initialize k centroids 
Repeat 
    For all objects in input do
        Assign each element to its closest centroid
    End for 
    For all centroids do 
        Compute the mean of the assigned points 
        This mean now becomes the new centroid 
    End for 
Until all centoids remains unchanged or other termination criteria

با توجه به الگوریتم، بیشترین زمان اجرایی برای این الگوریتم محاسبه‫ی بردار فاصله است. در هر مرحله تمام فاصله ها یک بار محاسبه می‫شود و پس از آن به بهترین نقطه ممکن منتسب می‫شود. در آخر نقاط گرانیگاه نسبت به تمامی اعضای مجموعه‫ی خود تجدید می‫شوند. پیچیدگی زمانی این الگوریتم O(iknd( خواهد بود که i تعداد تکرار و k تعداد گرانیگاه‫هاست. این پیچیدگی در عمل برای خوشه‫بندی اسناد بسیار سبک است چرا که بردارها بسیار تنک هستند و ابعاد هر بردار بسیار کمتر از d خواهد بود.
اگر انتساب شعاع محور باشد، این الگوریتم خوشه‫هایی کروی تشکیل می‫دهد. در این روش در خوشه‫هایی که شکل کروی ندارند موفق نیست.
این الگوریتم هیچ تضمینی برای خوشه‫بندی بهینه ندارد اما مقدار دهی اولیه می‫تواند بهینگی محلی بدهد. به همین منظور بعضا پیشنهاد می‫شود که یک خوشه‫بندی سلسله‫مراتبی با تعداد محدودی از ورودی ها انجام شود و نقاط مرکزی خوشه‫های به‫دست‫آمده گرانیگاه‫های پایه الگوریتم اصلی در نظر گرفته شوند.

2.2.2. K-معدل‫های میانی

شاخه ای از الگوریتم k-معدل است به این صورت که ابتدا همه‫ی داده‫ها را در یک خوشه فرض می‫کند سپس شروع به تقسیم کردن آن می‫کند. در هر مرحله بد‫ترین خوشه انتخاب شده و به دو قسمت تقسیم می‫شود.
الگوریتم k-معدل‫های میانی

Repeat 
    pick a cluster to split according to a criterion
        for I = 1 to N do
                Bisect into two sub-cluster using k-means for k=2
                Keep track of best candidate
        End for

پیچیدگی این الگوریتم در بدترین حالت O(nk( است اما در عمل معمولا الگوریتم کمی سریع‫تر از حالت عادی اجرا می‫شود

مشکلات روش خوشه‌بندی K-Means

علی‌رغم اینکه خاتمه‌پذیری الگوریتم بالا تضمین شده است ولی جواب نهایی آن واحد نبوده و همواره جوابی بهینه نمی‌باشد. به طور کلی روش ساده بالا دارای مشکلات زیر است.

  • جواب نهایی به انتخاب خوشه‌های اولیه وابستگی دارد.

  • روالی مشخص برای محاسبة اولیة مراکز خوشه‌ها وجود ندارد.

  • اگر در تکراری از الگوریتم تعداد داده‌های متعلق به خوشه‌ای صفر شد راهی برای تغییر و بهبود ادامة روش وجود ندارد.

  • در این روش فرض شده است که تعداد خوشه‌ها از ابتدا مشخص است. اما معمولا در کاربردهای زیادی تعداد خوشه‌ها مشخص نمی‌باشد.

۲.۲.۳. خوشه‫بندی متراکم سلسله‫مراتبی

هر عنصر را به عنوان یک شیء فرض می‫کند و طی چند ادغام به یک ریشه می‫رسد. در این مسیر، داده‫ها درختی را تشکیل می‫دهند. برای ادغام نیازمند محاسبه‫ی مشابهت هستیم. برای دوری از پیچیدگی O(n^2( عوض محاسبه مشابهت در هر مرحله، شباهت ها را در هر دور به یاد می‫سپاریم. 

Compute the similarity matrix
Repeat
    Find two best candidates according to criterion
    Save these two in the hierarchy as sub clusters
    Insert new cluster containing elements of both clusters
    Remove the old two from the list of active clusters
Until k or one cluster remains

خوشه بندی پیوند یگانه ارزان‫ترین معیار ادغام است. به صورت محلی و با در نظر گرفتن نزدیک ترین نقاط بین خوشه‫ها، میزان مشابهت آن‫ها مشخص می‫شود. زمان کل خوشه‫بندی پیوند یگانه به وسیله‫ی ماتریس مشابهت از O(n^2) است.
خوشه بندی پیوند کامل حریصانه به دنبال کمینه کردن قطر خوشه‫هاست. در نتیجه دور‫ترین نقاط هر خوشه بیشتر مورد توجه باشند. این قاعده در نهایت باعث مقداری محاسبات اضافی در فاز ادغام می‫شود و پیچیدگی زمانی O(n^2logn) را منجر می‫شود.
برگ برنده‫ی این الگوریتم قطعی بودن آن است بطوری که با ورودی یکسان همیشه خروجی یکسان بازگردانده خواهد شد.

نمونه خوشه‫بندی دادگان پرتقال توسط الگوریتم متراکم سلسله‫مراتبی

روشهای خوشه‌بندی بر اساس ساختار سلسله مراتبی تولیدی توسط آنها معمولا به دو دستة زیر تقسیم می‌شوند:

  • بالا به پایین (Top-Down) یا تقسیم کننده (Divisive)
    در این روش ابتدا تمام داده‌ها به عنوان یک خوشه در نظر گرفته می‌شوند و سپس در طی یک فرایند تکراری در هر مرحله داده‌هایی شباهت کمتری به هم دارند به خوشه‌های مجزایی شکسته می‌شوند و این روال تا رسیدن به خوشه‌هایی که دارای یک عضو هستند ادامه پیدا می‌کند.

  • پایین به بالا (Bottom-Up) یا متراکم شونده (Agglomerative)
    در این روش ابتدا هر داده‌ها به عنوان خوشه‌ای مجزا در نظر گرفته می‌شود و در طی فرایندی تکراری در هر مرحله خوشه‌هایی که شباهت بیشتری با یکدیگر با یکدیگر ترکیب می‌شوند تا در نهایت یک خوشه و یا تعداد مشخصی خوشه حاصل شود. از انواع الگوریتمهای خوشه‌بندی سلسله مراتبی متراکم شونده رایج می‌توان از الگوریتمهای Single-Link، Average-Link و Complete-Linkنام برد. تفاوت اصلی در بین تمام این روشها به نحوة محاسبة شباهت بین خوشه‌ها مربوط می‌شود.

۲.۳. اندازه‌گیری اعتبار خوشه‫ها

نتایج حاصل از اعمال الگوریتمهای خوشه‌بندی روی یک مجموعه داده با توجه به انتخاب‌های پارامترهای الگوریتمها می‌تواند بسیار متفاوت از یکدیگر باشد. هدف از اعتبارسنجی خوشه‌ها یافتن خوشه‌هایی است که بهترین تناسب را با داده‌های مورد نظر داشته باشند. دو معیارِ پایة اندازه‌گیری پیشنهاد شده برای ارزیابی و انتخاب خوشه‌های بهینه عبارتند از:

  • تراکم (Compactness)
    داده‌های متعلق به یک خوشه‌ بایستی تا حد ممکن به یکدیگر نزدیک باشند. معیار رایج برای تعیین میزان تراکم داده‌ها واریانس داده‌ها است.

  • جدایی (Separation)
    خوشه‌ها خود بایستی به اندازه کافی از یکدیگر جدا باشند. سه راه برای سنجش میزان جدایی خوشه‌ها مورد استفاده قرار می‌گیرد که عبارتند از:

  • فاصلة بین نزدیک‌ترین داده‌ها از دو خوشه

  • فاصلة بین دور‌ترین داده‌ها از دو خوشه

  • فاصلة بین مراکزخوشه‌ها

همچنین روش‌های ارزیابی خوشه‌های حاصل از خوشه‌بندی را به صورت سه دسته تقسیم می‌کنند که عبارتند از:

  • معیارهای خروجی (External Criteria)

  • معیارهای درونی (Internal Criteria)

  • معیارهای نسبی (Relative Criteria)

هم معیارهای خروجی و هم معیارهای درونی بر مبنای روش‌های آماری عمل می‌کنند و پیچیدگی محاسباتی بالایی را نیز دارا هستند. معیارهای خروجی عمل ارزیابی خوشه‌ها را با استفاده از بینش خاص کاربران انجام می‌دهند. معیارهای درونی عمل ارزیابی خوشه‌ها را با استفاده از مقادیری که از خوشه‌ها و نمای آنها محاسبه می‌شود، انجام می‌دهند.
پایه معیارهای نسبی، مقایسة بین شما‌های خوشه‌بندی (الگوریم به علاوة پارامترهای آن) مختلف است. یک و یا چندین روش مختلف خوشه‌بندی چندین بار با پارامترهای مختلف روی یک مجموعة داده اجرا می‌شوند و بهترین شمای خوشه‌بندی از بین تمام شماها انتخاب می‌شود. در این روش مبنای مقایسه، شاخص‌های اعتبارسنجی (Validity-Index) هستند. شاخص‌های ارزیابی بسیار متنوعی پیشنهاد شده‌اند که به معرفی آن‫ها می‫پردازیم اما ارائه معادلات ریاضی از مجال پژوهش حاضر بیرون است.

۲.۳.۱. شاخص دون (Dunn Index)

اگر مجموعة داده‌ای، دارای خوشه‌هایی جداپذیر باشد، انتظار می‫رود فاصلهٔ بین خوشه‌ها زیاد و قطر خوشه‌های (Diameter) آن کوچک باشد. در نتیجه مقداری بزرگ‌تر برای رابطهٔ این معیار مقداری مطلوب‌تر است.

معایب

این معیار معایبی دارد که عبارتند از:

  • محاسبهٔ زمان‫بر

  • حساسیت به نویز (قطر خوشه‌ها در صورت وجود یک دادة نویزی می‫تواند بسیار تغییر کند.)

۲.۳.۲. شاخص دیویس بولدین (Davies Bouldin Index)

این شاخص در واقع میانگین شباهت بین هر خوشه با شبیه‌ترین خوشهٔ به آن را محاسبه می‫کند. می‫توان دریافت که هرچه مقدار این شاخص بیشتر باشد، خوشه‌های بهتری تولید شده است.

۲.۳.۳. شاخص‌های اعتبارسنجی ریشة میانگین مربع انحراف از معیار (RMSSDT)

هرچند این شاخص‌ها معمولا در اعتبار‌سنجی الگوریتم‌های سلسله‌ مراتبی مورد استفاده قرار می‫گیرند ولی قابلیت ارزیابی نتایج سایر تکنیک‌های خوشه‌بندی را نیز دارا می‌باشند. در شاخص اعتبار‌سنجی RMSSDT (root – mean– square standard deviation) از واریانس خوشه‌ها استفاده می‫شود. هرچه مقدار آن کمتر باشد نشان‌ دهندهٔ خوشه‌بندی بهتر داده‌ها است.

۲.۳.۴. شاخص اعتبار‌سنجی SD

اساس شاخص اعتبارسنجی SD، میاگین پراکندگی (Average Scattering) و جدایی کلی (Total Separation) خوشه‌ها است. پراکندگی از طریق محاسبهٔ واریانس خوشه‌ها و واریانس کل محموعهٔ داده‌ها بدست می‫آید. با توجه به اینکه این معیار هم از میزان هم‫گنی داده‌ها و هم از میزان تراکم خوشه‌ها بهره می‫برد معیار مناسبی برای ارزیابی خوشه‌ها محسوب می‌شود. مقدار محاسبه شده توسط این معیار هرچه کوچک‌تر باشد به معنی خوشه‌بندی بهتر است.

۲.۳.۵. شاخص اعتبارسنجی S_Dbw

همانند شاخص SD این معیار هم بر اساس تراکم درون‌خوشه‌ای و میزان جدایی خوشه‌ها اما در این شاخص سعی شده تا چگالی خوشه‌ها نیز دخیل شود. به شکل رسمی می‌توان گفت که شاخص S_Dbw از واریانس بین خوشه‌ای و واریانس درون خوشه‌ای استفاده می‌کند.
در شاخص S_Dbw سعی شده هر دو معیار خوبی خوشه‌ها با هم ترکیب شوند و تخمینی دقیق از خوشه‌های حاصل بدست آید. مقدار کم برای این شاخص به معنی خوشه‌بندی بهتر است.

۲.۴. آزمایش و مقایسه کارایی شاخص‌های اعتبارسنجی

در اینجا با آزمایش سعی می‌شود کارایی 4 شاخص از شاخص‌های خوشه‌بندی بالا با هم مقایسه شوند. برای این منطور از سه دسته داده با ویژگی‌های متفاوت استفاده می‌شود.

  • خوشه‌های کاملا جدا: داده‌های متعلق به هر خوشه در کاملا به هم نزدیک هستند.

    خوشه‫های کاملا جدا

    طبق آزمایش‫ها چهار شاخص اعتبارسنجی دون، دیویس بلودین، SD و D_Dbw نتایج صحیح ارائه می‫دهند.

  • خوشه‌های حلقه‌ای شکل: خوشه‌ای که خوشه‌ای دیگر درون آن قرار دارد.

    خوشه‫های حلقوی‫شکل

    طبق آزمایش‫ها تنها با شاخص دون و S_Dbw مقادیر صحیحی به‫دست می‫آوریم.

  • خوشه‌های با شکل دلخواه: دو خوشه با شکلی دلخواه.

    خوشه‫های با شکل دلخواه

    طبق آزمایش‫ها تنها شاخص دون مقادیر صحیحی را محاسبه می‫کند.

۳. آزمایش‌ها

۳.۱. پیش‫پردازش

۳.۱.۱. حذف اعراب

با استفاده از پروژه متن باز ورودی و خروجی مدنظر را می‫بینیم:
ورودی: قُلْ إِنَّما أَنَا بَشَر مِثْلُکُمْ یوحی إلَی أَنَّما إلهُکُمْ إِله واحِد فَمَن کانَ یرْجُوا لِقاءَ رَبِّهِ فَلْیعْمَلْ عَمَلاً صالِحاً وَ لا یشْرِکْ بِعِبادةِ رَبِّهِ أَحَدا
خروجی: قل إنما أنا بشر مثلکم یوحی إلی أنما إلهکم إله واحد فمن کان یرجوا لقاء ربه فلیعمل عملا صالحا و لا یشرک بعبادة ربه أحدا

۴. کارهای آینده

۴.۱. دقت‫افزایی در مرحله پیش‫پردازش

شاید مهم‫ترین گام پژوهش‫گران آتی افزایش دقت در مرحله پیش‫پردازش باشد. در این مرحله آن‫گونه که در مقدمه بیان شد، از بسیاری از ظرایف زبان فصیح عربی چشم‫پوشی شد؛ ظرایفی که تفاوت‫هایی عمیق در فهم قرآن مجید و خوشه‫بندی دقیق آن را سبب می‫شوند.

۴.۱.۱. حذف اعراب

اعراب و حرکات حروف در زبان عربی تأثیر قابل‫توجهی دارند، علی الخصوص کلام وحی که جزئیات مهمی را دارد.

۴.۱.۲. نشانه‫گذاری

هر عبارت در نشانه‫گذاری این پژوهش یک کلمه‫ای فرض شد. دخیل کردن اصطلاحات و عبارات چند کلمه‫ای دقت ما را به‫خوبی می‫افزاید. ناکارآمدی بیشتر نشانه‫گذاری در زبان عربی، خروجی کاملا یکسان برای الگوریتم‫های متنوع نشانه‫گذاری است بطوری که از پنج روش آن شامل TreebankWordTokenizer، WordPunctTokenizer، PunktWordTokenizer WhitespaceTokenizer و pattern خروجی یکسان حاصل می‫شود.[2] پس نیاز به نشانه‫گذاری تخصصی متناسب با ویژگی‫های زبان عربی داریم.

فراهم‫آوردن داده‫های آموزشی

با طراحی یک سیستم خبره و در نظر گرفتن قوانین با هم‫آیی کلمات می‫توان متون مشابه را به صورت ماشینی شناسایی کرد. در ادامه این پژوهش می‫توان با ضمیمه نمودن بخش قواعد معنوی و بانک‫های مترادفات و مشترکات بر صحّت پاسخ ها افزود.

۴.۱.۳. حذف کلمات بی‫اثر

لیست‫های موجود کلمات بی‫اثر در زبان عربی با بیان بلیغ قرآنی بهینه نیستند. مثلا کلماتی نظیر «الیوم، دون ،نفسه» جزو کلمات محذوف اند در حالی که در معنی تأثیر قابل توجه دارند.

۴.۱.۴. ریشه‫یابی

ماهیت و روش ریشه‫یابی در زبان عربی با زبان انگلیسی بسیار متفاوت است. با دست‫یابی به الگوریتمی بهینه و کارا در این زمینه نه تنها موضوع پژوهش ما، بلکه دیگر استفاده‫های داده‫کاوی در علوم اسلامی نیز جهش خواهد داشت. مقاله «بهبود فرایند ریشه‫یابی عربی با استفاده از منابع و ابزارهای محک‫زنی» که در بخش پیوندهای مفید ذکر شده است بهره برد.

۴.۲. امنیت حداکثری در کاهش ابعاد

کاهش ابعاد علی الخصوص هنگامی که تفاسیر و روایات هم مورد پردازش قرار می‫گیرند الزامی است. کاهش بعد مناسب با رجوع به مقاله «راهی کارا برای روش انتخاب خصوصیت برای طبقه‫بندی متن عربی» که در مراجع ذکر شده است راه‫گشاست.

۴.۲.۱. انتخاب خصوصیت

مثالی که از انتخاب خصوصیت در بخش مقدمه ذکر شد حالت ایده‫آل بود. اما در حقیقت روش‫های فعلی از چنین هوشمندی‫ای بهره‫مند نیستند و نیاز است تحقیقی خاص منحصرا ناظر بر این بخش صورت پذیرد.

۴.۳. وسعت‫بخشیدن به دامنه داده‫ها

علاوه بر این پردازش متون روایی و تفاسیر و دخیل کردن همه نتایج، ما را در رهیابی به تصویری یکپارچه از قرآن یاری‫گر است.

۴.۴. پیاده‫سازی الگوریتم امید ریاضی بیشینه

تصویر زیر که مقایسه بین k-معدل‫های میانگین و امید ریاضی بیشینه است گویای برتری و هوشمندی بیشتر این الگوریتم است. پیاده‫سازی و بهره‫گیری از این الگوریتم در خوشه بندی اثر بهبودی قابل توجهی خواهد داشت.

مقایسه الگوریتم k-معدل‫های میانگین و امید ریاضی بیشینه

۵. پاورقی

[2] ر.ک: Word Tokenization with Python NLTK

۶. مراجع

۷. پیوندهای مفید

محسن ایمانی

شما آن‌چه را که در این فاز انتظار می‌رفت، انجام داده‌اید، به خوبی به چالش‌های پیش‌پردازشی با رویکرد ویژه به قرآن و زبان عربی پرداختید، روش‌های اصلی خوشه‌بندی و ارزیابی خوشه‌ها را بیان نمودید. تا حدی وارد پیاده‌سازی شده‌اید و مسیری هم برای آینده پروژه ترسیم نموده‌اید.

تنها مشکل کار شما این است که ارجاعات را در متن ذکر نکرده‌اید. باید مراجع خود را شماره‌گذاری کنید و با ذکر شماره ارجاعات در متن، مشخص کنید که کدام روش‌ها را از کدام‌یک از مراجع آورده‌اید تا مخاطب در صورت نیاز بتواند برای بررسی بیشتر به مرجع اصلی مراجعه نماید. در حال حاضر هیچ تفاوتی میان مراجع و پیوندهای مفید شما وجود ندارد؛ در صورتی که مراجع باید ارجاعشان در متن مشخص باشد و پیوندهای مفید، ارتباط مستقیمی به متن شما ندارند و تنها پیوندهایی هستند که خواننده برای مطالعه بیشتر می‌تواند از آن‌ها استفاده کند.

یکی از کارهای اصلی آینده شما همان‌طور که ذکر نموده‌اید، وسعت‌بخشی به دامنه داده‌هاست. بهتر بود در این فاز بررسی می‌‌کردید که کدام مجموعه داده‌های مبتنی بر آیات قرآن که قابلیت استفاده به عنوان متادیتا در خوشه‌بندی آیات را دارند موجود می‌باشد. در فاز آینده پس از آزمایش خوشه‌بندی روی ظاهر آیات قرآن یکی از کارهای اصلی شما همین خواهد بود و باید به دنبال مجموعه داده مناسبی نظیر متن تفاسیر و ... باشید.