نتیجه این پروژه تشخیص کلمه حذف شده از یک جمله به زبان فارسی با توجه به ویژگی های ساختی زبان و تکمیل جملات ناقص بر اساس نکات دستوری و معنایی آن جمله می‌باشد.

۱. مقدمه

حتما برای شما هم پیش آمده است که کلمه­‌ای بر نوک زبانتان باشد، اما هر چه فکر می‌­کنید نمی‌­توانید آن را به خاطر بیاورید. احتمالا با دست‌­نوشته‌­های بدخط و ناخوانایی مواجه شده‌­اید و تشخیص برخی از واژه‌­ها در آن برایتان دشوار بوده است. شاید شما هم جزء آن دسته از افرادید که دوست دارید یک دستیار توانا و هوشمند در نگارش جملات زیبا کمکتان کند. شخصی را در نظر بیاورید که به دلایل مختلف ،از ناتوانی رنج می­‌برد و فشردن یک کلید کمتر هم، می‌­تواند به تسریع نگارش او کمک بزرگی بنماید.
با اندکی جست‌­وجو در می‌­یابید که چنین سیستم‌­ها و ابزارهایی برای زبان‌­های رایج دنیا ، از جمله انگلیسی، به فراوانی یافت می‌­شود. اما متاسفانه کمبود چنین دستیارهای هوشمند و پرکاربردی، در زبان فارسی بیشتر به چشم می خورد. شاید یکی از دلایل عمده آن، پیچیدگی­‌ها و چالش‌­های پیش روی پردازش زبان مادریمان باشد.
به هر حال در این مقاله قصد داریم به شرح و پیاده‌­سازی سیستمی برای پیش‌­بینی واژه‌­ها¹ دریک جمله‌­ی زبان فارسی بپردازیم.

۱.۱. چالش‌های پردازش زبان فارسی [2]

زبان فارسی از جمله زبان‌­های پیچیده در مراحل پردازشی و پیش‌­پردازشی زبان‌­های طبیعی به شمار می‌­آید. برخی از این موارد عبارتند از:

۱.۱.۱. فاصله و نیم‌­فاصله ²

یکی از مهم­‌ترین مشکلات زبان فارسی، فاصله‌­های میان واژه‌­ها است. در مواردی لازم است بجای فاصله، یک نیم‌فاصله قرار گیرد و یا برعکس؛ معمولا کاربرها در هنگام تایپ این موضوع را رعایت نمی­‌کنند. مثلا در واژه‌­ی " ناامید " ممکن است میان " نا " و " امید " فاصله یا نیم‌­فاصله قرار دهند.

۱.۱.۲. ابهام در یونیکد³

چون زبان عربی و فارسی کاراکترهای یکسان با یونیکدهای متفاوت دارند، برای هر کاراکتر چندین یونیکد مختلف وجود دارد. مثلا کاراکتر " ی " 56 کد مختلف با شکل مشابه دارد.

۱.۱.۳. کاراکترهای نامتداول⁴

برخی از کاراکترها مانند " ء " ، " ؤ " ، " أ " و" إ " ممکن است در دست‌­نوشته‌­ها هم به کار برده نشوند اما وجود آن­ها ابهام را در پردازش زبان طبیعی زیاد می­‌نماید. البته در بیشتر موارد با جایگزینی این کاراکترها با پرکاربردترین آن، معنی واژه تغییر نمی‌­کند و می‌تواند راه حل مناسبی باشد.

۱.۱.۴. آواها⁵

در فارسی شش مصوت وجود دارد که معمولا درنگارش استفاده نمی­‌شوند مگر آن که نبود آن ابهام ایجاد نماید. اما به‌هر حال در مواردی وجود این آواها در نوشتار می‌تواند مشکل‌ساز شود.

۱.۱.۵. کلمات چنداملایی

در زبان فارسی برخی از کلمات دارای چندین صورت املایی مختلف می‌باشند.

۱.۲. پیش‌پردازش زبان طبیعی⁶

قبل از شروع پردازش­‌های مورد نظر روی زبان‌­های طبیعی، لازم است تا پیش­‌پردازش‌­هایی روی آن صورت گیرد تا اطلاعات مورد نیاز از متن زبان مقصد به‌­دست آید. برای این کار روش‌­های متعددی وجود دارد که هرکدام به‌­دنبال استخراج اطلاعاتی خاص از زبان می‌­باشند. از جمله این روش‌­ها می­‌توان به نرمال‌­سازی⁷، قطعه‌بندی⁸، ریشه­‌یابی⁹، لم‌­یابی¹⁰، برچسب­‌گذاری اجزای کلام¹¹ و... اشاره نمود که در ادامه برخی از این روش­‌ها به اختصار آورده‌­شده­‌اند.

۱.۲.۱. نرمال‌­سازی یا یکسان‌­سازی

وظیفه یکسان‌ساز، یکسان‌سازی برخی نویسه‌ها و حذف حرکت‌های موجود در متن می‌باشد. این کار به سبب وجود نویسه‌های متفاوت برای یک حرف در رسم‌الخط فارسی جزء ضروریات اولیه می‌باشد. نویسه‌هایی مانند "ی"، "ک"، "الف" و ... در این قسمت یکسان‌سازی شده و حرکه‌هایی مانند انواع تنوین، همزه، تشدید و ... در این قسمت حذف می‌شوند. [2]

۱.۲.۲. قطعه­‌بندی

همانطور که از نام آن پیداست هدف از پیش­‌پردازش قطعه­‌بندی، جداسازی کاراکترهای تشکیل‌­دهنده­‌ی متن به دنباله‌­ای از کلمات می­‌باشد. ازجمله کارهایی که در این قسمت انجام می‌شود اصلاح فاصله‌­های نادرست میان کلمات مرکب و پیشوند­ها و پسوند­ها است تا واژه­‌ها، نوشتار و معنای درست خود را حفظ نمایند.

قطعه‌بندی و تشخیص صحیح مرز کلمات و عبارات در بسیاری از سیستم­‌های پردازش زبان طبیعی مانند تشخیص گروه های نحوی و پردازش آنها در سیستم‌های ترجمه ماشینی، استخراج اطلاعات، سیستم پرسش و پاسخ، تشخیص نقش های موضوعی، موتورهای جستجو و غیره نقش کلیدی ایفا می‌­کند. با توجه به این کاربردها، قطعه‌­بندی صحیح کلمات می تواند موجب بهبود در بازدهی فعالیت‌های ذکرشده شود. در زبان فارسی به علت وجود فاصله و نیم‌فاصله، عدم توجه کاربران به فاصله‌­گذاری‌­ها و نبود قواعد دقیق در نوشتن کلمات چندقسمتی، تشخیص و قطعه‌بندی کلمات چندقسمتی و مرکب با مشکلات و پیچیدگی‌های خاص خود روبه‌­رو است. [6]

۱.۲.۳. ریشه­‌یابی

در زبان فارسی واژه‌ها با توجه به نقش معنایی و نحوی خود در جمله به شکل‌های ظاهری متفاوتی حضور می‌یابند؛ این شکل ظاهری متفاوت از جهتی نشان‌دهنده
معنای متفاوت این واژه‌هاست، اما با توجه به این که تمامی آن‌ها از یک ریشه مشتق شده‌اند، از نظر معنا قرابت نسبتا زیادی خواهند داشت. ازهمین رو در بسیاری از کاربردهای پردازش زبان طبیعی و بازیابی اطلاعات، نیاز داریم تا همه مشتقات یک واژه را به ریشه‌ی آن، که همان شکل ساده‌­ی واژه می‌باشد، تبدیل نماییم. ریشه‌­یاب فارسی همانند ریشه­‌یابی در الگوریتم پورتر¹² است که اساس کار در هردو ریخت‌­شناسی¹³ زبان مقصد است و به سبب همین امر، تفاوت­‌هایی نیز میانشان است. برای مثال در الگوریتم پورتر نیاز است تا آواها در ریشه‌­یابی کلمات در نظر گرفته شود، در صورتی که در زبان فارسی این آواها نوشته نمی‌­شوند. در تصویر زیر نمونه‌­ای از یک ماشین حالت¹⁴، برای ریشه­‌یابی در زبان فارسی آورده‌­شده­‌است.[3]

۱.۳. پردازش زبان فارسی¹⁵

در این مرحله باید با توجه به اطلاعات به‌دست آمده از پیش‌­پردازش‌­ها، به پردازش زبان فارسی برای دستیابی به هدف مورد نظر، یعنی پیش‌­بینی واژه در ساخت جملات، پرداخت. شرح این موضوع و روش‌­های آن در بخش بعدی بررسی خواهد شد.

۲. کارهای مرتبط

در این قسمت، ابتدا به روش­‌های پردازش زبان فارسی به منظور ایجاد سیستمی برای پیش‌بینی واژه می‌پردازیم. سپس یکی از الگوریتم به‌­کار برده‌­شده در چنین سیستمی را شرح خواهم داد و در پایان یک ابزار مرتبط با این پروژه و پردازش زبان فارسی را معرفی می‌نمایم.

۲.۱. متودولوژی‌¹⁶­های پیش‌­بینی کلمه[1]

در این قسمت به شرح سه راهبرد اصلی که تا کنون در چنین سیستم‌­هایی به‌­کار برده‌­شده­‌است می­‌پردازیم.

۲.۱.۱. مدل­‌سازی آماری¹⁷

در مدل­‌سازی آماری، انتخاب کلمات براساس احتمال ظاهر شدن یک رشته در یک متن می­‌باشد. از این رو به چنین مدل‌­سازی، مدل‌­سازی احتمالی نیز می‌­گویند. اطلاعات آماری و جداول توزیع آن می­‌تواند برای پیش‌­بینی حروف، کلمات، عبارات و حتی جملات مورد استفاده قرار گیرد.

پیش‌­بینی حروف¹⁸
احتمالا با این تکنولوژی در تلفن‌­های همراه برای نوشتن یک پیامک و یا یک متن آشنا هستید. این تکنولوژی می­‌تواند کمک قابل توجهی در تسریع عمل نگارش در این دستگاه­‌ها نماید. از سه متودی که در این تکنولوژی رایج است می‌توان به روش پیش‌بینی‌کننده‌ی مبتنی بر واژه‌ی متن ورودی، واژه‌ی معقول و حرف معقول اشاره نمود.

پیش­‌بینی کلمات
این سیستم­‌ها سعی دارند کلمات مقصود کاربر را حدس بزنند و آن­ها را در لیستی از واژه­‌ها در اختیار او قرار دهند. در این سیستم­‌ها مدل‌­سازی آماری زبان بیشترین کاربرد را دارد. اساس چنین سیستم­‌هایی فرض مارکو¹⁹ است که می­گوید تنها n-1 کلمه‌­ی قبلی در انتخاب کلمه‌­ی بعدی تاثیر می­‌گذارند. از این رو به آن مدل n-gram مارکو نیز می‌­گویند. فرکانس واژه و فرکانس دنباله‌­ی واژه از متود­های رایج در این سیستم­‌ها هستند.

۲.۱.۲. مدل‌­سازی دانش‌­محور²⁰

سیستم­‌هایی که کمتر از مدل‌­های آماری بهره می‌­برند، معمولا خطاهای نحوی، معنایی و گرامری در پیشنهادهای‌شان وجود دارد. بدین ترتیب سرعت تایپ کاربر را پایین می‌­آورند. حذف واژه­‌های نامناسب موجب افزایش سرعت و البته اعتماد­به‌­نفس کاربر در نگارش متون می‌­شود. بنابراین می­‌توان از دانش‌­های زبانی برای بهبود لیست کلمات پیشنهادی بهره برد. این دانش‌­ها در سه زمینه‌­ی نحوی، معنایی و گرامری مورد استفاده قرار می‌­گیرد.
برای مثال در پیش­‌بینی نحوی، سیستم با استفاده از برچسب‌­های POS²¹ که برای تمامی کلمات موجود است و با استفاده از قواعد نحوی زبان، کلمات نامناسب را از لیست پیشنهادی حذف می‌­نماید. البته این ساده‌­ترین روش آن است. در روش‌­های پیچیده‌­تر سیستم با استفاده از کلمات قبلی و بعدی و برچسب­‌های POS آن­ها سعی در محاسبه‌­ی احتمال کلمات کاندید می‌­نماید.

۲.۱.۳. مدل‌­سازی اکتشافی (انطباقی)²²

برای ایجاد پیش­‌بینی‌­های دقیق­‌تر و مناسب‌­تر برای یک کاربر خاص، از روش­‌های تطبیق استفاده می‌­شود. در این متولوژی سیستم سعی دارد با هر کاربری به طور جداگانه انطباق پیدا کند و در واقع به نوعی سعی دارد با توجه سبک نگارش و کلمات استفاده شده توسط کاربر پیشنهادات خود را به نظر او نزدیک­‌تر نماید. دو روش معمول در چنین سیستم­‌هایی یادگیری کوتاه­‌مدت و یادگیری بلندمدت است.
در یادگیری کوتاه‌­مدت سیستم تنها با توجه به نوشته‌­ی جاری سعی در تطبیق خود با کاربر دارد و در این راه از متودهای مختلفی از جمله ارتقاء تاخر، هدایت موضوع و کش n-gram بهره می‌­برد.
در یادگیری بلند مدت در کنار نوشته­‌ی جاری از نوشته­‌های قبلی کاربر نیز جهت تطبیق و همگام­‌سازی سیستم استفاده می‌­شود. بنابراین با استفاده‌­ی بیشتر از سیستم درصد انطباق آن با کاربر بیشتر و بیشتر می­‌شود. از جمله متود­هایی که در تطبیق اکتشافی کاربرد دارد می‌­توان به اضافه نمودن واژه‌­ی جدید، کپیتال نمودن خودکار و ایجاد ترکیب‌­های جدید نام­ برد.

۲.۲. بررسی یک الگوریتم[4]

در این بخش الگوریتم پیشنهادی و فلوچارت آن شرح داده می ­شود.

این سیستم از چهار بخش اصلی تشکیل شده­است:
الف) اطلاعات آماری از قسمت training corpus برای الگوریتم پیش‌­بینی استخراج می‌­شود.
ب) برنامه‌­ی پیش­‌بینی‌کننده‌ای که سعی بر پیشنهاد کلمه به کاربر دارد. این بخش خود شامل دو قسمت تکمیل واژه و پیش‌­بینی واژه می‌­باشد. الگوریتم پیش‌­بینی ابتدا کلمه‌­ی ناقص را تکمیل نموده و سپس لیستی از کلمات مناسب و محتمل را پیشنهاد می‌­دهد.
ج) کاربر شبیه‌­سازی­‌شده‌ای که نوشته را وارد می‌­نماید. این کاربر واژه‌­های مناسب و زیبا را انتخاب نموده و آن را از دست نمی‌­دهد.
د) بخشی که بروزرسانی اطلاعات آماری مربوط به تاخر کلمات مورد استفاده و اضافه نمودن واژه­‌های جدید بهمراه فراوانی استفاده به عهده دارد.
برای همگام‌­سازی سیستم با کاربر دو فرآیند انجام خواهد شد. یکی استخراج تک‌­کلمه‌­ای ، دوکلمه‌­ای و سه­‌کلمه‌­ای از متن جاری و دیگری ذخیره­ و بروزرسانی اطلاعات آماری در یک فایل پویا. این درحالی است که اطلاعات اخیر مربوط به فایل استاتیکی بوده که اطلاعات آماری یادگرفته شده را در خود ذخیره می‌­نمود. در هنگام پیش­‌بینی واژه، ابتدا به سراغ فایل پویا²³ می‌­رود و وزن بیشتری به کلماتی که اخیرا مورد استفاده قرار گرفته داده می‌­شود. سپس به سراغ فایل استاتیک²⁴ رفته و از آن استفاده می‌­نماید.
به این ترتیب هرچه این سیستم بیشتر مورد استفاده قرار گیرد، بیشتر با سبک نگارش کاربر منطبق می­‌شود و در نتیجه کلمات مناسب­‌تری را پیشنهاد می‌­دهد.

۲.۳. ابزار پارسی‌پرداز قرآن‌جوی

ابزار پارسی‌پرداز توسط اعضای پروژه سامانه پرسش و پاسخ قرآنی در پژوهشکده ملی فضای مجازی (مرکز تحقیقات مخابرات)، تولید و پیاده‌سازی شده است. زبان فارسی به دلیل کمبود منابع زبانی جزو زبان‌هایی است که از نظر ابزارهای پردازش زبان با محدودیت‌های بسیاری مواجه است. اکثر تحقیقاتی که تا کنون بر روی پردازش زبان فارسی انجام شده است، بر روی پردازش یک حوزه محدود از زبان تمرکز کرده‌اند. ابزار پارسی پرداز یک ابزار جامع پردازش زبان فارسی می‌باشد که در بسیاری از پروژه‌های مرتبط با زبان‌شناسی رایانشی قابل به کارگیری خواهد بود، به نحوی که با دریافت متن خام فارسی، پردازش‌های زبان فارسی را از پایین‌ترین لایه‌ پردازش زبان طبیعی یعنی لایه لغوی آغاز کند و تا لایه‌های بالاتر مانند لایه دستور و معنا ادامه دهد. این نرم افزار قادر است ترکیبی از یکسان‌سازی، قطعه‌بندی، برچسب‌گذار جزء کلام، تحلیل‌گر ساختواژی شامل ریشه‌یاب و لم‌یاب ، تجزیه‌گر نحوی وابستگی و در نهایت برچسب‌گذار نقوش معنایی(SRL)، را اجرا کند. نتایج آزمایشات دقت و کارایی بالایی را برای این ابزار نشان داده‌اند.

۳. آزمایش‌ها

۴. کارهای آینده

۵. مراجع

[1] Masood Ghayoomi, Saeedeh Momtazi; "An Overview on the Existing Language Models for Prediction Systems as Writing Assistant Tools" ; Proceedings of the 2009 IEEE International Conference on Systems, Man, and Cybernetics; Saarland University
[2] Zahra Sarabi, Hooman Mahyar, Mojgan Farhoodi; "ParsiPardaz: Persian Language Processing Toolkit" ; Cyber Space Research Institute, Tehran,2013
[3] Kazem Taghva, Russel Beckley, Mohammad Sadeh; "A Stemming Algorithm for the Farsi Language"; Iformation Science Research Institute; Unversity of Nevada, 2003
[4] Masood Ghayoomi, Seyyed Mostafa Assi; "Word Prediction in a Running Text: A Statistical Language Modeling for the Persian Language" ; institute for Humanities and Cultural Studies, Tehran
[5] Ciprian Chelba,Tomas Mikolov, Mike Schuster, Qi Ge, Thorsten Brants, Phillipp Koehn, Tony Robinson; "One billion Word Benchmark for Measuring Progress in Statistical Language Modeling"; "GOOGLE" ; University of Edinburgh
[6]محمدمهدی میردامادی، علی محمد زارع بیدکی و مهدی رضائیان؛"قطعه بندی عبارات متون فارسی با استفاده از شبکه های عصبی"؛ نشریه مهندسی برق و مهندسی کامپیوتر ایران، ب- مهندسی کامپیوتر، سال 11 ، شماره 2، زمستان 1392