تبدیل متن محاوره ای به رسمی فارسی با استفاده از شبکه های عصبی مبتنی بر مبدل (مقاله علمی وزارت علوم)
درجه علمی: نشریه علمی (وزارت علوم)
آرشیو
چکیده
در دنیای امروز شاهد رشد تولید داده های مختلف از جمله داده های متنی هستیم و همواره حجم زیادی از داده های متنی به روش های مختلف به خصوص در شبکه های اجتماعی تولید می شود. ولی این متن ها غالباً غیررسمی و دارای خطاهای بسیاری هستند که باعث می شود امکان استفاده از آن ها در بسیاری از پردازش های زبان طبیعی وجود نداشته باشد. در این مقاله به تبدیل متن محاوره ای به متن رسمی در زبان فارسی پرداخته شده است. برای این منظور دو مدل مختلف براساس مدل کدگذار-کدگشا و مدل مبدل که از به روزترین مدل های دنباله-به-دنباله هستند پیاده سازی شده اند. در کنار استفاده از مدل های شبکه عصبی، مجموعه ای از قواعد در تبدیل متن محاوره ای به رسمی فراهم شده اند و تأثیر استفاده از این قواعد در کنار هر یک از دو مدل بررسی شده است. در انتها نتایج مدل های گفته شده مقایسه شده اند که در بهترین حالت این نتایج به دست آمده به دقت ۷۰.۷ درصد در معیار بلوی ارتقاء یافته رسیده اند.Using Transformer-based Neural Models for Converting Informal to Formal Text in Persian
تبلیغات
