Artificial Intelligence - هوش مصنوعی  
انجمن را در گوگل محبوب کنيد :

بازگشت   Artificial Intelligence - هوش مصنوعی > پردازش صوت، گفتار و زبان طبيعی ! > پردازش زبان طبيعی (Natural Language Processing)


 

تبليغات سايت
Iranian Association for the Advancement of Artificial Intelligence
ارسال تاپيک جديد  پاسخ
 
LinkBack ابزارهاي تاپيک نحوه نمايش
قديمي ۰۸-۱۳-۱۳۸۸, ۰۵:۰۵ بعد از ظهر   #1 (لینک دائم)
Administrator
 
آواتار Astaraki
 
تاريخ عضويت: خرداد ۱۳۸۷
محل سكونت: تهران-کرج!
پست ها: 3,465
تشكرها: 754
16,314 تشكر در 3,125 پست
My Mood: Mehrabon
ارسال پيغام Yahoo به Astaraki
Cool مدل های زبان طبیعی (Natural Language Models)

مدل های زبان طبیعی (Natural Language Models)

ابتدا باید گفت که در هر شبیه سازی و حل مسئله، یک مدل سازی اولیه لازم است. این مدل سازی ممکن است ریاضی،‌ فیزیکی، تجسمی و یا به هر گونه دیگر متناسب با ماهیت شبیه سازی یا حل مسئله باشد. برای مثال، وقتی شما می خواهید یک پدیده فیزیکی را شبیه سازی کنید و یا یک مسئله فیزیک را حل کنید، ابتدا سعی می کنید، شرایط را در غالب یک مدل ریاضی یا تجسمی، مجرد کنید. بدین معنی که اجزای بدون اهمیت آن را کنار بگذارید و با تنها مهم ترین عوامل را در بررسی خود تأثیر دهید. بدین ترتیب، با تقریب بالایی توانسته اید نزدیک جواب را پیدا کنید. بنابراین، قدرت مدل سازی شما آن جا معلوم می شود که در عین سادگی، جامع و شامل باشد.

در این جا، به یکی از پرکاربردترین مدل ها در زمینه شبیه سازی زبان انسان اشاره می کنیم. این مدل، بر خلاف اسم آن، نه تنها در مدل سازی زبان، بلکه در بسیاری از زمینه های هوش مصنوعی، مانند پردازش متن، پردازش سیگنال، تصویر و ... راهکارهای مفیدی در اختیار می گذارد.

ابتدا ببینیم زبان طبیعی چه معنایی دارد؟ زبان طبیعی (natural language)، به زبانی می گویند که بین انسان ها رایج است و انسان ها می توانند از آن برای ارتباط با یکدیگر به صورت های نوشتن،‌ حرف زدن، خواندن و ... استفاده می شود. وقتی می گوییم مدل سازی زبان طبیعی، یعنی بیاییم و روابط و قواعد زبان را به طور هدفمند،‌ ساده کنیم تا به ابزاری برسیم که بتوان از آن برای بررسی زبان و یا استفاده یا حتی تولید آن استفاده کرد. بسیاری از این مدل ها، از یک پس زمینه ریاضی برخوردار هستند،‌مانند گراف، احتمالات و ... . این هفته، یکی از این مدل ها را معرفی می کنیم و در مورد کاربردها و خصوصیات آن بحث می کنیم.

مدل n-gram یکی از این مدل هاست. در این مدل، از آمار کلاسیک و احتمال بهره گرفته شده است. فرض کنید که یک سری اشیا یا نشانه ها و یا هر چیز دیگری داشته باشیم. هر کدام از این ها را به صورت یک رأس در گراف تصور کنید که می تواند به رأس دیگری یال جهت دار داشته باشد. این یال جهت دار، نشان دهنده یک نوع رابطه است که با توجه به مورد دلخواه ما می تواند معانی متفاوتی داشته باشد. مثلاً در مورد زبان، می تواند توالی دو کلمه باشد (اگر کلمه ای بعد از کلمه دیگری بیاید، یک یال از اولی به دومی وجود دارد). به یک توالی n تایی از این رأس ها، n-gram می گوییم (توالی های 3gram، 2gram و ... داریم). در این مدل، یک مجموعه داده های آماری بسیار بزرگ نیاز داریم که هر کدام مجموعه ای از این نشانه ها به همراه روابط بین آن ها است. برای مثال، در مورد یک زبان خاص، یک سری متن به آن زبان می باشد. حال، روابطی در این مدل تعریف می شود که می توان با استفاده از آن، درستی یک توالی خواص از این نشانه ها را بررسی کرد.

فرض کنید می خواهیم درستی عبارت a1→a2→a3→a4 را بررسی کنیم. در این مدل، احتمال درستی به صورت یک عدد تعیین می شود که هرچه داده های آماری ما بیشتر باشد، نتیجه مطلوب تر است. عبارت بالا را به اجزای زیر تقسیم می کنیم و تعداد تکرار هر کدام را در داده های آماری پیدا می کنیم.

a1→a2

a2→a3

a3→a4

a1→a2→a3

a2→a3→a4

a1→a2→a3→a4

حال احتمال های3gram، 2gram و ... به صورت زیر تعریف می شوند:

P2gram = P(a2|a1) P(a3|a2) ... : 2Gram

P3gram = P(a3|a1a2) P(a4|a2a3) ... : 3Gram

P4gram = P(a4|a1a2a3) : 4Gram

عبارت P(a3|a1a2) یعنی احتمال درستی آمدن a3 پس از توالی a1a2 که مقدار آن برابر عبارت زیر است:



در عبارت بالا، تابع C یعنی تعداد تکرار توالی مورد نظر در داده های آماری.

در حالت کلی، احتمال درستی عبارت بالا در n-gram به صورت رابطه زیر است:



در این جا، تنها یک مشکل باقی می ماند و آن هم این است که اگر تنها یکی از این احتمال ها، صفر شود، احتمال کل صفر خواهد شد. در حالی که می دانیم، داده های آماری ما محدودیت دارند و ممکن است، بالاخره، یکی از توالی ها، مخصوصاً اگر تعداد آن زیاد باشد، در داده ها وجود نداشته باشد. راه حل این است که به هر کدام، یک مقدار ثابت (مثلاً 1) اضافه کنیم. روش های زیادی برای رفع این مشکل وجود دارند که در ههه آن ها، تابع احتمال به گونه ای تعریف می شود که مقدار صفر برنگرداند.

البته باید توجه داشت که این مدل، از مدل های آماری است. مدل های آماری این ویژگی را دارند که داده های آماری آن ها باید بسیار زیاد باشد تا نتیجه قابل قبولی به دست آید. در ضمن، شما می توانید ترکیبی از این مدل با مدل های دیگر را استفاده کنید و یا حتی روابط و شکل آن را متناسب با کارتان تغییر دهید
Astaraki آفلاين است   پاسخ با نقل قول
از Astaraki تشكر كرده اند:
atarodi (۰۹-۱۱-۱۳۹۰), kabotare_azad (۰۹-۵-۱۳۹۰), samane_89 (۰۱-۴-۱۳۹۰), soheil_kissy@yahoo.com (۰۷-۲۷-۱۳۹۱)

  #ADS
نشان دهنده تبلیغات
تبليغگر
 
 
 
تاريخ عضويت: -
محل سكونت: -
سن: 2010
پست ها: -
 

نشان دهنده تبلیغات is online  
قديمي ۰۸-۲۹-۱۳۹۰, ۰۱:۳۳ بعد از ظهر   #2 (لینک دائم)
عضو فعال
 
آواتار mahdieh mohamadi
 
تاريخ عضويت: آبان ۱۳۹۰
پست ها: 9
تشكرها: 5
0 تشكر در 0 پست
پيش فرض درخواست مثال از مدل n-gram

با عرض سلام وتشکر فراوان از شما بخاطر مطلب مفیدتون میشه یک مثال کامل از مدل n-gram ممنون
mahdieh mohamadi آفلاين است   پاسخ با نقل قول
قديمي ۰۹-۳-۱۳۹۰, ۰۱:۰۱ بعد از ظهر   #3 (لینک دائم)
عضو جدید
 
آواتار mostafar
 
تاريخ عضويت: آبان ۱۳۹۰
پست ها: 6
تشكرها: 0
0 تشكر در 0 پست
پيش فرض

مرسی از این مطلب خوبتون دمتون گرم فقط اگه میشه چن تا مثال کامل از مدل n-gramورابطش با زنجیره مارکوف رو هم بگید.
mostafar آفلاين است   پاسخ با نقل قول
قديمي ۰۹-۱۱-۱۳۹۰, ۰۴:۳۸ بعد از ظهر   #4 (لینک دائم)
عضو جدید
 
آواتار atarodi
 
تاريخ عضويت: آبان ۱۳۹۰
محل سكونت: tehran
پست ها: 4
تشكرها: 1
0 تشكر در 0 پست
ارسال پيغام Yahoo به atarodi
پيش فرض

dooostan mibinam ke hame emtehane mian term darane dast be daamaaane reyhane joon shodan...
manam be nobeye khodam az in hame etelaatetoon mamnoonam,,,,
atarodi آفلاين است   پاسخ با نقل قول
قديمي ۱۱-۱۶-۱۳۹۰, ۰۹:۵۹ بعد از ظهر   #5 (لینک دائم)
عضو جدید
 
آواتار negin1234
 
تاريخ عضويت: مهر ۱۳۹۰
پست ها: 2
تشكرها: 0
0 تشكر در 0 پست
پيش فرض

سلام.خیلی ممنون.فقط اگه امکانش هست مراجع این مطالب ذکر شوند خیلی خوب میشه.باز هم ممنون.
negin1234 آفلاين است   پاسخ با نقل قول
پاسخ



كاربران در حال ديدن تاپيک: 1 (0 عضو و 1 مهمان)
 
ابزارهاي تاپيک
نحوه نمايش

قوانين ارسال
You may not post new threads
You may not post replies
You may not post attachments
You may not edit your posts

BB code is فعال
شکلکها فعال است
كد [IMG] فعال است
كدهاي HTML غير فعال است
Trackbacks are فعال
Pingbacks are فعال
Refbacks are فعال




زمان محلي شما با تنظيم GMT +3.5 هم اکنون ۰۴:۱۸ قبل از ظهر ميباشد.


Powered by vBulletin® Version 3.8.3
Copyright ©2000 - 2020, Jelsoft Enterprises Ltd.
Search Engine Friendly URLs by vBSEO 3.1.0 ©2007, Crawlability, Inc.

Teach and Learn at Hexib | Sponsored by www.Syavash.com and Product In Review

استفاده از مطالب انجمن در سایر سایت ها، تنها با ذکر انجمن هوش مصنوعي به عنوان منبع و لینک مستقیم به خود مطلب مجاز است

Inactive Reminders By Icora Web Design