مسیر یادگیری پردازش زبان طبیعی

پردازش زبان طبیعی چیست؟

منظور از پردازش زبان طبیعی (NLP)، همان زبانی است که ما انسان‌ها به کمک آن صحبت می‌کنیم و یا در نوشته‌هایمان از آن استفاده می‌کنیم. هدف اصلی NLP تلاش برای درک و فهم زبان انسانی است.

NLP  شامل دو مد active و passive  است:

• natural language understanding (NLU): با هدف توانایی درک عبارات و همچنین نیت و هدف هر کلمه
• natural language generation (NLG): تولید عبارات و جملات معنی‌دار

کاربردهای NLP

برخی از کاربردهای پردازش زبان طبیعی در صنعت به‌صورت زیر است:

• پزشکی: خلاصه‌سازی کلیه سوابق بیمار
• حقوق: پیداکردن پرونده‌های مشابه
• اقتصادی: بررسی اخبار مربوط به بورس و کمک به خریدوفروش بهتر سهم
• بیمه: پاسخگوی خودکار و هوشمند برای راهنمایی خرید انواع بیمه
• بازاریابی: بررسی دیدگاه کلی مشتریان نسبت به برند یک شرکت

مثال‌های کاربردی NLP

از جمله مهم‌ترین دستاوردهای NLP در زندگی روزانه‌مان:

• سرویس‌های متن محور مثل Grammarly و wordtune که باهدف ویراست و اصلاح نگارشی و گرامری متون انگلیسی (ویراست‌من یا پاک‌نویس نمونه‌های مخصوص زبان فارسی است)
• ترجمه خودکار مثل ماشین ترجمه گوگل (google translate)، مترجم Microsoft

البته کاربردهای پردازش زبان طبیعی در زندگی روزمره ما فراتر از مثال‌های ذکر شده است و هرروزه گسترده‌تر می‌شود. برای مثال هنگام جستجو در گوگل، با نوشتن اولین کلمه، برخی عبارات به شما پیشنهاد داده می‌شود، یا در تلفن هوشمند هنگام ارسال پیامک با نوشتن اولین کلمه، کلمات بعدی پیشنهاد می‌شود. میزان نفوذ NLP در زندگی روزانه همین‌قدر زیاد و فراگیر است و این نویدبخش رونق این حوزه در آینده نزدیک است.

چرا NLP یک فعالیت سخت است؟

زبان به‌صورت ذاتی ابهام زیادی دارد و برای درک درست معنی کلمات و جملات باید به محتوا (context) دقت کرد. مثلاً “بخشش لازم نیست اعدامش کنید”، درک چنین جمله‌ای حتی برای انسان‌ها هم سخت بوده؛ چون دو برداشت متفاوت وجود دارد. برداشت اول که درخواست بخشش کرده و می‌گوید اعدامش نکنید و برداشت دوم که درخواست اعدام وی را دارد. پس یک جمله می‌تواند معانی متفاوتی داشته باشد. پس یکی از دلایل سختی NLP، ابهام و پیچیدگی عبارات است. البته مواردی مثل وجود طعنه و کنایه نیز تحلیل را سخت‌تر می‌کند.

از طرفی باگذشت سالیان دراز، جملات به‌مرور کوتاه‌تر شده که درک جملات کوتاه نسبت به جملات طولانی نیز دردسرساز است. امروزه هدف ایجاد ارتباط و انتقال مفاهیم با کمترین تعداد کلمه است. چنین چیزی شاید برای انسان‌ها خوشایند باشد؛ ولی کار ماشین را سخت می‌کند. هرچقدر متن طولانی‌تر باشد، درک ماشین از متن بهتر می‌شود.

چرا الان یادگیری پردازش زبان طبیعی را شروع کنیم؟

یکی از دلایل مهم رشد NLP در دو دهه اخیر، رشد و توسعه وب است. در بستر وب، حجم زیادی داده متنی تولید شده است. دلیل دوم، رشد و توسعه CPUs/GPUs چندهسته‌ای هستند که این امکان را فراهم می‌کنند روی داده‌های حجیم الگوریتم‌های یادگیری ماشین اجرا شوند.

برخلاف گذشته که با کمبود سخت‌افزار و ابزار روبرو بودیم امروزه سخت‌افزارهای زیادی در دسترس هستند. فریم‌ورک‌ها و ابزارهای توسعه وب رشد زیادی داشته و باعث شده تعداد زیادی وب‌سایت وجود داشته باشد. هرچقدر تعداد وب‌سایت‌ها بیشتر باشد حجم داده‌ها نیز افزایش پیدا می‌کند.

یکی از دلایل دیگر رشد سریع پردازش زبان طبیعی اعتماد صنعت به هوش مصنوعی و ابزارهاست. در دهه‌های قبل، این نگرانی وجود داشت که اگر یک ابزار به کمک داده، وظایفی را بدون نظارت انسان انجام دهد، فاجعه رخ خواهد داد. ولی به‌مرور این اعتماد بیشتر شده و راحت‌تر می‌توانیم به یک ابزار خودکار اعتماد کنیم.

همهٔ این دلایل باعث شده که پردازش زبان طبیعی یکی از موضوعات داغ صنعت و دانشگاه شود و می‌توان از این فرصت طلایی برای رشد و کسب درآمد استفاده کرد.

قبل از معرفی هرگونه منبعی توضیح یک نکته به‌شدت ضروری است. پردازش زبان طبیعی از آن دست فیلدهایی است که به‌جرئت می‌توان گفت در آن به صورت ماهانه تکنولوژی جدید معرفی می‌شود. برای یقین از صحت این ادعا کافی است به 2018 و زمانی که bert معرفی شد و باعث بهبود چشمگیر نتایج taskهای مطرح پردازش زبان طبیعی شد رجوع کنیم. ولی به آنجا ختم نشد و به فاصله کمی تکنولوژی‌های جدید معرفی شدند و به‌صورت ماهانه (حتی هفتگی) شاهد نوآوری‌هایی هستیم.

با توضیح بالا، ممکن است نگران شده و از خودتان بپرسید آیا توانایی به‌روز ماندن را دارم یا خیر. نکته قابل‌توجه این است که این نگرانی مختص به پردازش زبان طبیعی نیست و کسانی که در دنیای برنامه‌نویسی هستند، کم‌وبیش درگیر این موضوع هستند. حال چه باید کرد؟

به‌عنوان یک جواب تجربی، ابزارها و تکنولوژی‌های جدید را ابتدا، به‌صورت کلی بررسی کنیم؛ یعنی لازم نیست بلافاصله چند دوره پیدا کرده و ساعت‌ها برای آموزش نحوه کار تکنولوژی جدید وقت صرف کنیم. بهتر است به‌محض معرفی یک تکنولوژی جدید، سؤالات زیر را بررسی کنیم:

• این تکنولوژی برای چه هدفی ارائه شده؟
• روش‌های قبلی چه عیبی داشته که این روش جدید معرفی شده است؟
• و این روش جدید چگونه معایب روش‌های قبلی را برطرف می‌کنند؟
•  آیا واقعاً معایب قبلی را برطرف می‌کنند؟ یا صرفاً ادعایی بدون پشتوانه است.

اگر جواب سؤال‌های بالا را بدانیم بخش مهمی از مسیر را طی کرده و در صورت نیاز بعداً به سراغ جزئیات هر روش رفته و با چند متن یا ویدئو آموزشی نحوه کار با آن را یاد می‌گیریم.

البته در محیط‌های شرکتی معمولاً در 80 درصد مواقع از معرفی تکنولوژی جدید تا استفاده از آن چند ماهی طول می‌کشد تا آن تکنولوژی در محیط‌های آزمایشی جواب خود را پس بدهد.

معرفی منابع یادگیری پردازش زبان طبیعی

در ادامه منابع مختلفی معرفی می‌شود که برخی برای افراد مبتدی و برخی برای افراد حرفه است که به دنبال یادگیری مباحث پیشرفته‌تر هستند.

منابع به سه دسته اصلی تقسیم می‌شود:

• کورس (دوره) آموزشی آنلاین و کتاب
• وبلاگ‌ها
• ابزارها

کتاب‌های حوزهٔ پردازش زبان طبیعی

برخلاف توصیه‌هایی که ممکن است در جاهای دیگر مشاهده کنید که می‌گویند تا tutorial و ویدئوهای یوتیوب وجود دارد به سراغ کتاب نرویم می‌خواهم توصیه کنم که اگر دنبال کسب مهارت حداکثری و درک عمیق نسبت به پردازش زبان طبیعی هستیم بهتر است از کتاب شروع کنیم. طبیعتاً مطالعه کتاب زمان‌برتر است و حوصله زیادی می‌خواهد؛ ولی ارزشش را دارد. مزیت اصلی کتاب، تجمیع مطالب در یکجا است برخلاف ویدئو و آموزش‌های متنی وبلاگ ها. از طرفی در بسیاری از اوقات tutorialها نگاهی نسبتاً سطحی به مطالب داشته و خیلی به مفاهیم پایه نمی‌پردازند؛ ولی کتاب‌ها معمولاً ریشه‌ای‌تر هستند و عمق یادگیری‌مان بیشتر می‌شود.

کتاب “Natural Language processing with python“ یکی از انتخاب‌های مناسبی است که کمک می‌کند با مفاهیم پایه پردازش زبان طبیعی مثل tokenization، text normalization و pos آشنا شویم. در مرحله بعدی نحوه پیاده‌سازی این مفاهیم در پایتون به‌تفصیل بررسی می‌شود. تمرکز کتاب استفاده از کتابخانه nltk است. در این کتاب خبری از مفاهیم یادگیری عمیق نبوده و تمرکز بیشتر، بر روش‌های کلاسیک NLP است. اگر ابتدای راه باشیم و بخواهیم مباحث مقدماتی در زمینه پردازش زبان طبیعی فرا گیریم این کتاب، شروع خوبی خواهد بود.

کتاب “Natural Language Processing in Action” تمرکز جدی تر روی مسائل واقعی و مثال‌های کاربردی مثل chat bot دارد. این کتاب همچنین برای پیاده‌سازی پروژه‌ها به سراغ تکنولوژی‌های جدیدتر مثل deep learning و word embedding می‌رود و سعی کرده به‌روز باشد. در این کتاب با    word2vec، CNN و RNN آشنا شده و از آن‌ها در پیاده‌سازی پروژه‌ها استفاده می‌شود. به‌طورکلی برای کسانی که می‌خواهند در سطح پیشرفته پردازش زبان طبیعی فعالیت کنند این کتاب، گزینه مناسبی است.

کتاب بعدی “Speech and Language Processing” است. این کتاب بیشتر جنبه مرجع دارد و انتظار مطالب به روز نداشته باشید. اگر به دنبال مباحث تئوری مربوط به پردازش زبان طبیعی باشیم این کتاب گزینه خوبی است زیرا هر مبحث خیلی ریز بررسی شده است. در نگارش این کتاب سعی شده از مقالات زیادی بهره گیری شود و با خواندن این کتاب چکیده ای از مقالات (قدیمی) در زمینه پردازش زبان طبیعی را مطالعه خواهیم کرد. در این کتاب خبری از کد و پیاده‌سازی پروژه نیست. این کتاب بیشتر برای دانشجویانی که قصد نوشتن مقاله یا پایان‌نامه دارند توصیه می‌شود.

کتاب یادگیری عمیق (Deep Learning book) یکی از بهترین کتاب‌هایی است که سعی کرده به زبان ساده مفاهیم یادگیری عمیق را بیان کند. اگر آشنایی چندانی با مباحث یادگیری عمیق ندارید قطعا این کتاب پیشنهاد می‌شود. همچنین این کتاب بیشتر برای کسانی پیشنهاد می‌شود که می‌خواهند به‌صورت پیشرفته روی متون کار کنند؛ ولی دانش خوبی نسبت به شبکه‌های عصبی ندارند.