کتابخانه‌ای که دنیای متن را ساده‌تر کرد

هاگینگ فیس، پلتفرم شناخته‌شده جامعه هوش مصنوعی متن‌باز، از میزبانی رسمی مدل‌های fastText در هاب خود خبر داد. این کتابخانه که در سال ۲۰۱۶ توسط Meta AI متن‌باز شد، ابزاری کارآمد برای یادگیری بازنمایی متنی و طبقه‌بندی متن به شمار می‌رود و اکنون نسخه‌های رسمی بردارهای کلمه آن برای ۱۵۷ زبان روی هاب در دسترس عموم قرار گرفته است.

fastText چگونه کار می‌کند؟

قدرت fastText در ترکیب چند ایده کلیدی است که طی دهه‌های گذشته جهت‌دهنده تحولات پردازش زبان طبیعی بوده‌اند. این کتابخانه جمله‌ها را با روش کیسه کلمات و کیسه n-گرام‌ها بازنمایی می‌کند، از اطلاعات زیرکلمه‌ای بهره می‌گیرد و با استفاده از یک بازنمایی پنهان، اطلاعات را میان کلاس‌های مختلف به اشتراک می‌گذارد.

  • نمایش جمله‌ها بر پایه کیسه کلمات و کیسه n-گرام‌ها
  • بهره‌گیری از اطلاعات زیرکلمه‌ای برای درک عمیق‌تر واژه‌ها
  • اشتراک‌گذاری اطلاعات میان کلاس‌ها با بازنمایی پنهان
  • استفاده از سافت‌مکس سلسله‌مراتبی برای افزایش سرعت محاسبات

در کنار این تکنیک‌ها، سافت‌مکس سلسله‌مراتبی با تکیه بر توزیع نامتوازن کلاس‌ها، محاسبات را به‌طور چشمگیری سریع‌تر می‌کند. مجموعه همین ویژگی‌ها fastText را به راهکاری مقیاس‌پذیر برای بازنمایی و طبقه‌بندی متن در پروژه‌های گوناگون تبدیل کرده است.

میزبانی بردارهای کلمه ۱۵۷ زبان در هاب

بر اساس اعلام رسمی، هاب هاگینگ فیس آینه‌های رسمی بردارهای کلمه fastText را برای تمامی ۱۵۷ زبان و همچنین جدیدترین مدل شناسایی زبان این پروژه میزبانی می‌کند. این مدل‌ها در سازمان Meta AI در هاب قابل جست‌وجو هستند و کاربران می‌توانند صفحه مدل هر زبان، از جمله زبان انگلیسی، را به‌راحتی پیدا کنند.

این خبر برای توسعه‌دهندگان چه معنایی دارد؟

تا پیش از این، دسترسی به مدل‌های fastText گاه نیازمند مراجعه به منابع پراکنده بود؛ اما تجمیع این منابع در هاگینگ فیس دانلود و استفاده از مدل‌ها را به چند فرمان ساده کاهش داده است. این همکاری برای پژوهشگران و توسعه‌دهندگانی که روی پردازش زبان طبیعی کار می‌کنند، دسترسی سریع‌تر و یکپارچه به ابزارهای متن‌باز را به همراه می‌آورد و گامی دیگر در مسیر مردمی‌سازی هوش مصنوعی از راه علم باز و نرم‌افزار آزاد به شمار می‌رود. هاگینگ فیس همچنین از سایر کتابخانه‌ها دعوت کرده تا برای یکپارچه‌سازی با هاب اقدام کنند؛ نشانه‌ای روشن از گسترش اکوسیستم متن‌باز هوش مصنوعی.

پرسش‌های پرتکرار

fastText چیست و چه کاربردی دارد؟

fastText کتابخانه‌ای متن‌باز از Meta AI برای یادگیری سریع بازنمایی متن و طبقه‌بندی آن است که از سال ۲۰۱۶ در پروژه‌های پردازش زبان طبیعی به کار گرفته می‌شود.

کدام مدل‌های fastText در هاگینگ فیس قابل دسترسی‌اند؟

آینه‌های رسمی بردارهای کلمه برای هر ۱۵۷ زبان به‌همراه جدیدترین مدل شناسایی زبان، در سازمان Meta AI در هاب هاگینگ فیس منتشر شده‌اند.