چرا JSON برای مدل‌های زبانی مناسب نیست؟
مدل‌های زبانی در طول مکالمه، با انبوهی از داده‌ها مواجه می‌شوند؛ از پرامپت‌های سیستمی گرفته تا پاسخ ابزارها و زنجیره‌های استدلال. اما JSON که برای انسان و ماشین طراحی شده، ساختار مناسبی برای درک مدل‌های زبانی ندارد و باعث می‌شود مدل‌های کوچک‌تر در پردازش اطلاعات دچار خطا شوند.
LLMON چگونه ساختار را به مدل‌ها می‌آورد؟
LLMON یک زبان نشانه‌گذاری بومی مدل‌های زبانی است که به‌جای تکیه بر فرمت‌های خارجی، ساختار را مستقیماً در توکن‌های مدل تعریف می‌کند. این رویکرد باعث می‌شود مدل‌ها بهتر بتوانند بخش‌های مختلف پرامپت را تشخیص دهند و پاسخ‌های دقیق‌تری تولید کنند.
علاوه بر این، LLMON با قالب‌های چت (chat templates) ادغام شده و می‌تواند در برابر حملات تزریق پرامپت مقاومت بیشتری نشان دهد.
آموزش و قابلیت‌های مدل‌های Granite 4.1
مدل‌های Granite 4.1 در دو اندازه ۳ و ۸ میلیارد پارامتری با LLMON آموزش دیده‌اند. این آموزش شامل سناریوهای واقعی مانند ScienceWorld و استفاده از واژگان سفارشی بوده است.
- بهبود تشخیص بخش‌های مختلف پرامپت
- کاهش خطاهای مدل‌های کوچک در مکالمات طولانی
- امکان افزودن واژگان اختصاصی توسط کاربر
- افزایش مقاومت در برابر حملات تزریق پرامپت
اکنون توسعه‌دهندگان می‌توانند از این قابلیت در پروژه‌های خود استفاده کنند.
پرسش‌های پرتکرار
LLMON چه تفاوتی با JSON دارد؟
LLMON به‌جای ساختار ماشینی JSON، ساختار بومی مدل‌های زبانی را ارائه می‌دهد و باعث درک بهتر پرامپت توسط مدل می‌شود.
آیا LLMON در برابر حملات تزریق پرامپت مقاوم است؟
بله، این زبان نشانه‌گذاری با قالب‌های چت ادغام شده و مقاومت مدل را در برابر حملات تزریق پرامپت افزایش می‌دهد.
