هوش مصنوعی در سازمان؛ شروع عملی با دستیار اسناد و RAG
یک دستیار هوشمند سازمانی باید پاسخ را به اطلاعات مرتبط متصل کند، سطح دسترسی کاربران را رعایت کند و با پرسش‌های واقعی ارزیابی شود. معماری RAG می‌تواند نقطه شروع این مسیر باشد.
یک دستیار هوشمند سازمانی باید پاسخ را به اطلاعات مرتبط متصل کند، سطح دسترسی کاربران را رعایت کند و با پرسش‌های واقعی ارزیابی شود. معماری RAG می‌تواند نقطه شروع این مسیر باشد.
یک سؤال پرتکرار را انتخاب کنید
برای شروع، یک کاربرد محدود پیدا کنید؛ مثلاً پاسخ به پرسش‌های تیم پشتیبانی از روی راهنماهای داخلی محصول. معلوم کنید کاربران چه می‌پرسند، پاسخ معتبر در کدام سند است و چه کسی مسئول به‌روزرسانی آن سند است. هرچه محدوده اولیه روشن‌تر باشد، تشخیص پاسخ درست و خطا ساده‌تر می‌شود.
RAG چه کاری انجام می‌دهد؟
در معماری بازیابی و تولید پاسخ یا RAG، سامانه ابتدا بخش‌های مرتبط از منابع مجاز را پیدا می‌کند و سپس آن‌ها را همراه پرسش در اختیار مدل زبانی می‌گذارد. مدل با این زمینه، پاسخ را تولید می‌کند. برای مثال، در پرسش درباره شرایط پشتیبانی یک محصول، سامانه باید بند مرتبط از راهنمای همان محصول را بازیابی کند. پاسخ بهتر است ارجاع به سند داشته باشد تا کاربر بتواند منبع را بررسی کند.
کیفیت بازیابی را جداگانه بررسی کنید
ممکن است متن پاسخ روان باشد، اما سند اشتباه انتخاب شده باشد. ابتدا بررسی کنید قطعه بازیابی‌شده به پرسش مربوط است و نسخه معتبر سند را نشان می‌دهد. درباره ترکیب جست‌وجوی واژگانی و برداری با توجه به نوع داده تصمیم بگیرید. نام محصول، کد خطا یا شماره بخشنامه گاهی به تطبیق دقیق نیاز دارد؛ شباهت معنایی به‌تنهایی برای همه پرسش‌ها کافی نیست.
داده و دسترسی را از ابتدا طراحی کنید
تمام اسناد سازمان نباید در اختیار همه کاربران قرار بگیرند. مجوز دیدن سند باید در مسیر بازیابی اعمال شود تا متن غیرمجاز اصلاً وارد زمینه مدل نشود. پیش از استفاده از سرویس ابری یا مدل محلی، محل پردازش، شرایط نگهداری داده و امکانات زیرساخت را بررسی کنید. همچنین سندها و فایل‌های قدیمی، تکراری یا بدون مالک مشخص را پیش از ورود به سامانه شناسایی کنید.
پاسخ نامطمئن باید قابل تشخیص باشد
RAG احتمال خطا را از بین نمی‌برد. اگر منبع معتبر پیدا نشد، سامانه باید محدودیت را بیان کند و مسیر ارجاع به کارشناس داشته باشد. به متن اسناد بازیابی‌شده به چشم داده نگاه کنید؛ وجود دستور در یک فایل، مجوز اجرای آن نیست. در نسخه اولیه دستیار اسناد، قابلیت خواندن و پاسخ‌دادن کافی است؛ افزودن امکان تغییر داده یا انجام عملیات، به طراحی مجوز و تأیید انسانی جداگانه نیاز دارد.
پیش از گسترش، با پرسش‌های واقعی ارزیابی کنید
مجموعه‌ای از پرسش‌های واقعی بسازید و برای هرکدام منبع معتبر و پاسخ مورد انتظار را ثبت کنید. پاسخ درست، ارجاع درست، رفتار در نبود پاسخ و رعایت سطح دسترسی را جداگانه بررسی کنید. هزینه و زمان پاسخ را نیز در همان سناریوها بسنجید. هر تغییر مدل، روش جست‌وجو یا مجموعه اسناد باید با همین نمونه‌های مرجع دوباره بررسی شود.
یک شروع کوچک و قابل سنجش
از یک مجموعه محدود اسناد تأییدشده، یک گروه کاربری مشخص و پرسش‌های پرتکرار شروع کنید. هدف نسخه اول را قابل مشاهده تعریف کنید؛ مثلاً کارشناس بتواند بند درست راهنما را همراه پاسخ پیدا کند. گرین‌نت برای طراحی نمونه اولیه، اتصال به سامانه‌های موجود و ارزیابی کاربردهای هوش مصنوعی همراه شماست.