آزمایشگاه AI21 ویژگی ضد توهم را برای چت ربات های GPT ارائه می کند


پاسخ های متنی برای مشاغل طراحی شده اند، اما می توانند پیامدهای گسترده ای برای صنعت مولد هوش مصنوعی داشته باشند.

آزمایشگاه‌های AI21 اخیراً «پاسخ‌های متنی» را منتشر کرده است، یک موتور پاسخ‌گوی سؤال برای مدل‌های زبان بزرگ (LLM).

هنگامی که به یک LLM متصل می شود، موتور جدید به کاربران اجازه می دهد تا کتابخانه های داده خود را بارگذاری کنند تا خروجی های مدل را به اطلاعات خاص محدود کنند.

انتشار ChatGPT و محصولات مشابه هوش مصنوعی (AI) برای صنعت هوش مصنوعی تغییر پارادایم داشته است، اما فقدان اعتبار، پذیرش را برای بسیاری از مشاغل یک چشم انداز دشوار می کند.

طبق مطالعات، کارمندان حدود نیمی از روز کاری خود را صرف جستجوی اطلاعات می کنند. این یک فرصت بزرگ برای چت ربات هایی است که می توانند عملکردهای جستجو را انجام دهند. با این حال، بیشتر چت بات ها برای تجارت نیستند.

AI21 پاسخ‌های متنی را برای پر کردن شکاف بین ربات‌های چت طراحی‌شده برای استفاده عمومی و خدمات پاسخگویی به سؤالات در سطح سازمانی ایجاد کرد و به کاربران این امکان را می‌دهد که داده‌ها و کتابخانه‌های اسناد خود را خط لوله کنند.

بر اساس یک پست وبلاگ از AI21، پاسخ های متنی به کاربران اجازه می دهد تا پاسخ های هوش مصنوعی را بدون مدل های بازآموزی هدایت کنند، در نتیجه برخی از بزرگترین موانع پذیرش را کاهش می دهند:

بسیاری از کسب و کارها برای پذیرش مشکل دارند [AI]این به هزینه، پیچیدگی و عدم تخصص در داده‌های سازمانی مدل‌ها اشاره دارد که منجر به پاسخ‌های نادرست، «توهم‌آمیز» یا نامناسب می‌شود.»

یکی از چالش‌های آشکار در توسعه LLM‌های مفید مانند ChatGPT OpenAI یا Bard Google، آموزش عدم اعتماد به آنها است.

به طور معمول، زمانی که کاربر از یک ربات چت پرس و جو می کند، حتی اگر اطلاعات کافی در مجموعه داده برای ارائه اطلاعات واقعی وجود نداشته باشد، پاسخی را ارائه می دهد. در این موارد، LLM ها اغلب اطلاعاتی را جعل می کنند که بر اساس هیچ مبنای واقعی نیست، به جای اینکه پاسخی با اطمینان کم مانند «نمی دانم» بدهند.

محققان این خروجی ها را “توهم” می نامند زیرا ماشین ها اطلاعاتی را تولید می کنند که در مجموعه داده ها وجود ندارد، مانند افرادی که چیزهایی را می بینند که در واقع وجود ندارند.

طبق A121، پاسخ‌های متنی باید مشکل توهم را کاملاً کاهش دهد، یا با چاپ کردن اطلاعات فقط زمانی که مربوط به اسناد ارائه شده توسط کاربر باشد یا بدون خروجی.

در صنایعی مانند امور مالی و حقوقی، که دقت مهم‌تر از اتوماسیون است، معرفی سیستم‌های پست از پیش آموزش دیده (GPT) پیامدهای متفاوتی داشته است.

کارشناسان همچنان توصیه می‌کنند هنگام استفاده از سیستم‌های GPT در امور مالی احتیاط کنید، زیرا تمایل به توهم یا ادغام اطلاعات حتی زمانی که به اینترنت متصل هستند و می‌توانند به منابع متصل شوند. و در صنعت حقوقی، اکنون یک وکیل به دلیل تکیه بر خروجی ChatGPT که در طی یک دادخواست تولید می‌کند، با جریمه‌ها و مجازات‌هایی مواجه است.

به نظر می‌رسد AI21 با بارگذاری داده‌های مرتبط با سیستم‌های هوش مصنوعی و مداخله قبل از اینکه سیستم اطلاعات نادرست را توهم کند، کاهشی برای مشکل توهم نشان داده است.

این می تواند منجر به پذیرش انبوه شود، به ویژه در عرصه فین تک، جایی که موسسات مالی سنتی تمایلی به پذیرش فناوری GPT ندارند، و جوامع ارز دیجیتال و بلاک چین در بهترین حالت با استفاده از چت بات ها موفقیت های متفاوتی داشته اند.

مرتبط با: OpenAI «دستورالعمل‌های ویژه» را برای ChatGPT راه‌اندازی می‌کند تا کاربران مجبور نباشند خود را با هر درخواست تکرار کنند.




نویسنده: Tristan Greene

اشتراک گذاری و حمایت

تصویر امیر کرمی

امیر کرمی

کارشناس تولید محتوا و علاقه مند به ارز دیجیتال و دنیای فناوری 😉

دیدگاهتان را بنویسید