ارائه مدل پیش‌بینی با یادگیری ماشین توسط دانشگاه برکلی

زمان تخمینی مطالعه: 5 دقیقه

در چشم‌انداز در حال تحول سیستم‌های پیش‌بینی‌کننده که بخش مهمی از هوش مصنوعی هستند، هنر و علم پیش‌بینی به‌عنوان ابزارهای محوری برای تصمیم‌گیری در بخش‌های مختلف، از سیاست‌های دولتی گرفته تا استراتژی شرکت‌ها، قرار دارند. پیش‌بینی به‌شدت بر روش‌های آماری تکیه کرده است، که بر اساس داده‌های فراوان و تغییرات حداقلی در الگوهای زیربنایی رشد می‌کند. با این حال، پیش‌بینی قضاوتی(judgmental forecasting) رویکردی متفاوت را معرفی کرده است، که از شهود انسانی، دانش حوزه و منابع اطلاعاتی متنوع برای پیش‌بینی رویدادهای آینده تحت کمبود و عدم قطعیت داده استفاده می‌کند. چالش پیش‌بینی در پیچیدگی ذاتی آن و محدودیت‌های روش‌شناسی موجود است. مدل‌های آماری، در حالی که قدرتمند هستند، اغلب نیاز به سناریوهایی دارند که با کمبود داده یا تغییرات قابل توجه در توزیع داده‌ها مشخص می‌شوند. اما پیش‌بینی قضاوتی، عنصر انسانی را با تمام بینش‌ها و سوگیری‌هایش وارد معادله می‌کند. این روش بر توانایی پیش‌بینی‌کنندگان برای ترکیب اطلاعات از منابع مختلف، از جمله داده‌های تاریخی و رویدادهای جاری، برای پیش‌بینی‌های آگاهانه درباره نتایج آینده متکی است. در این مطلب مدل پیش‌بینی با یادگیری ماشین جدید معرفی می‌شود که مبتنی بر LM ها است.

یک تیم تحقیقاتی از دانشگاه برکلی کالیفرنیا خط لوله LM جدیدی را توسعه داده‌اند، یک سیستم مدل زبانی تقویت شده(retrieval-augmented language model) با بازیابی که به طور خاص برای پیش‌بینی طراحی شده است. این سیستم اجزای حیاتی فرآیند پیش‌بینی را خودکار می‌کند، از جمله بازیابی اطلاعات مرتبط از منابع خبری، استدلال بر اساس داده‌های جمع‌آوری‌شده، و تجمیع پیش‌بینی‌های فردی در یک پیش‌بینی جامع. هسته اصلی این نوآوری در توانایی آن برای مهار داده‌های مقیاس وب و قابلیت تجزیه سریع LM های نهفته است، که جایگزینی مقیاس پذیر و کارآمد برای روش‌های پیش بینی سنتی ارائه را می‌دهد.

این سیستم رویکردهای مختلفی را برای دستیابی به پوشش جامع در پیش بینی با تجزیه سؤالات به سؤالات فرعی و استفاده از سؤالات جستجو ترکیب می‌کند. مقالات از APIهای خبری بازیابی شده و بر اساس امتیازات مرتبط ارائه شده توسط GPT-3.5-Turbo فیلتر می‌شوند. سپس مقالات به گونه‌ای خلاصه می‌شوند که در پنجره زمینه(Context Window) مدل زبان قرار گیرند. استدلال یکی از جنبه‌های مهم پیش‌بینی دقیق است و سیستم از دستورات صفحه اسکرچ برای هدایت فرآیند استدلال مدل استفاده می‌کند. مدل پیش‌بینی با یادگیری ماشین جدید این پیش‌بینی‌ها را از مدل‌های مختلف برای بهبود دقت جمع‌آوری می‌کند، و سیستم بازیابی و استدلال از طریق یک جابجایی فراپارامتر، از جمله بهینه‌سازی اعلان‌ها، خلاصه‌های مقاله، و روش‌های ترکیبی بهینه‌سازی می‌شود. این فرآیند پیچیده به یک رویکرد آگاهانه تر و ظریف‌تر برای پیش بینی، استفاده از دانش گسترده مدل‌های زبان و قابلیت‌های پردازش سریع اجازه می‌دهد.

محققان به نتایج به دست آمده از مطالعه بسیار خوشبین هستند. در یک مجموعه آزمایشی جامع، این سیستم به میانگین امتیاز Brier برابر با 0.179 دست یافت که نزدیک به نمره کل انسانی 0.149 است و نشان می‌دهد که سیستم پیش‌بینی مبتنی بر مدل زبان تقریباً دقیق بوده و در برخی موارد از دقت پیش‌بینی‌کنندگان انسانی نیز فراتر می‌رود. این یافته پتانسیل قابل توجهی را برای مدل‌های زبان برای کمک به پیش‌بینی و ارائه پیش‌بینی‌های دقیق در مقیاس بزرگ و تسهیل فرآیندهای تصمیم‌گیری آگاهانه‌تر نشان می‌دهد.

در نتیجه، این مطالعه یک مورد قانع‌کننده برای ادغام مدل‌های زبان در حوزه پیش‌بینی ارائه می‌کند و پتانسیل این ابزارها را برای افزایش دقت و کارایی پیش‌بینی نشان می‌دهد. باید توجه کرد که رسیدن از تحقیق به کاربرد عملی در دنیای واقعی دارای چالش‌ها و ملاحظات فراوانی است، اما کار بنیادی که توسط تیم UC Berkeley ایجاد شده است، گام مهمی به جلو در تلاش‌های جاری برای روش‌های پیش‌بینی قابل‌اعتمادتر و قابل دسترس‌تر است. پیامدهای این تحقیق فراتر از علایق آکادمیک است و نوید می‌دهد که فرآیندهای تصمیم‌گیری در دولت‌ها، کسب و کار‌ها و فراتر از آن را تحت تأثیر قرار خواهد داد.