۰۲ مهر ۱۴۰۴
به روز شده در: ۰۲ مهر ۱۴۰۴ - ۱۸:۰۹
فیلم بیشتر »»
کد خبر ۱۰۹۲۳۵۰
تاریخ انتشار: ۰۸:۲۹ - ۱۷-۰۶-۱۴۰۴
کد ۱۰۹۲۳۵۰
انتشار: ۰۸:۲۹ - ۱۷-۰۶-۱۴۰۴

راز توهم‌های هوش مصنوعی فاش شد

راز توهم‌های هوش مصنوعی فاش شد
پژوهشگران می‌گویند در سیستم امتیازدهی فعلی، مثل امتحان مدرسه، سکوت نمره‌ای ندارد، اما یک پاسخ احتمالی حتی اگر غلط باشد امتیاز دارد./مایکروسافت‌نیوز

اوپن‌ای‌آی در گزارشی تازه اعلام کرد دلیل اصلی اشتباه‌های عجیب چت‌بات‌ها در ساختار آموزش و ارزیابی آن‌ها نهفته است.

این خطاها ناشی از آن است که مدل‌ها برای «حدس زدن» پاداش می‌گیرند، نه برای سکوت یا ابراز تردید.

پژوهشگران می‌گویند در سیستم امتیازدهی فعلی، مثل امتحان مدرسه، سکوت نمره‌ای ندارد اما یک پاسخ احتمالی حتی اگر غلط باشد امتیاز دارد.

به همین دلیل مدل‌ها با اعتمادبه‌نفس جواب می‌دهند، حتی وقتی اشتباه می‌کنند.

راهکار اوپن‌ای‌آی، نه بازطراحی کامل مدل‌ها، بلکه اصلاح معیارهای ارزیابی است؛ یعنی سکوت یا «نمی‌دانم» نباید به‌عنوان ضعف محسوب شود.

ارسال به دوستان
جواب روسیه به ترامپ: ببر کاغذی نیستیم! خرس ایم! پزشکیان تصاویر شهدای جنگ ۱۲ روزه را در سازمان ملل به‌دست گرفت ادعای زلنسکی: پهپادهای ایرانی خطرناک هستند پزشکیان : ایران هرگز به دنبال بمب اتم نبوده است/ از صلح میان آذربایجان و ارمنستان حمایت می‌کنیم/ ایران حملات اسرائیل به قطر را محکوم می‌کند( به روز می‌شود) تیراندازی در دفتر مهاجرت و گمرک آمریکا؛ مهاجم کشته شد آخرین قیمت ارز، طلا و رمزارزها امروز چهارشنبه۲ مهر ۱۴۰۴ شهردار لندن: ترامپ اسلام هراس و نژاد پرست است ترافیک سنگین در آزادراه تهران - شمال انفجار کنترل‌شده تا ساعاتی دیگر در قزوین زاکانی: ۹۸ درصد واحدهای مسکونی آسیب دیده در جنگ ۱۲ روزه بازسازی شد آغاز پیش‌فروش و حراج سکه از هفته آینده اولین فیلم رسمی از پرواز هواگردهای KJ-600 ،J-35 و J15 از «فوجیان» پیشرفته ترین ناو چین آسوشیتدپرس: ایران بازسازی سایت‌های بمباران شده ساخت موشک را آغاز کرد ذخایر سوخت نیروگاه‌ها امسال بهتر از پارسال است شهردار ارومیه ، جرأت استعفا کردن داشت