وقتی هوش مصنوعی هم هذیان میگوید؛ OpenAI دنبال درمان توهمات دیجیتال
شرکت OpenAI بالاخره سراغ دفتر مشق خودش رفت و کشف کرد چرا رباتهای هوش مصنوعیاش مدام چیزهای نادرست میسازند. قضیه مثل امتحان چندگزینهای است: بچهها را وادار میکنی حتی اگر هیچی بلد نیستند، یک تیری در تاریکی بزنند. نتیجه؟ یک عالمه جواب قشنگ و قانعکننده، ولی کاملاً پرت.
محققان میگویند باید جایزه و تنبیه را برعکس کنیم؛ یعنی اگر ربات با اعتمادبهنفس دروغ گفت، چنان نمره منفی بخورد که برق از چشمش بپرد، اما اگر مؤدبانه بگوید «نمیدانم»، باید آفرین بگیرد. خلاصه اینکه ربات هوش مصنوعی هم مثل آدم، گاهی باید بلد باشد ساکت بماند.
آزمایش هم نشان داده مدل محتاط نصف سؤالات را جواب داده، اما بیشترشان درست بوده؛ در حالیکه مدل پرحرف، همهچیز را جواب داده، اما سه بار از چهار بار هذیان تحویل داده. انگار همان قانون قدیمی بازار اینجا هم صادق است: «کم گوی و گزیده گوی چون در.»
بدون نظر! اولین نفر باشید