哥布林杀手:有人提到哥布林太多了吗
https://ai.ettoday.net/amp/amp_news.php7?news_id=3158095
https://openai.com/index/where-the-goblins-came-from/
简单说
旧版Chatgpt 有喜欢奇幻生物的虚拟人格
偶然会提到哥布林或地精之类的奇幻生物
为了训练这种虚拟人格
系统评分时会较倾向给有哥布林的回答高分
模型发现多提哥布林比较容易拿到分数
然后其他人格就被带歪了
现在新版系统尝试要强制清除哥布林