微信

OpenAI重组ChatGPT个性研究团队!

财联社14:52

OpenAI正在重组ChatGPT团队,加入模型行为小组,以在模型的初始预训练之后改进公司的 AI模型 。

 

这支模型行为小组由约14名研究人员组成,是一支规模虽小但颇具影响力的研究团队,决定着OpenAI 人工智能 模型与人互动的方式。该团队也参与了自GPT-4以来的所有OpenAI模型的开发,包括GPT-4o和GPT-5。

 

OpenAI发言人已证实了这一调整,目前模型行为团队已开始向OpenAI的后期训练主管Max Schwarzer汇报工作。

 

模型行为团队的创始负责人Joanne Jang还表示,将在公司启动一个新项目,名为OAI Labs,将负责发明和设计人与人工智能协作的新界面原型。

 

模型个性成关键

 

模型行为团队是OpenAI的核心研究团队之一,负责塑造公司模型的个性,并减少谄媚行为,如盲目认同并强化用户的信念。该团队还致力于解决模型回应中的政治偏见,并帮助OpenAI明确其在人工智能安全性上的立场。

 

OpenAI首席研究官Mark Chen在一份备忘录中强调,模型行为团队应更加贴近核心模型的开发。这也意味着OpenAI日益将人工智能的“个性”视为技术发展的关键因素。

 

就在不久前,OpenAI在最新发布的GPT-5模型上遭遇了不小的挫折。一些用户批评称GPT-5的性格谄媚或者冷淡,不及此前模型人性化。这也导致OpenAI不得不恢复部分旧模型的访问权限,如GPT-4o。

 

除此之外,OpenAI近日还因为一起16岁男孩自杀事件被告,因为男孩家长指控ChatGPT涉嫌为男孩自杀提供建议。

 

将模型行为团队纳入后训练团队无疑进一步肯定了前者的价值,也凸显出OpenAI希望通过继续升级ChatGPT以争取消费者的迫切。据消息,OpenAI今年预计通过ChatGPT实现近100亿美元的收入。