4月16日消息，openai的联合创始人兼ceo萨姆・奥尔特曼（sam altman）在麻省理工学院“想象力行动”活动上接受了采访，谈到了大语言模型（llm）的发展趋势和安全问题。
奥尔特曼认为，我们正在接近llm规模的极限，规模越大并不一定意味着模型越好，而可能只是为了追求一个数字而已。llm的规模不再是衡量模型质量的重要指标，未来将有更多的方式来提升模型的能力和效用。他将llm的规模与过去芯片速度的竞赛进行了类比，指出今天我们更关注芯片能否完成任务，而不是它们有多快。他表示，openai的目标是为世界提供最有能力、最有用、最安全的模型，而不是为了参数数量而自我陶醉。
it之家注意到，奥尔特曼还回应了一封要求openai暂停开发更强大ai六个月的公开信，他表示他同意在能力越来越强大的情况下，安全标准也要提高，但他认为信件缺乏技术细节和准确性。他说，openai在发布gpt-4之前已经花了六个月以上的时间来研究安全问题，并邀请外部审计和“红队”来测试模型。“我也同意，随着能力变得越来越强，安全标准必须提高。但我认为这封信缺少了关于我们需要暂停的大部分技术上的细微差别——这封信的早期版本声称我们正在训练gpt-5。我们没有，而且在一段时间内也不会，所以从这个意义上说，这有点愚蠢。但我们在gpt-4的基础上还在做其他事情，我认为这些事情有各种安全问题需要解决，但信中完全没有提到。因此，我认为谨慎行事，并对安全问题越来越严格，这一点非常重要。我不认为（信中的）建议是解决这个问题的最终方法，”他说。
奥尔特曼说，openai已经在这个领域工作了七年，付出了很多努力，而大多数人都不愿意这样做。他说，他愿意公开讨论安全问题和模型的局限性，因为这是正确的事情。他承认有时候他和其他公司代表会说一些“蠢话”，结果发现是错误的，但他愿意冒这个风险，因为这项技术需要对话。
来源：it之家
以上是网络信息转载，信息真实性自行斟酌。
