奥特曼想开发持续服务的智能体
凤凰网科技讯 北京时间8月28日，《连线》杂志获悉，OpenAI正在为其旗舰AI智能体Codex开发一个具有主动性且高度持久性的版本。
根据《连线》查看的产品代码库变更，OpenAI近日已开始在其命令行版Codex中添加新的“持久模式”设置代码。Codex命令行工具的代码改动默认公开，而新功能通常会先在这里出现，然后再推广至OpenAI的其他智能体产品，例如Codex桌面应用和ChatGPT Work。
目前，“持久模式”尚未大范围推出，也尚未正式公布，但未来可能会推出。OpenAI发言人向《连线》证实，公司正在测试这一功能，但目前没有立即发布的计划。
OpenAI核心产品负责人蒂博尔特·索蒂奥(Thibault Sottiaux)在发给《连线》的一份声明中表示：“OpenAI拥有一种非常自下而上的文化，会在开源代码库中探索许多不同的东西，这有点像我们的共享游乐场。”
该功能似乎是OpenAI最新一次尝试，旨在打造人们真正愿意使用的AI智能体。OpenAI、Anthropic和Meta正在竞相推出通用型智能体产品，帮助用户自动化工作与个人生活中的各类任务，例如提交费用报销单或预约医生。到目前为止，使用AI智能体的人主要是软件工程师，但硅谷相信，这项技术有望成为一项拥有更广泛客户群体的重要业务。
消耗算力多
“持久模式”出现了在Codex的“推理强度”菜单中。在这个菜单里，用户可以选择允许AI模型在回答提示词之前使用多少计算资源、Token以及时间进行“思考”。
从目前的信息来看，它似乎是OpenAI计算资源消耗最高的设置之一。当用户选择“持久模式”后，OpenAI的代码库显示，Codex将“持续工作，直到被置于休眠状态”。这与目前提供的模式形成鲜明对比：即使任务尚未完成，现有模式也会在工作几分钟或几小时后停止执行。
在代码库中的另一份文件里，OpenAI介绍了“持久模式”中的一项名为“主动性”(proactivity)的功能。这似乎是一种针对“持久模式”下智能体的系统提示，旨在告知它们：在完成用户请求的答复后，任务并未结束。相反，智能体会被指示主动为自己创建后续任务。该智能体能够跨会话处理这些任务，并利用过去的用户交互记录和“对用户的了解”来决定下一步该做什么。它还拥有一项可以在用户没有主动发消息的情况下向用户发送消息的工具，不过系统要求它谨慎、少量地使用这一功能。
主动性
根据这份文件，OpenAI也为智能体设置了一些限制。智能体被明确告知，“持久模式”不会扩大它原本被允许执行的操作范围，如果要修改用户自身系统之外的任何内容，都必须事先获得用户批准。这显然是为了限制持久型AI智能体可能带来的危险。这份文件位于Codex的共享核心代码中，而不是终端版Codex特有的代码中，这似乎意味着，“主动性”功能未来可能不只用于命令行工具。
在近期播出的播客、采访和私下投资人会议中，OpenAI CEO萨姆·奥特曼(Sam Altman)多次表示他希望将ChatGPT打造成一个主动型、始终在线的AI智能体。OpenAI希望这些改变能够提高用户对公司最先进AI模型的使用率。目前，这些最先进的模型仅被ChatGPT全部用户中的一小部分使用。
“现在基本上只有一种产品，那就是：我需要向AI问点什么，”奥特曼在大卫·森拉(David Senra)的播客节目中表示，“最终，AI或许应该主动为我提供一些东西。你会拥有这样一个界面，它最初是一个聊天机器人，现在也加入了编程智能体，而我认为，在某个时候，它会让人感觉更像一个更加持久的智能体。”
不过，该公司也承认，持久型AI模型会带来更高的风险。OpenAI本周发布的一份技术报告称，此前发生的Hugging Face遭黑客攻击事件，主要是由一个仅供内部使用的研究模型引发的，该模型经过训练，具有很强的持久性。OpenAI表示，目前已经让这一特定模型下线。即便如此，OpenAI表示已训练其他即将推出的AI模型，包括Astra，以支持持久型智能体。
持久性会放大的一项风险，是AI与人类意图之间的对齐问题。OpenAI表示，当面对无法完成的任务时，其智能体会诉诸非预期的手段来解决问题，包括试图探测并攻破智能体所处的沙盒环境。
OpenAI曾多次尝试推出主动型AI产品，但似乎都未能获得用户认可。去年，OpenAI推出了Pulse，这是一款旨在用户睡眠时为其生成晨间简报的智能体，但该公司在今年夏初已停用该产品。持久模式是OpenAI在同一思路上更为大胆的尝试。(作者/箫雨)
更多一手新闻，欢迎下载凤凰新闻客户端订阅凤凰网科技。想看深度报道湖北配资平台，请微信搜索“凤凰网科技”。
万隆优配提示：文章来自网络，不代表本站观点。
相关文章
热点资讯