Anthropic正与法律机构磋商,以解决一个全新难题:AI智能体应当如何谈判,为人类使用者争取最优交易结果。两名了解Anthropic思路的人士称,该公司正向律所寻求建议,研究律师如何开展谈判,既能代表客户利益,又兼顾公平结果。一名熟悉Anthropic项目的人士表示,公司正在探索模型交互时的“谈判规范”。随着智能系统持续迭代,AI智能体将代表用户,去对接目标存在冲突的其他智能体。该人士补充,公司还在权衡:谈判过程中智能体需要多大程度寻求人类反馈;面对其他AI对手,应当保持多高警惕,同时避免陷入多疑、阴谋论式的判断。另一位接近该公司的人士透露,Anthropic还探讨过一个方案:让用户出具签名文件,向智能体确认委托事项以及需要遵守的全部规则。




