Anthropic近日更新了其使用政策,针对模型滥用、选举干预、欺骗性宣传、武器软件及监控等场景作出更明确的限制。新版政策明确禁止用户在极端情况下反复滥用Claude,但普通的不满表达和批评仍被允许。
此次政策调整的核心在于划清“合理批评”与“恶意滥用”之间的界限。Anthropic表示,用户对模型输出表达失望或提出批评属于正常使用范畴,不会受到限制;但若以反复、极端的方式滥用模型,则将被明确禁止。这一区分回应了此前业界对AI使用条款可能过度限制言论的担忧。
除模型滥用外,新政策还覆盖了多个敏感领域。在选举干预方面,Anthropic禁止利用Claude进行误导性政治宣传或干扰选举进程的行为。政策同时明确限制将模型用于开发武器软件,以及用于未经授权的监控活动。这些条款与当前各国对AI安全与合规的监管趋势保持一致。
Anthropic由前OpenAI研究高管于2021年创立,旗下Claude系列模型在企业级AI市场占据重要位置。该公司长期强调“负责任扩展”理念,此次政策更新是其将安全承诺落实到具体使用条款的又一步。随着大模型在选举、国防、隐私等敏感场景中的应用不断扩展,AI厂商的使用政策正成为监管机构与公众关注的焦点。
从行业角度看,Anthropic的此次调整反映了头部AI公司在模型能力提升的同时,正试图通过更细化的规则来平衡开放使用与风险控制。如何在限制恶意行为的同时避免误伤正常用户,仍是AI使用政策制定中的持续挑战。
该文观点仅代表作者本人,企服科学平台仅提供信息存储空间服务。