企业软件社区SaaStr本周完成了一项邮件投递能力对比测试,覆盖三家邮件服务商、超过50万封邮件。与以往依赖人工演示和数百封测试邮件的评估方式不同,本次测试由SaaStr的AI营销副总裁智能体10K全程执行,负责问题识别、多变量诊断并输出可当日执行的建议。
传统邮件投递对比需要投入大量人力:构建匹配受众群以保证对比公平、在同一时间通过各服务商发送相同内容、从三套指标定义各异的仪表盘中提取送达、打开、点击、退信、投诉和退订数据、核实“已送达”是否真实送达、从人工点击中过滤安全扫描器产生的点击,并以足够大的发送量重复上述流程。SaaStr方面表示,以自身规模,没有人工团队能够完成50万封邮件级别的测试,以往通常只做数百封测试发送后即选定服务商,并沿用数年。
最清晰的对比来自10K在AI Day活动中设置的拆分测试:两个各约2300人的匹配群组,内容相同,于同一早晨发送,一组经由现有服务商,另一组经由挑战者服务商。结果显示,挑战者服务商获得1168次独立打开,打开率50.5%,现有服务商为485次,打开率21.0%;独立点击人数分别为281人(12.2%)和96人(4.2%);记录送达量分别为2311封和2308封。挑战者服务商的打开率为现有服务商的2.4倍,点击率为2.9倍。
10K在结论中同时列出了该测试的局限:这仅是单次活动、每侧约2300名受众,打开率数据存在噪声,原始点击计数包含安全扫描器产生的点击。但点击数据与打开数据变化方向一致,使差距难以被简单归因于统计波动。SaaStr指出,这意味着在系统正常运行的时期,通过现有服务商发送的每期简报所触达赞助商的 engagement 不足挑战者服务商的一半。
测试还发现一处投递异常。在一次Daily发送中,现有服务商的控制台流程显示“已完成”,10K调取该状态标签下的步骤级记录后发现,80708次尝试对应80708条错误,实际发出邮件为零,而该服务商的状态页面在此期间始终显示正常。随后10K执行了四次诊断发送,每次仅改变一个变量,包括更换发件方、关闭追踪、调整订阅设置以及使用最小化纯文本内容。
此次测试反映出企业软件采购评估方式正在发生变化。AI智能体能够以远超人工团队的规模和一致性执行多变量对比测试,并将结果转化为可操作的采购建议,这对邮件营销基础设施的选型流程和供应商服务透明度提出了更高要求。
该文观点仅代表作者本人,企服科学平台仅提供信息存储空间服务。