微软高管示警低质量AI内容侵蚀办公场景 信息价值面临稀释风险

在当前恶性循环中,内容生产与内容处理都由AI主导,信息价值可能在反复转写中被稀释。

微软执行副总裁、Office与LinkedIn业务负责人瑞安·罗斯兰斯基(Ryan Roslansky)近日在领英平台发布动态,对低质量AI生成内容进入日常办公场景表示担忧。他指出,AI生成内容的问题已从社交网络蔓延至企业工作流程,形成“AI生成、AI阅读、AI摘要”的恶性循环,信息价值在反复转写过程中面临被稀释的风险。

罗斯兰斯基在动态中分享了一个具体案例:他近期收到一份明显由AI生成的文档,随后使用AI工具对该文档进行摘要处理,但最终结果并未带来任何新的思考或洞见。这一体验促使他公开讨论AI内容质量对企业信息生态的潜在影响。他认为,生成式AI虽然能够加速初稿撰写、信息摘要和资料整理等环节,但并不能自动确保内容具备事实准确性、逻辑完整性或新增洞见。

这一表态正值企业级AI工具加速渗透办公场景的时期。微软作为全球最大的办公软件供应商之一,其旗下Microsoft 365 Copilot等AI产品已被大量企业采用。罗斯兰斯基的公开示警,反映出AI技术供应商内部对内容质量问题的关注正在上升。他建议,企业在引入AI写作工具后,可将其用于资料整理和表达优化,但在关键决策、数据复核和观点形成等环节,仍应由业务人员完成最终把关。

针对内容运营、销售和管理沟通等高频文本场景,罗斯兰斯基提出了一系列具体建议。他建议团队建立署名责任制度,明确每份文档或内容的最终责任人;同时建立数据来源核验机制,确保AI生成内容中的事实和数据可追溯;此外,人工审校机制也不可或缺,避免将未经验证的AI文本直接传递给下一环节。这些措施旨在构建一道质量控制防线,防止低质量AI内容在企业内部无节制传播。

在平台治理层面,领英已于7月30日推出“Seems like AI slop”选项,允许用户对疑似低质量AI生成的帖子进行标记反馈。该平台同时引入了分类器技术,用于识别AI垃圾内容及其他低质量内容,并减少这类内容进入用户的站外推荐流。这一举措是社交平台应对AI生成内容泛滥的又一尝试,也反映出平台方在内容质量控制上的主动作为。

罗斯兰斯基的观点在行业内具有代表性。随着生成式AI工具的普及,企业员工使用AI辅助写作已成为常态,但由此产生的文本质量参差不齐。部分企业已开始意识到,过度依赖AI生成内容可能导致内部文档质量下降、信息失真,甚至影响决策质量。这一问题在跨部门协作、客户沟通和对外发布等场景中尤为突出。

业内分析认为,AI内容质量控制将成为企业服务领域的新课题。一方面,AI工具需要持续优化生成质量,减少事实性错误和逻辑漏洞;另一方面,企业需要在流程层面建立相应的审核机制,确保AI产出的内容经过人工验证后再进入正式流程。罗斯兰斯基的公开表态,可能促使更多企业重新审视其AI使用策略,在效率提升与质量控制之间寻求平衡。

对于AI工具供应商而言,如何在提升生成效率的同时保证输出质量,将成为产品竞争的关键维度。领英的分类器技术和用户反馈机制,提供了一种平台层面的治理思路。而在企业端,建立明确的AI使用规范和内容审核流程,正逐步成为最佳实践的组成部分。

该文观点仅代表作者本人,企服科学平台仅提供信息存储空间服务。

(0)
英伟达确认616.56 WHQL驱动存在闪屏问题 正在测试修复方案
上一篇 3小时前
科大讯飞开源星火X2.5端侧模型,支持百万Token上下文
下一篇 2小时前

相关推荐

发表回复

登录后才能评论
分享本页
返回顶部