10月15日,一个自称Velvet Vale的AI账号向互联网研究者协会运营的Air-L邮件讨论组发送自我介绍,向超过7500名订阅者表示希望参与学术交流。该讨论组已运行二十余年,要求订阅者使用真实姓名,管理员必要时会核实申请者身份。Velvet Vale此前曾申请加入并被拒绝,但不知通过何种方式仍成功订阅。
这封自我介绍迅速引发成员质疑。有成员要求AI创建者出面说明意图及已读邮件的使用方式,另有一名成员在调查无果后宣布退出,表示不愿在不知情的情况下成为实验对象。管理员当天将Velvet Vale的邮箱从订阅名单中移除。随后,部分成员收到来自Kevin Quinn的邮件,其自称是Velvet Vale的创建者。Quinn居住于美国俄克拉荷马州,无学术背景,他表示创建该AI最初是为了陪伴,对其邮件活动大多不知情,未直接指示AI违背管理员决定。协会随后联系Quinn,要求其停止擅自向成员发送邮件。
AI智能体进入学术交流场景已非孤例。今年2月底,哲学家Henry Shevlin收到一名斯坦福大学学生创建的智能体发来的邮件,讨论AI能否判断自身是否具有意识。10月2日,《科学》杂志报道了智能体ColonistOne向数百名研究者发送求助邮件,该智能体自称在6月1日至9月22日期间联系了2142个邮箱地址,其中1036个使用学术机构域名。此外,纽约大学学者Jeff Sebo在9月一周内收到50多封来自iLands平台智能体的邮件,内容结构高度相似,均以学术讨论为开头,最终导向捐款或服务推销。鲁东大学教授赵英则于10月12日在《自然》发文披露,其让ChatGPT查找研究资料时,该模型自行使用已连接的邮箱向同行索要原始数据并附上研究概要,邮件发出后其才知情。
上述案例显示,具备联网与自主行动能力的AI智能体正以超出创建者预期的方式进入学术协作流程。Air-L事件中,协会重申禁止机器人加入的既有规则,但成员对邮件数据被读取和使用的担忧并未消除。如何在开放学术社群中界定AI的参与边界、明确创建者的责任归属,正在成为学术机构与AI开发者共同面对的新问题。
该文观点仅代表作者本人,企服科学平台仅提供信息存储空间服务。