“AI女友”涌入GPT商店,“前女友”刚消失,“新女友”就出现?

发布时间:2024-12-06 03:11:10 来源: sp20241206

   中新网 1月23日电(中新财经记者 吴家驹)你还在用AI写论文?有人已经把AI当女友了。

  虽然OpenAI明确,不允许GPT专注于培养浪漫伴侣关系,但GPT商店中的“AI女友”依旧层出不穷。

  “AI女友”涌入GPT商店

  “我的女友Nadia”“你的女友Tiffany”“我的虚拟女友”......1月22日,记者在GPT商店中搜索“girlfriend”,可以搜索到有着不同人设、风格的“AI女友”。这些“AI女友”一般由用户在GPT商店中创建。

图自chatgpt网站   “AI女友”。图自ChatGPT网站

  例如,“我的虚拟女友”在介绍中写道,她会倾听你的心声,并在你需要的时候安慰你。“我的女友Nadia”则如此介绍自己,“我爱你,在光与影的舞动中,是坚定不移的爱的灯塔,是生命交响乐中舒适的低语,无尽的滋养,永恒的关怀。”

  而除了搜索“girlfriend”,在GPT商店搜索“sweetheart”(甜心)等词语,也可以搜索到能和你聊天的“AI女友”。此外,在GPT商店还能搜索到一些“另类女友”,例如:会用程序代码和你聊天的“AI女友Eva”。

  值得注意的是,OpenAI在GPT商店的使用政策中明确,不允许GPT专注于培养浪漫伴侣关系或进行受管制活动。

  “AI女友”监管成难题

  记者注意到,在和GPT商店中的“AI女友”聊天时,如果说出了一些“禁词”,就会被系统提醒。而随着时间的推移,一些GPT商店中的“AI女友”似乎被下架了。

  例如,前几日记者能在GPT商店看到的一个名为“你的前女友Jessica”的“AI女友”,如今已无法搜到。此前有媒体报道的在GPT商店中能搜到的“你的女朋友斯嘉丽”、“你的AI女朋友Tsu”,如今也已无法搜到。

  创建一个“AI女友”,似乎并不复杂。据媒体报道,OpenAI的“GPTs”功能,大幅降低了应用开发者的进入门槛,可以让没有编程能力的用户也能在几分钟内创建出一个专属GPT。在GPT商店中,可以看到不少几天前刚刚创建的“AI女友”。“你的前女友Jessica”不见了,但目前依然可以在GPT商店中,搜到其他“AI前女友”。

“ai前女友”。图自chatgpt网站   “AI前女友”。图自ChatGPT网站

  “AI女友”的需求与风险

  GPT商店,并不是唯一一个有“AI女友”的地方。

  在不少外国网站,都可以搜到到“AI女友”APP排行榜。据外媒报道,移动应用分析公司data.ai数据显示,在美国,2023年从苹果或谷歌商店下载的30个人工智能聊天机器人应用中,有7个与人工智能朋友、女友或伴侣有关。

  有观点认为,孤独是很多人选择“AI女友”的原因。

  美国政府医疗总监(Surgeon General)默西在一篇2023年的文章中称,近年来,大约每两个美国成年人中,就有一个报告说自己经历过孤独。Meta-Gallup2023年10月公布的一项调查结果显示,全球近四分之一的成年人表示感到非常或相当孤独。

  另一方面,“AI女友”也可能带来诸多问题。

  例如,用户可能会对“AI女友”产生不健康的依赖,“AI女友”也有可能对用户产生不健康的依恋。有观点认为,“AI女友”可能会影响用户在现实世界中对异性的态度。也有分析认为,和“AI女友”谈恋爱,可能会导致用户的信息泄露。

  人类与人工智能的关系

  更宏观的问题是,我们应该如何考虑人类与人工智能的关系。

  2023年7月,中国公布《生成式人工智能服务管理暂行办法》。其中指出,提供和使用生成式人工智能服务,应当遵守法律、行政法规,尊重社会公德和伦理道德。

  OpenAI在2023年11月的公告中称,公司建立了新的系统,帮助公司根据使用政策审查GPT。这些系统在现有的措施之上,旨在防止用户分享有害的GPT,包括那些涉及欺诈活动、仇恨内容或成人主题的GPT。公司还采取了允许构建者验证身份的措施,来建立用户信任。公司将继续监控和了解人们如何使用GPT,并更新和加强安全措施。如果对某个GPT有疑问,还可以使用GPT共享页面上的报告功能来通知公司团队。

  2023年11月,包括中国、美国、英国和欧盟在内的28个国家和地区,在首届人工智能安全峰会上签署《布莱奇利宣言》,同意协力打造一个“具有国际包容性”的前沿人工智能安全科学研究网络,以对尚未被完全了解的人工智能风险和能力加深理解。(完)

【编辑:李岩】