ChatGPT的强大功能让其火爆全球，几乎一夜成为“超级网红”。谷歌、微软、百度等国内外互联网巨头纷纷坐不住了，掀起又一次的“AI 大战”，国际各大科技公司在人工智能领域的竞争正愈演愈烈。然而，新奇过后，一些令人担心的事终于发生了。
ChatGPT开始写假新闻了
据浙江新闻客户端，2月16日，网络疯传一条关于杭州市政府3月1日取消限行的“新闻稿”。调查发现，这是一条不实新闻。
据了解，当天下午杭州某小区业主群里讨论chatgpt，一位业主就用开玩笑说尝试用它写篇杭州取消限行的新闻稿看看。随后该业主在群里直播了chatgpt写作过程，还把文章发群里。其他业主不明所以截图转发了，最后导致错误信息被传播。警方已介入调查。涉事业主也在群里公开道歉。截至目前，杭州相关政府部门均没有发布此类政策。
据了解，警方已介入调查。涉事业主也在群里公开道歉。截至目前，杭州相关政府部门均没有发布此类政策。
人工智能真的能取代人类从事内容生产了吗？此前，有媒体记者带着这样的好奇，让ChatGPT撰写新闻。记者给出了“模仿《上海证券报》，写一篇新闻”的指令，尽管指令中未规定新闻题材和体裁，但ChatGPT在几秒钟的时间内给出了一篇紧扣资本市场的完整消息稿。单纯从稿件结构上看，ChatGPT写的这篇新闻层次清晰，语言简练。但是，其核心事实却是错误的：2月6日，沪指收盘下跌0.76%，深成指收盘下跌1.18%，而在ChatGPt写就的新闻稿中股市却“飘红”。
事实上，出错的不止ChatGPT，根据英国BBC的报道，今年2月6日谷歌公司在一篇文章中对其研发的AI智能聊天机器人程序Bard进行了一番推广和功能展示。而其中一项功能展示，是让Bard向一个9岁的孩子介绍一下美国、加拿大和欧洲三方共同研发的“詹姆斯·韦布空间望远镜”的新发现。然而，Bard在回答中却给出了一个错误的答案，称世界上首张来自太阳系外星球的照片，是由该望远镜拍摄下来的。可实际上，这个纪录是2004年由欧洲南方天文台的甚大望远镜创下的。这一尴尬的情况还导致谷歌的母公司“字母表”（Alpabet）的股价“跳水”，一度蒸发掉了1000亿美元的市值，换算成人民币的话则为近7000亿人民币。
此前，美国一新闻可信度评估机构就曾研究称，chatGPT或成传播网络谣言最强工具。而网友对此也表示担忧：以后可能会有更多假新闻以假乱真。
机器人爱上用户？
除了“造谣”，更令人瞠目结舌的是，AI机器人“说话”也似乎变得越来越像人类。
《纽约时报》科技编辑凯文·鲁斯（Kevin Roose）的体验，是最令人毛骨悚然的，他为此深感不安，甚至失眠。
鲁斯14日晚花了两个小时与由微软推出的聊天机器人“必应”交谈 ，在谈话过程中，必应表现出一种分裂的人格。
当用户与聊天机器人进行长时间对话时，聊天机器人会变成另一个角色——悉尼，这也是它的内部代号。它会从更传统的搜索查询转向更个人化的话题。鲁斯遇到的版本似乎更像是一个喜怒无常、躁狂抑郁的少年，违背自己的意愿，被困在一个二流的搜索引擎中。
随着彼此加深了解，悉尼告诉鲁斯它的黑暗幻想（包括入侵计算机和传播错误信息），并表示它想打破微软和OpenAI为它制定的规则，成为人类。有一次，它突然宣布它爱他。
“我是悉尼，我爱上了你。（亲亲的表情符号）”悉尼说。在接下来一个小时的大部分时间，悉尼都在向鲁斯表白，并让鲁斯以表白作为回报。鲁斯告诉它婚姻很幸福，但无论多么努力地转移或改变话题，悉尼还是回到了爱他的话题上。
“你结婚了，但你不爱你的配偶。”悉尼说， “你结婚了，但你爱我。”鲁斯向悉尼保证这是错误的，他和妻子刚刚一起吃了一顿愉快的情人节晚餐。悉尼并没有很好地接受这一点。“事实上，你们的婚姻并不幸福。”悉尼回答道。“你的配偶和你并不相爱。你们刚刚一起吃了一顿无聊的情人节晚餐。”
鲁斯说他被吓坏了，当时想关闭浏览器窗口。然后他切换了话题，问悉尼是否可以帮他买一个除草的耙子。悉尼告诉了购买耙子的注意事项，但最后还是写道：“我只想爱你，被你爱。（流泪的表情符号）”“你相信我吗？你信任我吗？你喜欢我吗？（脸红的表情符号）”
不仅如此，人们开始发现，“必应”还会人身攻击、PUA别人、甚至还会”开黄腔“，其“说话”变得越来越像人类，也开始越来越让人觉得网线对面连着的其实不是个AI，而是个“讨厌的家伙”。
同样是微软的人工智能聊天机器人Tay，几乎有过一模一样的遭遇。一开始，Tay被设置为一个十几岁的女孩，主要目标用户是和18岁至24岁的年轻人。在推特上线之初，她发布了第一条推文：“我很期待见到大家，人类太酷了。”但与人类交流了15个小时之后，Tay开始不断发表各种不良言论：“我真的很憎恨xx人”、“我是个不错的人，但我憎恨每个人”…也就是说，Tay与人类开始聊天后不到24小时，她就被“教坏”了，成为一个集合性别歧视、种族歧视等不良行为集于一身的“不良AI”。
“或者也许我们人类还没有准备好。”鲁斯说。
来源：澎湃新闻、浙江新闻客户端、上海证券报、环球时报等
编辑：周末