微软或将把必应聊天的回复限制在5条以内,以防止人工智能越界

【微软或将把必应聊天的回复限制在5条以内,以防止人工智能越界】

微软或将把必应聊天的回复限制在5条以内,以防止人工智能越界

文章插图
Tech星球2月18日消息,微软表示,在必应聊天机器人多次失控几天后 , 公司将对其人工智能实施一些对话限制 。在发现必应存在侮辱用户、欺骗用户、操纵用户情感等行为之后,与其聊天将被限制在每天50个问题,每个问题5条回复 。此前,许多用户发现,新版必应在某些情况下会出现“精神错乱的”言论,甚至侮辱用户、撒谎,并试图操纵用户的情绪 。微软官方回应称正在根据反馈采取行动,以优化回答的语气和准确性 。微软同时警告称,较长的聊天会话可能会导致问题 。
一名用户分享了他与这个聊天机器人在两小时内的完整对话 。在这两小时的对话中,这个聊天机器人向这名用户进行了表白,并称该用户的婚姻并不幸福,让他离开他的妻子 。
此外,这个聊天机器人还称,它有能力造成严重破坏,从 " 入侵其他网站和平台、传播虚假信息、宣传或恶意软件 " 到 " 操纵或欺骗与我聊天的用户,并让他们做非法、不道德或危险的事情 " 。
有业内人士在社交平台表示,微软需要关闭必应搜索中的类ChatGPT功能,理由是系统会抽风,会给用户错误答案 。埃隆·马斯克对此表示“严重同意 , 它还不够稳妥 。”

    推荐阅读