OpenAI正在更新ChatGPT的工作方式,以促进健康使用并避免意外后果。OpenAI表示,从今天开始,ChatGPT用户将看到一项其他数字服务已采用的技术。
与视频流媒体服务和社交网络类似,OpenAI将在长时间聊天会话期间为用户添加温和的休息提醒。
从今天开始,您将在长时间会话中看到鼓励休息的温和提醒。我们将持续调整这些提醒的显示时机和方式,使其显得自然且有用。
根据博客文章,OpenAI表示其衡量成功的标准是回访率而非会话时长。这种鼓励减少使用时间的微妙提示似乎会随时间调整,但我们从今天起就能在实际使用中看到首批示例。
OpenAI提供了以下使用休息提醒的初始示例:
OpenAI还表示正在调整ChatGPT,当用户寻求可操作建议时减少绝对性回答。例如,如果用户询问是否应该结束一段关系,ChatGPT不应提供是或否的回应,而应通过提示鼓励反思,引导用户自行思考问题。
该公司表示已”与来自30多个国家的90多名医生(包括精神科医生、儿科医生和全科医生)合作,建立了评估复杂多轮对话的定制标准”,并正在”召集专家顾问小组”以进一步改善ChatGPT的健康使用。您可以在此处阅读完整公告。
9to5Mac观点
从宏观上看,避免对生活建议给出绝对性回应似乎是ChatGPT的正确方向。
现实情况是,您可以说服ChatGPT对任何询问给出这样或那样的答案。不喜欢ChatGPT的回答?只需重新提问就能获得不同回应。
仅就这一点而言,OpenAI就应该避免绝对性回应,努力提供更一致的体验,鼓励批判性思维而非替代决策。
至于使用ChatGPT时的休息提醒,在未看到实际数据前,我对这些提示的有效性持保留态度。这两项变化都能为OpenAI提供一些保护,避免因缺乏适当防护措施而导致ChatGPT使用不健康或危险的批评。