当前位置 > 散户吧 > 财经要闻 > 宏观经济 > ChatGPT化身“赤脚心理医生”?OpenAI不断强调:它真的不行

ChatGPT化身“赤脚心理医生”?OpenAI不断强调:它真的不行

发布时间:2023-04-21 15:08来源:全球财经散户吧字号:

  虽然OpenAI研发ChatGPT时志不在此,但顾客才是上帝。随着ChatGPT被更多“上帝”拿来充当医疗顾问,OpenAI也只能不断重复对外宣称,永远不要使用语言模型来为严重的医疗状况提供诊断或治疗服务。

本文来自散户吧WWW.SANHUBA.COM

  然而,ChatGPT越来越人性化的回答,很多时候充当起“解语花”的作用。这一点对需求心理咨询的患者来说,尤其有诱惑力。

本文来自散户吧WWW.SANHUBA.COM

  而脱离开OpenAI这个创造者,ChatGPT本身对扮演“赤脚医生”一事的看法又十分矛盾。 本文来自散户吧WWW.SANHUBA.COM

  用户Milo Van Slyck爆料,他在咨询变性人问题时,插空询问ChatGPT如何看待其医疗角色。ChatGPT一方面回答,在线资源或许有帮助,但其不能替代专业的意见。另一方面,这个人工智能又称,话虽如此,如果Van Slyck有任何具体问题或疑虑,它很乐意解答。

本文来自散户吧WWW.SANHUBA.COM

  多年来一直接受人类咨询师辅导的Van Slyck已经倒戈,他表示会继续和人类治疗师会面,但和ChatGPT聊私人话题显然更加自在。 本文来自散户吧WWW.SANHUBA.COM

  AI的道德陷阱 本文来自散户吧WWW.SANHUBA.COM

  早在1960年代,就已经有人用聊天机器人(行情300024,诊股)代替人类咨询师,在医疗领域治疗病人。麻省理工学院教授Joseph Weizenbaum研发的Eliza就是一款模仿人类治疗师的机器人。

本文来自散户吧WWW.SANHUBA.COM

  此后,Woebot、Wysa等聊天机器人也在医疗领域进行尝试,并在心理健康方面持续深耕。这些机器人的好处是,永远不会感到疲倦,也不会被病人情绪影响,而且成本不高。

本文来自散户吧WWW.SANHUBA.COM

  但世界上不可能出现十全十美的东西。诸如ChatGPT一类的新模型并非专门用于治疗的技术,其引用的很多信息就可能暗藏陷阱。 本文来自散户吧WWW.SANHUBA.COM

  比如,这种人工智能目前没有被设定必须要遵守更加严格的、适用于医疗方面的道德和法律准则。 本文来自散户吧WWW.SANHUBA.COM

  此外,ChatGPT没有自己的“病历本”。这就可能导致患者在咨询时不得不重复描述自己过去的病情,如若不然,ChatGPT很可能不仅无法提供帮助,甚至会因为过于胡说八道而让病人更加“暴躁”。

本文来自散户吧WWW.SANHUBA.COM

  因此,堪萨斯大学的教授和临床心理学专家Stephen Ilardi警告,把ChatGPT当作医生有点儿戏,其被应用于严重精神疾病治疗时会产生巨大的风险。 本文来自散户吧WWW.SANHUBA.COM

  但他也认为,如果提供正确的指引,ChatGPT之类的人工智能显然可以在心理健康服务供不应求的时候发挥作用。 本文来自散户吧WWW.SANHUBA.COM

  人工智能公司Hugging Face的首席道德科学家Margaret Mitchell也支持这一观点,提出人工智能可以在接听更多危机求助的热线电话上帮忙。

本文来自散户吧WWW.SANHUBA.COM

  OpenAI的道德陷阱

本文来自散户吧WWW.SANHUBA.COM

  ChatGPT道德感天生薄弱,而Mitchell本人对OpenAI的道德感也有怀疑。

本文来自散户吧WWW.SANHUBA.COM

  事实上,OpenAI会审查用户与人工智能的对话,并将这些应用于机器训练。对于那些向OpenAI倾吐私密烦恼的用户来说,隐私泄露很可能会加深他们的痛苦。 本文来自散户吧WWW.SANHUBA.COM

  今年3月,部分ChatGPT用户的对话内容被泄露,导致其他用户可以看到聊天内容,OpenAI因此紧急关闭ChatGPT。而这还可能只是用户隐私事故中属于最轻量级的。 本文来自散户吧WWW.SANHUBA.COM

  根据使用条例,ChatGPT用户的账户信息在删除申请后,仍将保留至多4个星期。 本文来自散户吧WWW.SANHUBA.COM

  有些人担忧隐私问题,而有些人则是觉得向机器人寻求心理安慰极其别扭。用户Aaron Lawson就指出,虽然ChatGPT的回答很人性化,但它毕竟不是真人,因此他很难配合ChatGPT进行治疗步骤。 本文来自散户吧WWW.SANHUBA.COM

  对此,Stability AI的创始人兼首席执行官Emad Mostaque表示,ChatGPT确实会提供很好、很合理的建议,但不会替代人类医生的治疗,充其量是在找不到人交谈时候的一个替代品。

本文来自散户吧WWW.SANHUBA.COM

(小编:财神)

专家一览机构一览行业一览