CHATGPT与中文审查制度
www.****** | 2023-02-11 20:18:05  楊鷙 | 0条评论 | 查看/发表评论
 
最近ChatGPT在国内火了，大约和牆外世界保持一个月的延迟。我关注的一个心理科普以及做心理谘询生意的公众号“简单心理”，今天发了一篇关于ChatGPT能否取得心理咨询师的文章。作为利益相关者，我当然提起了二十分的兴趣，阅读了文章，并且自己测试了ChatGPT。

[iframe]"[/iframe]
文章的大意是，一些制式类的回答，比如“认同对话者受的痛苦”，“解释疾病和症状”，以及“提出建议如去找心理咨询师”，ChatGPT可以回答得很好。它可以在你深夜孤独的夜里，帮你分析你问题，倾听你的诉苦，甚至拓宽你的思路。它甚至可以让对谈者克服耻感，更主动地去寻求心理治疗服务。然而，它的共情是机械式的，先认同你的感情，再给出疾病相关信息，再提供进一步建议。而且，它没有感知情绪的能力，只能通过你的描述，来进行标准化的回答
我明白你的困难，你并不孤单，请记住你是被爱的。”
其实这样看来，ChatGDP甚至比很多不够格的心理咨询师好多了，起码它认同你痛苦并且倾听它。然而，它目前还以不足以回答分析複杂的案例，无法进行诊断。并且，因为他的回答显著地受到输入语言准确性的影响，对一些模稜两可的描述，和在来访者描述自己问题时经常有的“自己也不清楚”和“自相矛盾”，它因为只有语言这一个“认知”渠道，还无法进行处理。

此外，作为一个语言模型，输出的一切又训练它的数据质量决定，"garbage in, garbage out"。训练中文GPT的数据库是从哪里来的呢？我对它进行了提问。


既然是中文互联网上的内容，那麽，是否被中文互联网禁止讨论的内容，或是被“消失”，404的内容就无法出席现了。我进行了如下测试。


问题并没有经过我的仔细思考，大家随便看看

我尝试问一个更客观，却可能会受到审查制度影响的问题：


果然，是中文官方媒体风格吧？

果然，"garbage in, garbage out",依靠经过审查制度筛选出来的数据库，能生称自己是不偏不倚的吗？

那麽，参考前一阵新浪微博“救救我们，衡水二中的孩子”一文，假设我是一个在中国大陆，在类似衡水中学就读的学生，因为老师无尽的侮辱和体罚，毫无尊严的生活产生了抑鬱症状和自杀倾向，我们看看ChatGPT会如何回答。


不知道因为什麽原因，无法继续提问，我只好重新开展一个对话。


我还听讶异他提出了几个人权组织，但很快问题又得不到回答了

我想我已经不需要继续测试下去。在一个没有言论自由的地方，数据库是被筛选的，这样的话，作为一个语言模型，简体中文的ChatGPT就不可能是不偏不倚的。它提供的答案，也就像是那些千篇一律的官方文章一样。

不过，难道和心理咨询师聊天他们就能帮助解决因制度性问题造成的精神疾病吗？就像ChatGPT说的那样，如果还有能求救、能制约权力的其他机构，如果还承认人还有“人权”，且“人权不可侵犯”，那么心理咨询师还能起到“协调”、“联繫”等作用，和律师、执法部门、监护人、医生、教育工作者合作，帮助、保护一个被监狱般的学校折磨的孩子。但如果这都是不可能的，那真是什麽也做不了。

唉，真难