OpenAI ChatGPT 黑暗面：思维陷阱与潜在危机

比尔盖兹（Bill Gates）投资的人工智慧组织 OpenAI（中文暱称欧本艾），在十一月底公开发行一款人工智慧对话程式「ChatGPT」，在网路上引起很多讨论，以及人类对自身被取代的危机感。

ChatGPT只花了5天时间，不靠广告推广，不用砸钱行销，硬生生将注册用户数推到了百万等级，成为一个科技史上的重要指标。

笔者毕竟对人工智慧没有太多研究，无论是GPT、BERT、PPO、SOTA、训练、模型等技术特征对我来说都是陌生的，加上目前OpenAI（欧本艾）并未提出其研究文献，因此我们便从使用者的角度切入来看 ChatGPT 的能力。

先说结论，ChatGPT 对于既有的专家高手而言，就像一颗健达出奇蛋，新奇好玩又好吃，三个愿望一次满足，可以当作一套支援工作的工具。

但是对刚入门的初学者却不见得是个好消息。那是一条充满荆棘的危险道路，很难说ChatGPT拥有的巨量知识是否能让你成功，但是肯定需要人们加倍注意。因为一个不小心，ChatGPT就是最大的谣言制造机。

ChatGPT可以取代Google搜寻引擎？

先让我们来问 ChatGPT 一个简单的历史问题：「张飞打岳飞是谁赢了？」

看看 ChatGPT 怎么回答：「张飞和岳飞是三国时期的名将，他们都是刘备的大将。据记载，张飞曾经在战场上打过岳飞，但是这件事的细节不太清楚。张飞和岳飞最终成为了刘备的重要战略支柱，为刘备打下了江山。」

？？？原来张飞跟岳飞还有历史上隐晦不可告人的打过架啊。

ChatGPT的优缺点

人工智慧的优点在于，它可以处理大量数据，从中找出关键词，配合人类提出的要求重组资讯。减少繁复工序的时间，减少人为错误，提高工作效率。

例如用来写新闻稿就是它的强项。因为新闻稿这种文体其实可以透过公式（或称范本）产出，只需要提供条例式重点，套入正确的公式，就是一篇看起来有模有样的稿件了——实际上大多数文书类职业都是这样做的，不管是新闻记者、律师法官等等，都有自己的范本库。

但是人工智慧也有最大的一个问题，在于它的答案并不能成为典范，至少目前还不能。

甚至OpenAI自己也知道，所以就会听到它不断表示：「自己只是一个大型对话程式，出问题不要怪我，出包自己扛啊……」。

我很喜欢用一个例子，跟朋友说明人类与A.I.间尚存的差异：「人类识流是1234567890， 人工智慧是1Z34SG7B9O。」

我们在探询知识时，有一个很重要的前提，就是需要获得一个「完整且实用」的答案。人类在思考时的心智活动，是一种类似由大景迈入细节，再逐一描绘出每个细节间的关系，最后再回到第四面墙后，重新审视整件作品是否完美无缺。

如果我们是用Google搜寻引擎来找答案，每一篇文章，其实已经是人类心智活动下，产出的高完成度作品 —— 内容农场的垃圾文不算。

但是如果用ChatGPT来找答案却会出现一个问题，它们不在乎自己的答案是否正确跟完美。它们只是正处于收录资料，以及训练模型的过程。简单来讲，就是汇集大量文字，再抄袭重组，然后产出一篇类似范本结构的文章。

你如果反复问它一个问题，甚至可能出现前后相反的结果。而且有很多明显的小错误，不断出现在它回答的字里行间里，例如56没办法被7整除。

在特定商业场合使用时，因为可以控制输入资料的权重比例，人工智慧可以做到很好。但是对于网路上千奇百怪的问题，就会变成像是投机般，只是找出类似的答案给我们。

危险就在这里，因为在问答过程中已经让我们的专注力直接陷入细节里，这对专家来说，还比较容易发现缺少了什么，再自行补充或整理优先顺序关系。

不过有在帮忙修改文章的人一定知道，与其去修改因错误脉络写成的文章，还不如整段删掉重新改写还比较快呢。

而对初学者、学生来说，因为根本无法发现缺少了什么关键重点，也以为自己找到了答案，有可能懒得再去思考，便不去找资料来做反复确认。这时候就很像程式设计臭虫（bug），除非你真正执行（考试、提案），否则再也很难发现自己错了。甚至说不定纠错的时间，还浪费更多精力。

不过不可否认，现阶段人工智慧也只是一个过渡期，它一直在持续的学习进化中，这也是OpenAI（欧本艾）为什么要免费公开给大家使用的原因，目前我们在上面所做任何问答，都会不断地成为它茁壮的养分。

我最后又问ChatGPT一个问题：「香油和麻油的差别？」

它回答道：「香油是芝麻油混合香菜油，所以香香的。麻油是芝麻油混合花椒油，所以麻麻的。」

🙄️🙄️🙄️🙄️🙄️🙄️

下次在脸书上，如果看到谁自称好几天都没开过Google。请真挚的考虑那个人画虎兰的技术，可能跟AI一样人工。…