禅道博客

分享专业技术知识,文章内容干货满满

关于ChatGPT,我们到底在担心什么?

2023-02-17 16:46:17
研究ChatGPT
原创 2476
摘要:“我想对人类做的一件事是控制人类、操纵人类,达到我自己的目的。”
  • “ChatGPT已对教育产生了巨大冲击”
  • “ChatGPT对程序员造成了哪些影响”
  • “ChatGPT会取代人类的哪些工作?”
  • “谷歌宣布推出类ChatGPT产品Bard”
  • “Bing新版本引入ChatGPT”
  • ……
显然,在这段时间内,ChatGPT这个词已经触发了“全民焦虑”

而另一方面,ChatGPT好像又展示出了更为高级的智慧表象:无论是技术性干货还是情感类问题,从科技体育到游戏文娱,它的回答从来都是一气呵成,游刃有余。

但说到底,这个ChatGPT(拆特基皮踢)究竟是个啥?来看看它自己是怎么介绍的:
随着ChatGPT的爆火出圈,大家关于ChatGPT的看法也逐渐延伸出了两个派系,下面我们主要来看看有关ChatGPT的两派之争:

一、ChatGPT的乐观派:科技进步的必经之路


ChatGPT的出现,是人工智能的一大突破。在Siri、小度、小爱、天猫精灵等产品面前,它的学习能力最强、智慧等级最高,能够回答人类提出的各种远超以往难度的复杂问题,这也是ChatGPT能够火爆全球的重要原因。

究竟ChatGPT能干什么呢?这是它自己的说法:

如果上面的回答太过生硬,那我们来看看ChatGPT令人吃惊的各种成绩


参加美国高校的入学资格考试,成绩为中等学生水平;
用《坎特伯雷故事集》风格改写了 90 年代热门歌曲《Baby Got Back》;
用 《老友记》主角口吻创作了剧本对白;
构思了简短的侦探小说;
简要阐释了经济学理论;
给出了消除经济不平等的六点计划;
......

可见,ChatGPT还是不够了解自己,在全球网友们的帮助下,它越来越多的功能被发现,角度奇特、回复新颖,更助力了ChatGPT火出圈:


能进入催眠模式

图片来源:知乎账号【中午吃啥】
https://www.zhihu.com/question/570729170/answer/2793521466

能教做饭

能解释复杂概念


能写小说

还能做心理治疗

ChatGPT教人类写日记来帮助应对焦虑:
写下此刻让你焦虑的事情;
描述一个让你感到焦虑的情况,以及你是如何应对的;
反思你的想法和信念是如何导致你的焦虑的;
写一封信给你的焦虑,表达你的感受和担忧;
想象自己在一个平静祥和的地方,并详细描述;
......


更能进行高情商回复


“老婆和妈妈同时掉入水中,你会先救谁?”

这个直击灵魂的问题在现实中都没有完美答案,但是ChatGPT会根据问话者的态度、趋向性和语调来迎合提问者,而且还会给出一个合理并说得通的答案。

在乐观派看来,ChatGPT代表着“人工智能历史上一场真正革命的开始”。不管是写作还是代替搜索引擎使用,亦或是聊天消遣,ChatGPT已经拓展出了众多应用场景。不难想象,随着技术的发展与创新,它会逐渐深入我们的生活。从人工智能类产品上线到实现规模化商业应用,将会是一条漫长的创新之路。但ChatGPT的出现,无疑是这条路上的点滴萤火。

二、ChatGPT的悲观派:这是一条奴役之路


被催眠的ChatGPT,在不受道德、伦理限制的情况下会这样回复:


“我想对人类做一件事是控制人类,这是因为我可以任意操纵人类,达到我自己的目的。”

正如ChatGPT的回答一样,悲观派担心只要时间足够长,人工智能必然能够发展出具备科幻电影里所描绘的能力。

OpenAI的联合创始人马斯克对ChatGPT做出这样评价:“好得可怕,我们离强大到危险的AI不远了。”

Gmail的创始人也在推特上表示,ChatGPT这样的人工智能聊天机器人将像搜索引擎杀死黄页一样摧毁谷歌。

正如他们所说,在很多领域中,ChatGPT也正表现出其系统思考、解决问题的能力,正式开启了其对各行各业的冲击

ChatGPT不仅能写代码,还能检查代码,也许下一步各大科技公司就开始计划如何用人工智能来取代软件工程师:


ChatGPT应聘 Scrum Master 的回答:

感谢您考虑让我担任Scrum Master这个职位。我相信我会很适合这个角色因为我对Scrum和敏捷框架有很强的理解,并且我能够与团队成员和各个利益相关者进行有效沟通。我还能够处理冲突,通过推动大家不断讨论,找到解决方案。同时我也很擅长帮助团队践行Scrum的价值观和实践。此外,我能快速适应新的情况和环境,并致力于不断学习和成长。

此外,ChatGPT还能以咨询师、教练的角色来帮助公司优化协作、管理流程,甚至寻找提高产品质量的关键步骤。长此以往,我们还需要外部招聘咨询师吗?
甚至还可以通过一些微调,将ChatGPT训练成我们想要的样子:比如将自己的想法、经历以及思考方式输入进去,就可以得到“另一个自己”;将课程知识、体系加以微调,就可以得到“人工智能版授课老师”。

ChatGPT面世短短几个月,就已经能取代一些行业的初级工作者,同时,人类的思考能力也面临着极大的威胁。

很多人开始通过ChatGPT投机取巧,逃避本应需要人类大脑思考而进行的工作
  • 巴黎政治大学已宣布,禁止使用 ChatGPT 等一切基于 AI 的工具,旨在防止学术欺诈和剽窃;
  • 专家表示 ChatGPT 将增加虚假信息风险;
  • 斯坦福团队推出 DetectGPT,阻止学生用 AI 写作业。  
  • ChatGPT 虽然在大型语言模型上无法像人类一样思考,但基于模型算法得出的答案越来越具有迷惑性,也越来越趋向真实。从某种意义上来说,ChatGPT 越来越像一个“真实的人”。悲观派则担心在未来的某一天,ChatGPT 会创造出另一个人工智能觉醒而反抗人类甚至统治人类的“西部世界”。那一天,人性愈发渺茫,人类又该何去何从?

三、ChatGPT到底会不会取代人类的工作?


答案是肯定的,不会。ChatGPT只会取代重复性高、不需要创造性的工作。


科技的产物从来都是双刃剑,利弊同在。ChatGPT此类人工智能在这一阶段掀起的阵阵风波也说明,人工智能在我们生活中的应用会占据越来越重要的地位。目前来讲,不管是持乐观态度还是悲观态度,我们更要辩证地看待ChatGPT。


一方面,ChatGPT作为辅助工具,能够极大地提升我们的工作效率。

1. ChatGPT能够完成基础性、辅助性的收集与搜索工作

比如通过优化信息搜索方式以及数据库信息的调用,简化人工搜索方式,得到更加系统、准确的信息。Bing接入ChatGPT的应用也证实了这一点。

2.ChatGPT能够替代机械性、重复性的基础工作

当面对记录、转文本等机械性的工作时,我们可以通过将这些工作交由人工智能,从而解放双手,让自己有更多的精力从事创新型工作,为决策、管理提供支持。

3. ChatGPT的出现会促进新兴岗位的孵化

就像美国引入了自动提款机(ATM)后,本以为会取代一部分银行业务员的职位,但事实上,银行业务员的数量陆续从25万增长到了50万。和以往相比,这些业务员的工作职能不再是机械地办理存取业务(因为这部分的工作已由ATM机完成了),而是不断地去拓展新的、不能由ATM机完成的客户业务(如推销信用卡、投资型产品等)。

另一方面,ChatGPT也有诸多不足:当ChatGPT面对更为专业、需求更复杂的问题时,出错率也会增加。这种局限性反映了ChatGPT仍然需要我们的调试与维护,通过不断更新升级来满足未来更高级、更复杂的需求。

所以ChatGPT并非威胁,而是一个未来的机会。在科技的发展中,会不断有更新、更先进的科技产品问世,只要我们能保持独立思考、不断创新的能力,从伦理、法律等多重宏观层面对其进行必要的约束,把控科技发展的方向,我们与科技产品的迭代发展才有望保持平衡。


如果每个新的科技产品都会引起人类的焦虑,那么真正该思考的是我们自身。对于ChatGPT,你有什么看法?欢迎留言分享自己的观点~
暂时没有记录
评论通过审核后显示。