ChatGPT这么火，如果ChatGPT滥用或者重度依赖，会怎么样？

目录

 绪论

风险

风险1 - 思维能力：

风险2-历史文献：

风险3-舆论问题：

总结

---

我们都知道，现在最火的就是ChatGPT，各大大厂都在讨论它，马大大也出山讨论它，可想而知，已经火到什么地步了🔥。

 绪论

我不知道，有没有注意到他的标题，第一想到的不是去发展创业或者创造产品，而是谈他的问题，我们都知道ChatGPT是一种基于机器学习算法的人工智能技术，可以根据用户输入的文本生成自然语言回复。它在客户服务、在线教育和智能家居等多个领域都有应用。这种技术的优势在于能够快速处理大量用户请求，提高工作效率和用户体验，同时降低人力成本。

然而，如果ChatGPT被滥用，可能会带来负面后果。例如，机器学习算法可能受到偏见或数据不完整的影响，导致回复不准确或有误导性。此外，如果ChatGPT被用于恶意目的，如在社交媒体上散布谣言或进行网络欺诈活动，可能会对社会造成严重危害，如果被有心之人拿来充当水军，则可能会更加严重，今天我们就来聊一聊滥用的风险，凡事都需要有敬畏之心。

风险

风险1 - 思维能力：

 用户滥用ChatGPT会导致不思进取。当人们过度依赖ChatGPT时，他们可能会变得懒惰，不再思考问题，也不再寻求自己的答案。这可能会导致他们的思维停滞不前，无法进步，不知道大家有没有这个想法，接下来，我们来佐证一下这个问题：

佐证1: 我们想象一下，老一辈科研人员在没有人工智能、没有chatGPT的时候，是如何解决科研难题的？

博主不才，只能大致推测一下主要步骤，老一辈科学家的思考方式包括但不限于科研实验、理论模型和交流讨论三个方面，这种方式虽然相对比较传统，每一个人都有一些自己的思想和方式，在这些思维方式的背后，会有不一样的火花碰撞，也会有一些不一样的化学反应，好比“一语点醒梦中人”，如果说，这种传统方式逐渐被AI代替，我觉得这跟变相的AI统治人类没有区别。

佐证2: 我们想像一下，如果说我们的下一代，不是以chatGPT当作工具来使用，而是拿他来充当大脑，凡事都依靠他的回答来解决问题，回答虽然说有事实数据和理论知识，但是遇到没有的问题，如果遇到没有相关的数据推送给它呢？它推理一个谬论或者错误的答案，如果我们不假思索的去做，天晓得会发生什么？

再次我想说的是，ChatGPT只是提供了一个快捷的解决方案，这让人们更容易地获得答案。但是，当人们依赖于ChatGPT时，他们可能会忽略掉自己思考问题的过程，从而失去了锻炼思维的机会。这种情况下，人们可能不再有自己的思维方式，而是依赖于ChatGPT提供的答案，这将导致他们的思维停滞不前。拿最近姚晨说的一句话，我觉得特别对 ，也需要引起我们的思考，大致内容是艺术不可能量化，AI推荐的不一定就是最好的，也不一定就是对的。如果要看姚晨的这段采访的，可以访问一下网址。

http://f.video.weibocdn.com/o0/vz86N3etlx083Y3KDkcg01041200aWZl0E010.mp4?label=mp4_720p&template=576x1024.24.0&ori=0&ps=1CvO5P1PN4Iles&Expires=1680240200&ssig=3xNErEddqS&KID=unistore,video

我们一定要有自己的想法和动手能力，如果说，它推荐了一个错误的答案，不假思索的按照它的答案去做，最后产生了不可挽回的结果，你会怪这个工具吗？即使怪它也没有用，我们要知道承担后果的是你自己，所以我们一定要慎重，定位你与它的关系，chatGPT只是一个工具，也只能是一个工具，即使出现了智能机器人，它也只是服务人类，我们只是在操作这个工具实现自己的事情，提高效率和质量，仅此而已，

风险2-历史文献：

历史是人类文明的瑰宝，它记录了人类文明的起源和发展。但是，当人们过度依赖ChatGPT时，在寻找历史信息时，他们可能会直接使用ChatGPT的答案，并忽略掉真正的历史文献。这样做可能会导致历史事件被篡改或忘记，这将对我们的文化和历史产生深远的影响

我们想想一个场景： 如果当前的历史数据和文献，拿一些错误的文献来训练模型，当ChatGPT被用来回答历史问题时，如果回复的历史事件被篡改或者有误，我们怎么办，我们怎么判断它说的对还是不对呢？

如果说有一定的知识量，很快就能判断出来，这个历史对不对，但是如果没有这个知识量呢？如果我不了解当时的那段历史，我可能就真的按照他的回答来记忆了，如果这个历史被官方恶意篡改，恶意抹杀，我不知道这个影响面有多广，产生的影响有多深，但是这个真的值得我们思考～

风险3-舆论问题：

我们要知道ChatGPT的生成文本并不总是准确的，甚至可能存在错误和偏见。如果滥用ChatGPT来生成虚假的新闻、评论、或者推特等，就会引发错误的舆论。这些虚假信息可能会误导公众，导致社会不稳定和混乱。还可能导致一些其他的错误舆论，会导致公众对真实事件的误解，这个影响面会很广很大很深了，另一个风险是产生水军。水军指的是一群通过虚假账号、机器人等手段，在社交媒体上发布大量的虚假信息来制造话题和舆论。如果ChatGPT被用于生成虚假评论或者虚假账号信息，就会产生更加真实的虚假消息，进一步加剧社交媒体上的混乱和不稳定。如果说有人使用ChatGPT生成大量的虚假评论，制造出一种错误的声音。这种虚假评论可能会影响公众对某些事物的看法，引发不必要的恐慌和担忧，这个影响面也会很广很大很深，

总结

我们一定要有自己的想法和动手能力，chatGPT只是一个工具，也只能是一个工具，即使出现了智能机器人，它也只是服务人类，我们只是在操作这个工具实现自己的事情，提高效率和质量，仅此而已。