信息是一种有价值的商品。多亏了科技，网上有数百万tb的数据。

　　像ChatGPT这样的人工智能(AI)工具现在正在代表我们管理这些信息——对其进行整理、总结，并将其呈现给我们。

　　但是，将信息管理“外包”给人工智能——尽管它很方便——也带来了后果。它不仅会影响我们的想法，还可能影响我们的思考方式。

　　在一个由人工智能算法决定哪些信息可以永久保存、哪些信息被丢弃的世界里，会发生什么?

　　生成式人工智能工具建立在经过数百gb预先存在数据训练的模型之上。从这些数据中，他们学习如何自主创建文本、图像、音频和视频内容，并通过拼凑“最有可能”的答案来回应用户的查询。

　　尽管ChatGPT在不到一年前才公开发布，但仍有数百万人在使用它。今年6月，自定义回复功能的加入使这个已经令人印象深刻的聊天机器人变得更加有用。该功能允许用户保存自定义说明，解释他们使用机器人的目的以及他们希望机器人如何响应。

　　这是“个性化人工智能”的几个例子之一:一类人工智能工具，生成适合用户特定需求和偏好的内容。

　　另一个例子是meta最近发布的虚拟助手meta AI。这个聊天机器人可以在WhatsApp、Messenger和Instagram等meta平台上进行对话、生成图像和执行任务。

　　人工智能研究员、DeepMind的联合创始人穆斯塔法·苏莱曼(Mustafa Suleyman)将个性化人工智能描述为一种关系，而不是一种技术。“是一个朋友。它真的会永远在你身边，和你生活在一起——基本上是在你的团队里。我喜欢把它想象成一个伟大的教练在你身边。”

　　但这些技术也存在争议，人们担心数据所有权、偏见和错误信息。

　　科技公司正试图找到解决这些问题的方法。例如，谷歌增加了由其搜索生成体验(SGE)工具生成的人工智能搜索摘要的源链接，该工具今年早些时候因提供不准确和有问题的回答而受到抨击。

　　生成式人工智能工具——尤其是那些为我们量身定制的工具——将如何改变我们的思维方式?

　　为了理解这一点，让我们回顾一下20世纪90年代初互联网首次进入我们生活的时候。人们突然间可以获取几乎任何东西的信息，无论是银行、烘焙、教学还是旅行。

　　近30年来，研究表明，与这种全球“蜂群思维”的联系如何改变了我们的认知、记忆和创造力。

　　例如，即时访问相当于3055亿页的信息增加了人们的元知识，即他们对知识的了解。这种现象的一个影响就是“谷歌效应”:在线搜索提高了我们查找信息的能力，但却降低了我们对信息内容的记忆。

　　一方面，将我们的思维卸给搜索引擎已经被证明可以释放我们解决问题和创造性思维的脑力储备。另一方面，在线信息检索与注意力分散和依赖性增加有关。

　　研究还表明，无论检索信息的数量或质量如何，在线搜索都会增加我们的认知自尊。换句话说，它增加了我们对自己“聪明”的信心。

　　再加上质疑信息是一件费力的事情——我们越信任搜索引擎，我们就越不会对搜索结果进行批判性的评价——你就会明白，为什么接触到前所未有的大量信息并不一定会让我们变得更聪明。

　　今天的生成式人工智能工具不仅仅是向我们展示搜索结果。他们为我们找到信息，评估它，综合它，然后把它呈现给我们。

　　这可能意味着什么?如果不推动以人为主导的质量控制，前景并不乐观。

　　生成式人工智能能够产生熟悉、客观和吸引人的反应，这意味着它让我们更容易受到认知偏见的影响。

　　例如，自动化偏差是指人类倾向于高估机器来源信息的完整性。单纯的曝光效应是指我们更容易相信那些熟悉或个人的信息。

　　对社交媒体的研究可以帮助我们理解这种偏见的影响。在2016年的一项研究中，Facebook用户报告说，基于网上发布的新闻内容的数量，而不是他们实际阅读的新闻内容的数量，他们感觉自己更“知情”。

　　我们也知道，社交媒体算法产生的“过滤泡沫”——根据我们的兴趣过滤我们的信息流——限制了我们接触到的内容的多样性。

　　这种信息缩小的过程已经被证明会通过减少人们考虑不同观点的倾向而加剧意识形态的两极分化。它也被证明会增加我们接触到假新闻的可能性。

　　毫无疑问，生成式人工智能是一股革命性的力量，有可能为社会做出伟大的贡献。它可以通过提供个性化的内容来重塑我们的教育体系，通过加快写作和信息分析来改变我们的工作实践，并推动科学发现的前沿。

　　它甚至有可能通过帮助我们与他人交流和联系来积极地改变我们的关系，有时还可以作为一种合成伴侣的形式。

　　但是，如果我们判断未来的唯一方法是回顾过去，也许现在是时候反思互联网和社交媒体如何改变了我们的认知，并采取一些预防措施。培养人工智能素养是一个很好的起点，设计鼓励人类自主和批判性思维的人工智能工具也是一个很好的起点。

　　最终，我们需要了解我们自己和人工智能的优势和劣势，以确保这些“思考”伙伴帮助我们创造我们想要的未来——而不是碰巧排在清单顶端的未来。由The Conversation提供

　　本文转载自The Co在知识共享许可下的对话。阅读原文。

　　引用:变笨还是变聪明:生成式人工智能将如何改变我们的思维方式?(2023, 10月13日)从https://techxplore.com/news/2023-10-dumbing-wising-generative-ai.html检索2023年10月17日

　　作品受版权保护。除为私人学习或研究目的而进行的任何公平交易外，未经书面许可，不得转载任何部分。的有限公司

　　内容仅供参考之用。

　　<