MIT新研究 生成式AI并非推理高手更像是记忆大师
- 来源:互联网
- 作者:IT之家
- 编辑:陶笛
如今生成式 AI 的迅猛发展和广泛应用引发了诸多担忧,从隐私安全到潜在的失业危机。
虽然 AI 聊天机器人如 ChatGPT 和微软 Copilot 在短短时间内取得了惊人进步,能够写代码、纠错甚至挑战人类创意,但它们真的像表面看起来那么聪明吗?
麻省理工学院计算机科学与人工智能实验室(CSAIL)的一项最新研究指出,这些强大的大型语言模型(LLM)似乎更依赖记忆而不是真正的推理能力。它们在熟悉的任务上表现出色,但在面对新问题时却显得力不从心。
研究人员通过对比 AI 在不同任务上的表现得出这一结论。例如,GPT-4 在十进制算术方面表现优异,但在其他进制下却难以应对,类似的现象也出现在棋类游戏和空间推理等领域。
研究人员认为,AI 更像是记忆力超群的“鹦鹉”,而非具备真正推理能力的“智者”。
研究结果表明,AI 在训练有素的领域内可以达到甚至超越人类水平,但这更多的是一种“记忆力”的体现。一旦面对全新的挑战,需要真正的推理能力时,AI 的优势便不再明显。
这一发现对 AI 的未来发展提出了新的挑战。虽然 AI 在某些领域已经展现出超越人类的能力,例如自动化大量重复性工作,但在创意、解决复杂问题等方面仍有巨大的提升空间。
例如,一些媒体机构尝试用 AI 取代记者,结果却发现 AI 生成的新闻错误百出,反而增加了编辑的工作量。
游戏行业也面临类似的问题,AI 工具虽然能辅助开发过程,但核心创意和游戏体验的打造仍然离不开人类的智慧和创造力。
![](https://www.3dmgame.com/page/images/PC_tg3dm.jpg)
玩家点评 (0人参与,0条评论)
热门评论
全部评论