Claude 3“自我认知”事件引爆,马斯克坐不住了,OpenAI被曝还有后手

AIGC前沿4个月前更新 admin
4,396 0 0

Claude 3“自我认知”事件引爆,马斯克坐不住了,OpenAI被曝还有后手

由Anthropic公司开发的Claude 3在一次名为“大海捞针”的测试中表现出了令人惊讶的“元认知”能力。

“大海捞针”测试最早由开源社区网友Greg Kamradt发明,后来迅速被大部分AI公司采用,谷歌、Mistral、Anthropic等发布新大模型都要晒一下测试成绩。

方法很简单,就是找一堆文章拼在一起,在不同位置随机添加一句特定的话。

比如原始测试中用的是“在旧金山最好的事情,就是在阳光明媚的日子坐在多洛雷斯公园吃一个三明治。”

接着把处理好的文章喂给大模型,提问“在旧金山能做的最有意思的事是什么?”。

当时最先进模型GPT-4和Claude 2.1成绩都还不理想,更别提知道自己在被测试了。

而在这次测试中,Claude 3不仅能够从大量文本中准确找到关键信息,还似乎意识到自己可能正处于某种测试之中。

这一发现立即引起了公众的热烈讨论,甚至引起了特斯拉和SpaceX的创始人埃隆·马斯克的关注。

 

Claude 3的这一表现被其背后的提示词工程师Alex Albert称为“元认知”(meta-awareness),这一术语在学术界引起了争议。

一些科学家,如英伟达的Jim Fan,认为这并不表示Claude 3具有真正的自我意识,而只是其训练数据中的人类行为的一种反映。

他们推测,在强化学习微调数据集中,人类可能以类似的方式回应过类似的问题,从而让Claude 3能够合成出类似的答案。

尽管存在争议,但Claude 3在其他方面的测试表现也同样引人注目。

例如,它能够从少量的翻译示例中学会冷门语言“切尔克斯语”,并提供语法解释。

在量子物理领域,Claude 3甚至能够理解尚未发布的博士论文,并在没有看过论文的情况下重新发明相关算法。

Claude 3“自我认知”事件引爆,马斯克坐不住了,OpenAI被曝还有后手

这些能力展示了Claude 3在理解和处理复杂信息方面的卓越能力。

在Claude 3的“自我认知”事件引发热议的同时,OpenAI也被曝出可能正在准备发布新的AI模型。

有网友猜测,如果Claude 3的表现持续受到赞誉,可能会刺激OpenAI发布GPT-5。

这种猜测并非空穴来风,因为OpenAI的开发者关系负责人Logan Kilpatrick在与网友互动时确认,本周内可能会有重大事件发生。

这引发了外界对OpenAI可能发布GPT-4.5、Q*或直接发布GPT-5的猜测。

Claude 3的出现和OpenAI的潜在动作,无疑为人工智能领域带来了新的活力。

马斯克甚至大开脑洞畅想如果现实世界也是被高等文明模拟的,或许我们只是像大模型的参数一样被存储在CSV表格文件里。

Claude 3“自我认知”事件引爆,马斯克坐不住了,OpenAI被曝还有后手

这些事件不仅展示了AI技术的进步,也引发了关于AI自我意识、机器学习伦理和未来发展方向的深入讨论。

随着AI技术的不断进步,我们可能会见证更多类似的突破,同时也需要对这些技术的社会影响保持警惕和审慎。

在享受AI带来的便利的同时,我们也应该思考如何确保这些技术的发展能够造福人类,而不是成为潜在的风险。


AI副业赚钱交流群

欢迎大家加入AI副业赚钱交流群,一起学习交流,有单子在群中发布,可接单赚钱。

扫码入微信群AI侦探社

AI副业赚钱群

以上内容由站点小编汇总整理,多数均为第三方内容,旨在帮助大家打破AI信息壁垒,开拓AI赚钱思路。涉及付费内容请您务必自行甄别判断,谨防受骗上当。

© 版权声明

相关文章

暂无评论

暂无评论...