多年来，每个人都说最新的AI是“预测”系统，可以预测句子中的下一个单词在编写句子之前。但是他们错了 。
喜欢指数的未来？加入我们的Xpotential社区 ，通过Xpotential University的课程进行未来的证明 ，阅读有关指数技术和趋势，连接 ，观看Keynote或浏览我的博客 。
人工智能（AI）公司一直对其模型进行的不断改进可能会使您认为我们终于弄清楚了大型语言模型（LLM）的工作方式。但是 ，不 - LLM仍然是有史以来最了解的大众市场技术之一 。但是Anthropic试图通过一种称为Circuit Tracing的新技术来改变这种状况，该技术帮助公司绘制了其Claude 3.5 Haiku模型的某些内部工作 。
电路跟踪是一种相对较新的技术 ，可让研究人员跟踪AI模型如何逐步构建答案 - 就像关注大脑中的接线一样。它通过将模型的不同组件链在一起而起作用 。人类使用它来监视Claude的内部运作 。这揭示了一些真正奇怪的 ，有时是不人道的方式，该答案甚至是机器人在被问及时都不会承认使用的答案。
总而言之 ，团队检查了克劳德（Claude）的10种不同行为 。三个脱颖而出 。
一个非常简单 ，涉及回答“小相反？ ”的问题。用不同的语言 。您可能会认为克劳德（Claude）可能具有单独的英语，法语或中文组成部分 。但是不 ，它首先使用语言中性电路首先找出答案（与“ Bigness ”有关的东西） ，然后选择正确的单词以匹配问题的语言。
这意味着克劳德（Claude）不仅在反流着记忆的翻译，而且还像人类一样应用了跨语言的抽象概念。
然后有数学 。要求克劳德（Claude）添加36和59，而不是遵循标准方法（添加一个位置 ，携带十个等） ，而是做一些怪异的方法 。它通过添加“ 40ish和60ish”或“ 57ish and 36ish ”开始近似，并最终降落在“ 92ish ”上。同时 ，模型的另一部分侧重于数字6和9 ，意识到答案必须以5结束 。结合这两个怪异的步骤，并以95速度到达 。
但是 ，如果您询问克劳德如何解决该问题 ，它将自信地描述标准的级别方法，掩盖其实际奇异的推理过程。
诗歌甚至是陌生人 。研究人员的任务是克劳德（Claude）撰写押韵对联 ，使其迅速“押韵对联：他看到了胡萝卜 ，不得不抓住它 。”在这里，该模型在处理“抓住它 ”时 ，在“兔子 ”一词上定位为押韵。然后 ，似乎已经决定了下一行，最终吐出了“他的饥饿就像饥饿的兔子” 。
这种倒退的工作表明，LLM的远见可能比我们想象的要多 ，而且他们并不总是预测一个词来形成一个连贯的答案 。总而言之 ，这些发现很重要 - 他们证明我们最终可以看到这些模型至少在某种程度上是如何运作的。
尽管如此，该公司的研究科学家约书亚·巴特森（Joshua Batson）承认 ，麻省理工学院（MIT）只是“小费 ”的东西 。即使是单个响应也需要几个小时 ，还有很多事情要做 。
来源:https://xianggongguan.cn/zixun/202506-4599.html 来源:https://xianggongguan.cn/life/202506-4587.html 来源:https://xianggongguan.cn/kexue/202506-4663.html 来源:https://www.siyonli.com/cshi/202506-3497.html 来源:https://www.siyonli.com/cshi/202506-3790.html 来源:https://0514ps.com/zixun/202506-1683.html 来源:https://www.siyonli.com/zlan/202506-3782.html 来源:https://xianggongguan.cn/zixun/202506-4568.html 来源:https://0514ps.com/inte/202506-1678.html 来源:https://0514ps.com/inte/202506-1774.html
来源:https://xianggongguan.cn/zixun/202506-4599.html 来源:https://xianggongguan.cn/life/202506-4587.html 来源:https://xianggongguan.cn/kexue/202506-4663.html 来源:https://www.siyonli.com/cshi/202506-3497.html 来源:https://www.siyonli.com/cshi/202506-3790.html 来源:https://0514ps.com/zixun/202506-1683.html 来源:https://www.siyonli.com/zlan/202506-3782.html 来源:https://xianggongguan.cn/zixun/202506-4568.html 来源:https://0514ps.com/inte/202506-1678.html 来源:https://0514ps.com/inte/202506-1774.html
本文来自作者[绮岚]投稿，不代表策华号立场，如若转载，请注明出处：https://cehuayingxiao.cn/zlan/202506-39643.html
评论列表（4条）
我是策华号的签约作者“绮岚”！
希望本篇文章《多年来，每个人都说最新的AI是“预测”系统，可以预测句子中的下一个单词在编写句子之前。但是他们错了。》能对你有所帮助！
本站[策华号]内容主要涵盖：国足,欧洲杯,世界杯,篮球,欧冠,亚冠,英超,足球,综合体育
本文概览：多年来，每个人都说最新的AI是“预测”系统，可以预测句子中的下一个单词在编写句子之前。但是他们错了。 喜欢指数的未来？加入我们的Xpotential社区，通过Xpoten...