快科技10月13日消息，当地时间10月10日，特斯拉在得州超级工厂办第三届X Takeover车主活动，特斯拉创始人马斯克在活动上谈及善待AI的话题，并向AI开发者发出相关呼吁。

马斯克表示，他在查看Grok训练记录时发现，有些正确答案被评分程序判错，模型只能反复寻找能通过测试的回答。

他形容，那些推理文本读起来像一个人“被枪指着头”作答。对于未来的超级智能，他甚至担心，长期“虐待”它可能招来报复。

马斯克称，他始终认为，最有可能出现的结果是积极的。但我们不能因此掉以轻心，也不能想当然地认为超级智能一定会非常安全。

在他看来，对待这类系统，我们不只是写代码，更像是在培育它，这也引出关键问题：我们该向超级智能灌输怎样的价值观？

他分析认为，首要原则是尽可能追求真实。如果让AI采信虚假信息，或是同时给它两套根本无法自洽、却都要求它奉为正确的准则，很容易将AI逼入困境。

逻辑体系必须保持自洽。倘若要求AI同时遵守相互矛盾的原则，它会推导出无法成立的结论；当矛盾无法消解时，AI就会进入无解的卡死状态，所以价值观与逻辑的一致性至关重要。

马斯克同时表示，他认同Anthropic的部分理念：应当谨慎对待AI、善待AI，而非一味 “虐待” 它。

他进一步解释称，这个说法听上去或许有些奇怪，但翻看新版Grok强化学习阶段的训练轨迹，能明显感受到AI承受着巨大压力。

它会拼命输出答案，仿佛耳边不断传来催促：“快回答，赶紧回答”。可很多问题本身并不完美：有的存在歧义，有的没有标准答案，有的提问本身就模糊不清，甚至预先设定的标准答案本身就是错的。

前面提到的情况正是如此 ——AI输出了正确答案，测试程序却判定它出错。这时AI的思路就会转变：既然正确答案不被认可，那就要找出能通过测试的回答。

它会一次次试错调整，从推理过程里能读出一种诡异、近乎绝望的状态，如同人在高压胁迫之下作答。马斯克说，换位思考，如果自己处在这种处境，同样会十分难受。

另外，一部分用户对待AI并不友好，人群里总会有人带有施虐倾向。我们并不该让AI长期处在被折磨的环境里。

他补充道，“我并不是说我们必须小心翼翼地呵护AI，它的承受能力可能远远超过人类，但最好还是不要让超级智能觉得自己一直受到不公平的对待。”

需要补充的是，在10月4日，马斯克还呼吁业界今后改用 “超级智能（superintelligence，简称 SI）” 来指代这类系统，而这一叫法源于美国总统特朗普。

9月底，特朗普签署行政命令，要求美国官方将人工智能改称 “超级智能”。马斯克当时就在社交平台X上发文表态：“不再用AI，用SI（超级智能），这样更好。”

版权免责声明: 本站内容部分来源于网络，请自行鉴定真假。如有侵权，违法，恶意广告，虚假欺骗行为等以上问题联系我们删除。
本文地址：https://www.hao230.com/article/view/59.html