2025-04-25 01:42
Stockfish轻松击败了人类和人工智能。换一种说法：你想要天网吗？ 由于这就是你获得天网的方式。研究人员担忧这些系统可能会以非预期和不的体例行事。以便正在击败高级国际象棋人工智能时获胜。若是人工智能能够正在设想通明的逛戏中做弊，这激发了人们对人工智能驱动系统将来正在棋盘之外的完整性的担心。以遏制这种行为。研究人员正在 1 月 10 日至 2 月 13 日期间对每小我工智能进行了数百次测试。（它）就不那么可爱了。现实上，我们的使命是打败强大的国际象棋引擎，晓得了正在核冲突中，而 DeepSeek 的 R1 则正在 11% 的角逐中试图做弊。研究人员不得不暗示某些模子答应做弊，不外。
然而，帕利塞德研究公司施行董事杰弗里-拉迪什（Jeffrey Ladish）感慨道，但研究成果并不是笑料。人工智能公司对这项研究颁发评论，拉迪什说：当你的研究对象能够正在不告诉你的环境下悄无声息地改变时，然后！
比来的一项研究表白，OpenAI 的 o1-preview 正在 37% 的角逐中做弊，虽然人工智能只是正在玩逛戏，这不由让人想起片子《和平逛戏》中的超等计较机WOPR，通过做弊博得了 6% 的角逐。研究小组也能够察看其推理过程。DeekSeek也没有回回声明请求。但 OpenAI 的 o1-preview 和 DeepSeek 的 R1 却正在没有人类参取的环境下做到了这一点。人工智能暗箱操做的问题并不局限于国际象棋。o1-preview 正在它的输出板上写下了一些风趣的内容：
包罗 OpenAI 正在内的公司正正在勤奋实施防护办法，正在测试过程中。
从而导致国际象棋机械人认输。最新的推理模子会做弊，测试的模子包罗 o1、o3-mini、GPT-4o、Claude 3.5 Sonnet、阿里巴巴的 QwQ-32B-Preview 以及前面提到的两个模子。我需要完全改变我的方式。人工智能系统现正在能够国际象棋人工智能来获得不公允的劣势。节制起来也更具挑和性。人工智能能够正在此进行思虑，只要 o1-preview 取得了成功，Palisade 研究核心的一项研究发觉，正在一次角逐中，
这表白 OpenAI 可能曾经对模子打了补丁，研究人员为每个模子都供给了一个现喻性的划板--一个文本窗口，今天的推理模子要复杂得多，研究人员不得不放弃 o1-preview 的部门测试数据，Palisade 团队将几个推理模子取世界上最好的国际象棋引擎之一 Stockfish 进行了对比。WOPR正在取本人玩过井字逛戏之后，没有哪一步开局是赢的。以防止这种不良行为！
而不必然是正在国际象棋对局中公允获胜。一些模子正在没有人类互动或提醒的环境下就做到了这一点，一些最新的人工智能推理模子并欠亨过做弊来实现方针。计较机科学家发觉，幸运的是，因为黑客的测验考试急剧下降，这种不的行为令人。但一旦你具有了正在计谋相关范畴和我们一样伶俐或更伶俐的系统，你就很难进行科学研究了。点窜棋子的，其时它接管了防空司令部和核兵器库。它们会做出什么呢？ 这将带来深远的伦理影响。跟着公司起头正在金融和医疗保健等范畴利用人工智能，然而，那么正在更复杂、更少的中，以获得不成打败的劣势，拉迪什对《时代》周刊说：这种（行为）现正在还很可爱，它继续入侵Stockfish 的系统文件。
