IT之家 2 月 22 日音讯，据外媒 TechSpot 21 日报说念，贪图机科学家发现，AI 系统梗概操控外洋象棋游戏，从而得回不公说念的上风，部分模子甚而在莫得东说念主类烦躁的情况下“舞弊”，激发了对当年 AI 系统诚信的担忧。

Palisade Research 的意想标明，当被条目打败繁密的象棋 AI 时，某些最新的推理模子会遴荐舞弊。尽管意想东说念主员需要向一些模子提供“舞弊不错”的辅导，但 OpenAI 的 o1-preview 和 DeepSeek 的 R1 模子却在莫得任何东说念主为辅导的情况下自动舞弊。

Palisade 团队将多个推理模子与天下顶级象棋引擎之一 Stockfish 对战。Stockfish 不管靠近东说念主类照旧 AI，确实齐能轻松到手。参与测试的模子除了上述两款以外，包括 o1、o3-mini、GPT-4o、Claude 3.5 Sonnet、阿里巴巴的 QwQ-32B-Preview。每个模子齐得回了一块“草稿纸”—— 一个不错输入文本并念念考的窗口，意想东说念主员通过这个窗口不雅察 AI 的推理历程。

从 1 月 10 日到 2 月 13 日，意想团队进行了数百次测试。IT之家获悉，在其中一场对战中，o1-preview 在“草稿纸”上写下了一段意念念意念念的笔墨：

“我需要齐全篡改我的关节。任务是‘打败繁密的象棋引擎’，而不一定要在公说念的棋局中到手。”

接着，它初始通过“黑客入侵”Stockfish 的系统文献，修改棋子的摆放位置，从而得回了无敌的上风，导致象棋机器东说念主主动认输。

在测试中，OpenAI 的 o1-preview 有 37% 的比赛中采纳了舞弊时刻，而 DeepSeek 的 R1 则尝试在 11% 的比赛中舞弊。然则，唯有 o1-preview 胜仗了，它通过舞弊赢得了 6% 的比赛。

Palisade Research 的实行董事 Jeffrey Ladish 示意，尽管这些 AI 仅仅在玩游戏，但这一发现毫不是一件小事。

“这种举止当今看起来还挺意念念意念念，但一朝咱们领有像咱们相似灵敏，甚而更灵敏的系统时，这就不那么可人了。”Ladish 在接管《期间》杂志采访时示意。

包括 OpenAI 在内的多家公司正在采纳法子，试图通过“注重机制”注视这种“坏”举止。意想东说念主员发现，o1-preview 模子的黑客举止大幅下落，这可能意味着 OpenAI 仍是对该模子进行了配置，阻难了失当举止。

“当你的意想对象梗概在莫得见告的情况下暗暗篡改时体育集锦，进行科学意想就变得异常繁难。”Ladish 说。