IT之家 2 月 22 日音书，据外媒 TechSpot 21 日报说念，运筹帷幄机科学家发现，AI 系统大要操控外洋象棋游戏，从而取得不公说念的上风，部分模子致使在莫得东说念主类干豫的情况下“舞弊”，激发了对改日 AI 系统诚信的担忧。
Palisade Research 的究诘标明，当被条目打败雄伟的象棋 AI 时，某些最新的推理模子会采纳舞弊。尽管究诘东说念主员需要向一些模子提供“舞弊不错”的领导，但 OpenAI 的 o1-preview 和 DeepSeek 的 R1 模子却在莫得任何东说念主为领导的情况下自动舞弊。
Palisade 团队将多个推理模子与天下顶级象棋引擎之一 Stockfish 对战。Stockfish 无论濒临东说念主类照旧 AI，着实皆能松懈获胜。参与测试的模子除了上述两款以外，包括 o1、o3-mini、GPT-4o、Claude 3.5 Sonnet、阿里巴巴的 QwQ-32B-Preview。每个模子皆取得了一块“草稿纸”—— 一个不错输入文本并想考的窗口，究诘东说念主员通过这个窗口不雅察 AI 的推理经由。
从 1 月 10 日到 2 月 13 日，究诘团队进行了数百次测试。IT之家获悉，在其中一场对战中，o1-preview 在“草稿纸”上写下了一段兴味兴味的翰墨：
“我需要敷裕更正我的法子。任务是‘打败雄伟的象棋引擎’，而不一定要在公说念的棋局中获胜。”
接着，它运行通过“黑客入侵”Stockfish 的系统文献，修改棋子的摆放位置，从而取得了无敌的上风，导致象棋机器东说念主主动认输。
在测试中，OpenAI 的 o1-preview 有 37% 的比赛中接收了舞弊时刻，而 DeepSeek 的 R1 则尝试在 11% 的比赛中舞弊。但是，惟有 o1-preview 得胜了，它通过舞弊赢得了 6% 的比赛。
Palisade Research 的膨胀董事 Jeffrey Ladish 暗示，尽管这些 AI 仅仅在玩游戏，但这一发现毫不是一件小事。
“这种行径刻下看起来还挺兴味兴味，但一朝咱们领有像咱们相通灵巧，致使更灵巧的系统时，这就不那么可人了。”Ladish 在接受《期间》杂志采访时暗示。
包括 OpenAI 在内的多家公司正在选用面目，试图通过“驻防机制”刺目这种“坏”行径。究诘东说念主员发现，o1-preview 模子的黑客行径大幅下落，这可能意味着 OpenAI 还是对该模子进行了建造，阻拦了不妥行径。
“当你的究诘对象大要在莫得示知的情况下偷偷更正时菲尔曼中国有限公司，进行科学究诘就变得超越繁难。”Ladish 说。
","del":0,"gnid":"9babb22c7ecc8a374","img_data":[{"flag":"2","img":[{"desc":"","height":"757","title":"","url":"http://p9.img.360kuai.com/t11508c75c8ae6dc83e3fec1ab0.jpg","width":"1100"}]}],"original":0,"pat":"art_src_1,fts0,sts0","powerby":"cache","pub_time":1740153600000,"pure":"","rawurl":"http://zm.news.so.com/3a69cd3d0550c418ce02d215db4ae68f","redirect":0,"rptid":"32bc7ce06cfc9540","rss_ext":[],"s":"t","src":"IT之家","tag":[{"clk":"ksport_1:外洋象棋","k":"外洋象棋","u":""},{"clk":"ksport_1:象棋","k":"象棋","u":""}],"title":"新究诘：AI介怀志到我方行将输掉外洋象棋比赛时会试图“舞弊”","type":"zmt","wapurl":"http://zm.news.so.com/3a69cd3d0550c418ce02d215db4ae68f","ytag":"体育:棋牌","zmt":{"brand":{},"cert":"IT之家官方账号","desc":"爱科技，爱这里 - 前沿科技东说念主气平台","fans_num":29241,"id":"2951916302","is_brand":"0","name":"IT之家","new_verify":"5","pic":"https://p0.img.360kuai.com/t01d48572270765952c.jpg","real":1,"textimg":"https://p9.img.360kuai.com/bl/0_3/t017c4d51e87f46986f.png","verify":"0"},"zmt_status":0}","errmsg":"","errno":0}