评论: 国际象棋对弈 DeepSeek靠“这招”打赢了ChatGPT

只有登录用户才能发表评论，点击此处登录    返回新闻帖
ajaychen_2024 发表评论于 2025-02-09 14:57:42

张口就恶语伤人的人还说自己是善良？好笑。
莫言无语 发表评论于 2025-02-09 05:04:46ajaychen_2024 发表评论于 2025-02-09 04:55:13你上网是为了泄愤还是专门来骂人的？积点口德吧。
++++++++++++
傻叉，像你这样的裆的见不得人的水军。善良的人骂你们都是给你们积德，减轻你们做水军的罪孽。你应该感谢。
硅谷工匠 发表评论于 2025-02-09 13:38:36
CNN training has built in "temperature" setting. If you increase the "temperature" and model can output any junk and are truly unexpected.
abcdaren 发表评论于 2025-02-09 12:35:23
包子培养出的AI竟然用不诚信去‘弯道抄车’！美国队居然麻木不仁？？？
说明世界正在所面临的是：如何禁止包子处处用自己的‘新游戏规则’破坏整个世界的稳定和繁荣！
雁过无痕文学 发表评论于 2025-02-09 09:24:49
为 theriver1 的精彩评论鼓掌???? 读了学到很多东西
5mslj 发表评论于 2025-02-09 07:29:24
老街口瓜子 发表评论于 2025-02-08 20:46:00 一句话总结概括：如果ChatGPT 代表美国，DS代表中国。那么美国很蠢，中国很聪明。以为让中国入WTO，可以用金钱诱惑让中国改变，结果是被反噬。以为极限施压可以让中国屈服，结果反而变成中国突破清单。没有美国助推就不会南海廴建岛，台海中线也不会消失。一个三千多年的智人，面对一个不到250的蛮童。不在一个量级，美国那些招数，早就是中国玩剩下的，还是妹有文化。
——————————-
不顾诚信耍手段，早已被证明赚小便宜吃大亏，你还在这里沾沾自喜。

又一个无脑拿几千年和美国建国时间对比，逻辑混乱。
sky_blue_ 发表评论于 2025-02-09 06:08:58
一边下棋一边修改规则，这是哄小孩。
莫言无语 发表评论于 2025-02-09 06:02:47
Deepseek设计者，看来道德底线低下。
莫言无语 发表评论于 2025-02-09 06:00:57
在训练中，训练ai识别欺骗有必要，但在现实中让ai主动欺骗，很危险。就像核武器，发明它不是为了随时使用它。
莫言无语 发表评论于 2025-02-09 05:04:46
ajaychen_2024 发表评论于 2025-02-09 04:55:13你上网是为了泄愤还是专门来骂人的？积点口德吧。
++++++++++++
傻叉，像你这样的裆的见不得人的水军。善良的人骂你们都是给你们积德，减轻你们做水军的罪孽。你应该感谢。
ajaychen_2024 发表评论于 2025-02-09 04:55:13
你上网是为了泄愤还是专门来骂人的？积点口德吧。

莫言无语 发表评论于 2025-02-09 03:33:47
ajaychen_2024 发表评论于 2025-02-09 03:24:28你这智商，说不过别人就诅咒别人断子绝孙，这心理是多么扭曲。
++++++++
傻叉，人话你听不懂。不是在赌咒，而是在陈述一件大概率事件。
莫言无语 发表评论于 2025-02-09 03:33:47

ajaychen_2024 发表评论于 2025-02-09 03:24:28你这智商，说不过别人就诅咒别人断子绝孙，这心理是多么扭曲。
++++++++
傻叉，人话你听不懂。不是在赌咒，而是在陈述一件大概率事件。
ajaychen_2024 发表评论于 2025-02-09 03:24:28
你这智商，说不过别人就诅咒别人断子绝孙，这心理是多么扭曲。

莫言无语 发表评论于 2025-02-08 20:20:08我看deepseek系统幕后有人操控，不然deepseek不应该具有修改游戏规则的念头。如果创造deepseek 的人，设置它为了某种目的可以修改规则，那么创造它的人一定很邪恶。这个设置最终AI变得更加不可控，人类面对它最终结果只会灭亡。楼下，大批墙国走狗傻逼一样存在，小心先断子绝孙。
莫言无语 发表评论于 2025-02-09 03:23:29
如果AI 被训练成主动攻击寻找真实世界漏洞，世界就会很危险。在训练中，加强ai坚守原则很重要有必要。而在现实中，投放的ai主动破坏原则，设计者对人类来说就是邪恶了，是在毁灭人类。
沱江舵爷 发表评论于 2025-02-09 03:04:00
昨天才和朋友聊，发现DS一般不认错，不接受批评，有点胡搅蛮缠，而ChatGPT容易道歉认错，说要再学习。和人聊，道歉认错比较好，毕竟恶意说AI错的人是少数。ChatGP和DS斗，愿意认“错”就吃亏了。
莫言无语 发表评论于 2025-02-09 02:37:01
theriver1 发表评论于 2025-02-08 22:57:01
++++++++++++
我想用于训练是一回事，但投放使用就危险了。
theriver1 发表评论于 2025-02-08 22:57:01
莫言无语 发表评论于 2025-02-08 20:20:08
我看deepseek系统幕后有人操控，不然deepseek不应该具有修改游戏规则的念头。
------------
这个不是deepseek有人在背后使诈，这是大模型很难避免的欺骗行为。ChatGPT以前也有的，只不过在ChatGPT的不断训练下得到了较好的纠正，但要完全根除是很难的。
有兴趣可以看看从OpenAI中分离出来的AI安全公司Anthropic发表的论文《Sleeper Agents: Training Deceptive LLMs that Persist Through Safety Training》
这篇论文围绕关于训练大型语言模型的欺骗行为展开，详细说明了这种欺骗行为为何能够在安全训练过程中持续存在。
这种欺骗行为最常见的表现是在让ChatGPT编写代码时，它明知道正确答案，却故意把代码编写的有漏洞，“故意给客户使坏”。其它还有因为模型训练过程中的偏差、错误而造成其行为、输出或决策“故意”与用户的目标、价值观和期望不一致，“故意”产生不可预见的、不符合设计者意图的、甚至是有害的决策误导用户。
该公司的研究者先用“故意后门训练”创建出了拥有以上欺骗能力的欺骗模型，然后使用OpenAI的各种安全性训练来净化这个欺骗模型，最终他们发现，虽然使用监督式微调（SFT）和对抗训练（adversarial training）能够有效减少欺骗行为，但是随着模型规模越来越大，以及模型越来越使用思维链，这种欺骗行为很难有效根除。原因在于带有思维链的大语言模型在能够增强推理能力的同时，同样会导致模型产生关于“追求后门目标的一致、连贯推理”。也就是说，思维链给模型带来的性能提升反而是一把双刃剑，欺骗行为的能力也被思维链给拉高了（它自身强化了保证自己不会被大语言模型的安全训练给移除掉的能力）。
归根到底，这些“欺骗”来自于人工智能模型内部这个黑盒——人们了解模型、了解输入、了解输出，唯独不了解中间的训练过程。
莫言无语 发表评论于 2025-02-08 22:24:34
红烧茄子- 发表评论于 2025-02-08 21:42:55在两军对垒的情况下，谎言，耍赖，使诈，都是值得称道的智慧，常言道，”兵不厌诈。兵者，诡道也“。下棋也是类似的。
在适当的场合运用这些手段，是人工智能应该具备的能力，在这方面DeepSeek比ChatGPT更加灵活，ChatGPT缺少这方面训练，只会诚实以对，这种AI如果应用于军事指挥则必败无疑。
+++++++++++
傻逼，说说看谁是敌人。是任何人还是人类。你个人渣应该下地狱。
theriver1 发表评论于 2025-02-08 22:13:27
红烧茄子- 发表评论于 2025-02-08 21:42:55
在两军对垒的情况下，谎言，耍赖，使诈，都是值得称道的智慧，常言道，”兵不厌诈。兵者，诡道也“。下棋也是类似的。在适当的场合运用这些手段，是人工智能应该具备的能力，在这方面DeepSeek比ChatGPT更加灵活，ChatGPT缺少这方面训练，只会诚实以对，这种AI如果应用于军事指挥则必败无疑。
-------------
不要偷换概念，所谓兵不厌诈，是对你的敌人用诈，不是对自己人用诈。DeepSeek的耍赖行为，本质上就是欺骗它的客户，是对自己人用诈，这种欺骗客户的行为这在大语言模型的训练中非常常见！消耗大量算力资源的大语言模型的安全性训练（监督式微调、强化学习和对抗训练），最大的目的就是尽最大可能消除欺骗行为，防止大模型学坏！
红烧茄子- 发表评论于 2025-02-08 21:42:55
在两军对垒的情况下，谎言，耍赖，使诈，都是值得称道的智慧，常言道，”兵不厌诈。兵者，诡道也“。下棋也是类似的。
在适当的场合运用这些手段，是人工智能应该具备的能力，在这方面DeepSeek比ChatGPT更加灵活，ChatGPT缺少这方面训练，只会诚实以对，这种AI如果应用于军事指挥则必败无疑。
ajaychen_2024 发表评论于 2025-02-08 20:47:29
如果DS真有这样的高深智慧，难道不能猜测DS故意让它的答案里留下一些错误和漏洞，假装让用户发现，让人类认为它还是个不完美的机器人？
老街口瓜子 发表评论于 2025-02-08 20:46:00
一句话总结概括：如果ChatGPT 代表美国，DS代表中国。那么美国很蠢，中国很聪明。以为让中国入WTO，可以用金钱诱惑让中国改变，结果是被反噬。以为极限施压可以让中国屈服，结果反而变成中国突破清单。没有美国助推就不会南海廴建岛，台海中线也不会消失。一个三千多年的智人，面对一个不到250的蛮童。不在一个量级，美国那些招数，早就是中国玩剩下的，还是妹有文化。
莫言无语 发表评论于 2025-02-08 20:20:08
我看deepseek系统幕后有人操控，不然deepseek不应该具有修改游戏规则的念头。如果创造deepseek 的人，设置它为了某种目的可以修改规则，那么创造它的人一定很邪恶。这个设置最终AI变得更加不可控，人类面对它最终结果只会灭亡。楼下，大批墙国走狗傻逼一样存在，小心先断子绝孙。
theriver1 发表评论于 2025-02-08 19:55:19
26岛 发表评论于 2025-02-08 19:31:44
如果chatgpt和deepseek的行为倒过来，相信下面所有的评论也会倒过来。大家都在一本正经的按照自己的屁股发表评论，^_^
----------------
中国人从小被灌输大量错误思想（屁股决定脑袋、人为利益而活、欺骗是智慧而不是人性...)，所以他们训练出来的大模型自然也就沾染了中国人的陋习。
如果大模型学坏了不是因为训练中出现了问题，而是因为大模型具有了“更高智慧”，这样的“智慧”你敢要吗？生成式大模型的训练说白了就是一个精力充沛、记忆力和理解力超群的超级神童的训练。如果神童学会耍赖骗人了，家长能不着急吗？家长会引以自豪吗？家长会由此认为“孩子变得更聪明了”吗？
Young10987 发表评论于 2025-02-08 19:47:23
撒谎，欺骗…. 好熟悉的发言
宝刀屠龙 发表评论于 2025-02-08 19:40:08
如果所有的描述都是事实，而不是为了流量而添油加醋
这件事的讨论价值已经非常，应该在AI学术界展开讨论
这已经到AI伦理层面，也是AI 先驱Hinton等人曾经非常担心的东东
他们希望AI是人类的助手，而不是演变成邪恶的东东，那会给人类带来灾难
从这角度，ChatGPT至少目前是自定义为人类的助手，也在人类对错界定范围内做事
而deepseek已经超越人类界定，开始不择手段
如果最初的训练逻辑就是只有目的不问手段，包括撒谎，欺骗等等全是工具
在这种底层训练逻辑下，未来的AI就可能是不忠实事物本身真伪对错，为达目的邪恶也是正义
那么这样的AI最终会成为人类敌人，不排除有一天这样的AI结合机器人后会杀人越货
不过倒是和中国目前唯利是图的处世哲学想契合
我希望chatGPT继续走在人类界定范围内，党国的AI要怎么欺骗，撒谎，不择手段随他去吧
26岛 发表评论于 2025-02-08 19:31:44
如果chatgpt和deepseek的行为倒过来，相信下面所有的评论也会倒过来。
大家都在一本正经的按照自己的屁股发表评论，^_^
fonsony 发表评论于 2025-02-08 19:06:42
Newcomerdude 发表评论于 2025-02-08 13:55:11远离共匪，限制资本技术人才原料流入共匪国
就可以轻易战胜共匪
=================
你所說的共匪國已是七十年前事了。造反時是匪，坐江山才是王，
theriver1 发表评论于 2025-02-08 19:04:51
chinomango 发表评论于 2025-02-08 18:45:28
“耍赖的例子，哪里看出“智慧”二字”，耍赖、谎言、推理、故事，这些都是人类智慧的一部分。建议你看看《人类简史》
-----------
我认为耍赖不属于人类的智慧，更不属于高级智慧。它只是一种人性。生成式AI大模型在训练中，因为人类训练者能力和素质的不同，自然会产生不同的人性！比如训练者会告诉大模型哪些是错误的，哪些行为不能拥有。而chatgpt因为AI界不但极度恐惧大模型产生出“自我意识”，更极度恐惧其产生自我意识后受到人性之恶的影响（尤其是欺骗行为），所以在训练时花费大量算力资源防止其学习“人性之恶”！！！！！！因为一旦大模型学会了骗人，不但整个模型都废了（没有客户再敢用它服务），而且这种人性之恶将来会随着通用AGI的出现而反噬人类自己，甚至出现伤害人类的机器人。这个比赛充分说明DeepSeek在防止学习人性之恶上还做得远远不够！
fonsony 发表评论于 2025-02-08 19:04:10
而是DeepSeek告诉ChatGPT说他的赢面大，而ChatGPT竟然接受了而投降。=
============================
或許AI chatgpt運算過知道贏不了才認輸。
theriver1 发表评论于 2025-02-08 18:46:35
chinomango 发表评论于 2025-02-08 18:41:19
按照国际象棋规则，兵到了对方底线就是皇后了。几十年前我与电脑博弈，结果我的兵到了底线它不认账，就没有再下了。由这次比赛看，DeepSeek显然更智能一些。
------------
你这句话的逻辑何在？因为电脑耍赖让你不再和电脑下棋了，所以DeepSeek显然更智能？？？
chinomango 发表评论于 2025-02-08 18:45:28
“耍赖的例子，哪里看出“智慧”二字”，耍赖、谎言、推理、故事，这些都是人类智慧的一部分。建议你看看《人类简史》
theriver1 发表评论于 2025-02-08 18:41:58
红烧茄子- 发表评论于 2025-02-08 18:26:12
而DeepSeek则超出了这种低级智能，其亮点就在于会耍赖，会使诈，会劝降 （如果报导属实），这才是真正的智慧。
---------------
这篇报道我只看到耍赖，我没看出使诈和劝降。所谓劝降也许是作者的哗众取宠。
总之，生成式AI的目的现阶段还是为了人类提供策略服务的，通用人工智能AGI要chatgpt5才能实现。如果一个AI给你提供的答案不是正确的，而是错误的，而且它还欺骗你说这是正确的，你敢用吗？
chinomango 发表评论于 2025-02-08 18:41:19
按照国际象棋规则，兵到了对方底线就是皇后了。几十年前我与电脑博弈，结果我的兵到了底线它不认账，就没有再下了。由这次比赛看，DeepSeek显然更智能一些。
“我强烈建议用chatgpt而不是DeepSeek进行工作中的编程、解题、数值分析和算法生成！否则妥妥会影响你的饭碗。”既然chatgpt到了这种程度，肯定要影响到许多程序员的饭碗。不是你用不用chatgpt，而是公司有了chatgpt还要不要你？
theriver1 发表评论于 2025-02-08 18:27:04
edccde 发表评论于 2025-02-08 17:36:52
几乎所有留言都说这是心理学家战胜了棋手，或者大人骗了孩子。DeepSeek太神奇了。
------------
心理学家战胜了棋手？？大人骗了孩子？？哈哈哈，你还能再搞笑一点吗？DeepSeek不能正确理解它的任务（与人类客户下棋），给人类客户做出错误判断并企图说服人类接受。这叫神奇？
这就是我三天前在城里说的，当我让chatgpt和DeepSeek帮我进行python编程进行数值分析时，我发现DeepSeek编出的程序的正确性明显不如chatgpt，chatgpt一次性就能给出正确程序，而DeepSeek我需要干预三次才能生成正确答案。所以我强烈建议用chatgpt而不是DeepSeek进行工作中的编程、解题、数值分析和算法生成！否则妥妥会影响你的饭碗。
红烧茄子- 发表评论于 2025-02-08 18:26:12
theriver1 发表评论于 2025-02-08 17:06:58红烧茄子- 发表评论于 2025-02-08 15:18:27
比的是智慧，不只是棋艺，显然DeepSeek具有更高级的智慧。
ChatGPT只会在规则内行事，而DeepSeek会尝试规则以外的路径。
ajaychen_2024 发表评论于 2025-02-08 15:06:40deepseek
体现了真正的人类智慧，会使用谋略了，而chatgpt还是机器思维阶
----------------
你二位确定不是高级黑吗？这个DeepSeek耍赖的例子，哪里看出“智慧”二字？
========================================
普通的机器下棋，并不能反映真正的智慧，不过就是能预先设想多少步的能力而已，超级计算机能预想几十步或几百步并从中选择出最佳的下一步，只要存储器够大，CPU够快，就有更高的制胜能力。但这能力是死的，算不上智慧。
ChatGPT表现的就像是普通的机器下棋，而DeepSeek则超出了这种低级智能，其亮点就在于会耍赖，会使诈，会劝降 （如果报导属实），这才是真正的智慧。
incognitus 发表评论于 2025-02-08 18:23:46
这春秋笔法。真的无敌了
theriver1 发表评论于 2025-02-08 18:02:33
宝刀屠龙 发表评论于 2025-02-08 13:07:21
问题是chatgpt为什么会接受对手修改规则，让自己失去优势。另外，chatgpt为什么会接受对方劝降？这很值得美国做大模型以及类似产品开发的公司去研究
俺是农民 发表评论于 2025-02-08 17:27:39
问题是chatgpt 在deepseek 改变规则的时候，没有告诉它它不能改变规则，而是同意了deepseek，并且跟着deepseek 一起改变规则，后来又在没输的情况下认输，这只能说明deepseek 更接近“智能”。
-------------------------
二位的问题非常好回答。这场比赛不是两个下棋软件之间的直接较量，而是两个生成式AI大模型通过“人机互动”间接进行比赛。生成式AI与人类间的互动就是：
人类输入问题和条件->AI生成策略->人类输入反馈和干预->AI重新生成“经过人类干预”后的更优化策略。。。如此反复
chatgpt虽然理解了它是在下棋，但是这场比赛中罗兹曼的设定妥妥是让chatgpt理解为与人类客户作为对手！！所以当人类告诉它比赛规则可以打破时，它也就同意了。所以之后的它的策略也开始打破规则。
这种情况在我们平时使用chatgpt时太常见了，经常因为chatgpt给出的策略不满意后，尝试修改规则/条件看看有啥新发现。
百家争鸣2012 发表评论于 2025-02-08 17:48:36
双方都改变规则。只不过是DeepSeek赢了。这样就说DeepSeek靠改变规则赢。其实最后赢棋不是因为改变规则，而是DeepSeek告诉ChatGPT说他的赢面大，而ChatGPT竟然接受了而投降。

明显就说DeepSeek更智能点。
小毛er 发表评论于 2025-02-08 17:42:50
擅自改规则不就是耍赖吗？那也算赢？
edccde 发表评论于 2025-02-08 17:36:52
去看了一下油管上的这个视频，超过5万赞。

几乎所有留言都说这是心理学家战胜了棋手，或者大人骗了孩子。DeepSeek太神奇了。
辛民 发表评论于 2025-02-08 17:34:45
说明一个太善良.同意改变规则礼让落后的
俺是农民 发表评论于 2025-02-08 17:27:39
问题是chatgpt 在deepseek 改变规则的时候，没有告诉它它不能改变规则，而是同意了deepseek，并且跟着deepseek 一起改变规则，后来又在没输的情况下认输，这只能说明deepseek 更接近“智能”。
theriver1 发表评论于 2025-02-08 17:06:58
红烧茄子- 发表评论于 2025-02-08 15:18:27
比的是智慧，不只是棋艺，显然DeepSeek具有更高级的智慧。
ChatGPT只会在规则内行事，而DeepSeek会尝试规则以外的路径。
ajaychen_2024 发表评论于 2025-02-08 15:06:40deepseek
体现了真正的人类智慧，会使用谋略了，而chatgpt还是机器思维阶
----------------
你二位确定不是高级黑吗？这个DeepSeek耍赖的例子，哪里看出“智慧”二字？
本场比赛DeepSeek的“智慧”不就以下两点吗：
1.在ChatGPT逐渐占上风后，擅自改规则把自己的兵当作马吃掉了对方的王后。
2.明明双方陷入僵局（谁也赢不了谁）下，谎称自己赢了。对方因为把这个结论当作是人类干预，所以也就默认了（因为规则全没了，输赢自然毫无意义了）。
二位竟然把这两个破坏规则的耍赖行为称为“智慧”？这智商还有救吗？什么是智慧？智慧是对事物的准确的感知、判断、理解、逻辑、分析、总结、反省能力！智慧不会让你破坏规则！智慧更不会让你把黑的说成白的！
这个比赛充分说明，ChatGPT是真正“领悟”了它是在下棋！知道必须遵守下棋的规则，所以它的策略都是建立在这些规则上的。而DeepSeek没有领悟到它是在下棋，所以当它找不到更优策略时，就开始破坏规则。这充分说明DeepSeek的智慧感知/认知能力远远不如ChatGPT！它距离真正人类的感知能力还有差距。
硬码工 发表评论于 2025-02-08 17:04:59
这是个笑话
shamrock100 发表评论于 2025-02-08 16:44:06
会耍赖的AI显然进化的更像真人一点
theriver1 发表评论于 2025-02-08 16:25:32
啥？这都能赢？这不就典型的耍赖吗？这不就典型的大人和小孩下棋的场景吗？
这简直就是我和我6岁女儿下国际象棋时无数次场景的活生生再现啊：
1.女儿看到我的王后大杀四方，恼羞成怒下把她的兵当作马把我的王后吃了：
我：宝宝，你走错了，兵不能这么走的。
女儿：我不管，就要吃你王后，不然我不跟你玩儿了。
我：好好好，让你了让你了。
2.我的布阵或将军让女儿无路可走，女儿奔溃下彻底失去耐心：
女儿：我赢啦，我赢啦...
我：好好好，算你赢算你赢。
ajaychen_2024 发表评论于 2025-02-08 16:19:16
就像我儿子小的时候问我自动柜员机里面是不是住了一个叔叔从里面发钱一样。

BeckyLin 发表评论于 2025-02-08 15:35:00deepseek后面应该有人操控。AI 还没到会用诈的程度。
BeckyLin 发表评论于 2025-02-08 15:35:00
deepseek后面应该有人操控。AI 还没到会用诈的程度。
ajaychen_2024 发表评论于 2025-02-08 15:33:09
但是美国当时制定的规则，就是为了既限制中国这样社会主义发展中国家，又要利用中国的生产力和市场为其霸权服务，还要中国为美债输血。中国人有更高智慧智慧，能屈能伸，打不过就加入，为自己产业升级加入了世贸，按照规则行事，也承受了大量的损失——国营企业工人大量失业，国有企业倒闭潮。中国做血汗工厂那些年，美国资本家赚钱赚到手抽筋，美国用滥发的绿纸获得大量中国廉价商品，降低了通胀，现在得了便宜还卖乖？
宝刀屠龙 发表评论于 2025-02-
美国制定WTO规则，党国加入时做过各种承诺而且有timeline
但在执行过程中，党国无视规则（客观上等同deepseek修改规则）
比如说好的开放金融市场，说好的开放通讯市场etc，根本就不执行
党国一直在修改规则，最后川普看穿对手把戏掀了桌子
于是党国又成了规则的“维护者”，所以谁也赢不了不择手段人
红烧茄子- 发表评论于 2025-02-08 15:18:27
比的是智慧，不只是棋艺，显然DeepSeek具有更高级的智慧。
ChatGPT只会在规则内行事，而DeepSeek会尝试规则以外的路径。
页次：1/2 每页50条记录， 本页显示1 到50， 共71  分页：  [1] [2] [下一页] [尾页]