从“深蓝”到“深思”

kastin

就不说做好翻译，连最简单的断句发音可能都做不到如同人类那样流畅不出错。比如给一段文字，让机器读出来，但不要那种一个语调、一样语速的“机器风格”的发音。现在的AI只能做到常见的字词组合或固定搭配给你按照人类方法读，而对于一个长句子，往往会出现“拼凑”的痕迹——即小短句很流畅发音正常，而衔接处显得比较生硬（主要是断句时间和发音变调的问题，因为效果很突兀），比如有些字词单独读出来的声调是一种，但是放到一些字词联合的句子中，就要变调了。这个跟生成人脸一样——看上去很真实，但细细看还是会发现创造的人脸只不过是拼接起来的，只不过拼接的痕迹不是很明显，但仔细观察还能能看出生成的人脸是用不同的眼睛、鼻子、额头、下巴和颧骨等拼凑出来的。

因为这涉及到对语言的理解，前后文的联系，才能知道怎么断句，怎么发音。而不是单个字发音的拼凑。做到这一点，才能认为机器“能思考”。

当然，这个难度其实本质上跟翻译差不多。同样，对于图像的语义识别，实际上机器做得并不好。看上去分类准确率很高，但实际上容错性很差。例如把乌龟壳识别成AK47，加入对肉眼识别毫无影响的噪声像素后，机器把熊猫识别为长臂猿。还有本来能正常识别是一个人，结果这个人穿上有其他名画作为图案的T恤后，机器无法识别出人了……

AI目前只是一个不会思考的纯粹数学计算器，它的结果只是数学意义上的结果，能拟合凑出数据就行，最终得到的数据插值得到是什么就是什么，所以出现了上述问题。因为它对高维数据太敏感了，根本不存在层级式的语义概念。

无心人

其实人类的智力，说不定也是
                       一种机械的逻辑算法
复杂生物本质上是从无生命的分子
                       演化出来的

uk702

kastin 发表于 2021-5-23 21:13
就不说做好翻译，连最简单的断句发音可能都做不到如同人类那样流畅不出错。比如给一段文字，让机器读出来， ...

首先向前辈致敬！但个人认为，说 AI 是一个纯粹的数学计算器，这当然是正确的，但并不反映（人类“所追求”） AI 的本质。

真正问题在于，AI 是否能够提供推导出“新结论”（什么才是“新”其实就很难说清楚了，alpha go 下出一堆人类闻所未闻也不敢想的下法，算不算“新”？），是否能够不断延伸和“学习”？

举个例子，是否能够将这样的一个 AI 机器人投放到爪哇岛，这个机器人能否靠一本看图识字，从嗯嗯嗯开始，学会每个图片对应的物体如何发音，并最终学会识别多音字，断句，掌握周围不同人的语音语调，最后伪装成一个正常人（通过图录测试）。

uk702

uk702 发表于 2021-5-25 08:33
首先向前辈致敬！但个人认为，说 AI 是一个纯粹的数学计算器，这当然是正确的，但并不反映（人类“所追求 ...

或者最简单的，诗词大赛中混入了一个机器人，能否被观众抓出来（虽然我并不认为这样的机器有智能，但毕竟也是万里长征的第一步）？

亦或者，在这里发贴的，哪些是真正的人，哪些是机器人？

zeroieme

uk702 发表于 2021-5-25 08:33
首先向前辈致敬！但个人认为，说 AI 是一个纯粹的数学计算器，这当然是正确的，但并不反映（人类“所追求 ...

图灵测试是个不严格的设想，因为作为标准的“人”本身是没有切确标准的。

比如说，书呆子式回答有可能被讥笑为机器人。

而放个婴儿到荒岛，万一不死，也是大概率变成狼孩猪孩之类的野人。

kastin

uk702 发表于 2021-5-25 08:33
首先向前辈致敬！但个人认为，说 AI 是一个纯粹的数学计算器，这当然是正确的，但并不反映（人类“所追求 ...

alpha go 下出一堆人类闻所未闻也不敢想的下法，那是靠算力达到的全局最优解，而人的算力有限，不知道你对围棋是否了解，围棋大师往往需要长考（长达几个小时思考后续发展的情况），才能下出一步棋，超出太远范围，人的深度搜索极限就到了。所以人所推崇下棋比较好的套路，往往是局部最优的（当然在人的范围内，没有人可以超过，所以可视为“全局最优”），但计算机就不一样了，算力强大到后面上百步的局面都能考虑到概率大小，通过比较就知道怎样才是最佳选择——哪怕下出一个让人看来"非常愚蠢"的一步棋（实际上超出了人的计算）——实际上是真正全局最优的下法，超出了人的预估。

说白了，人的计算力太小了，只能做出局部最优的选择，而“下出一堆人类闻所未闻也不敢想的下法”那正是计算出来的东西，跟智力没啥关系、如果拼计算，那么下棋这种游戏基本上没啥意思了，比如两个alpha go对战，反正开局下一两步就知道输赢了。因为每一步如果都是最优选择，那么初始值就会影响最后的输赢。中间过程是不必要的，结果注定了。这就好比武林高手过招，不需要大战几百回合，刚开始就结束了，因为他们很清楚一个小的劣势是如何被放大到越来越大的。

游戏本身就是为了打发时间同时获得愉快的，还没开始就结束，游戏也徒有虚名。这样的话，再新的下法又有何用呢？

kastin

不要把alpha go跟智能相提并论，本质上那是两回事。你看看人类学习只看多少个围棋例子，就能达到何种程度？电脑能做得到同样水平？alpha go所训练用的局数最少也得上百万，这远超一个人一生能看或者学习的局数。谁才配得上“智能”二字？真要比较的话，就比较看同样局数学习后，获得的下围棋的水平大小。

此外，围棋规则很确定，而且双方的选择策略都是公开的，这种游戏本身不符合日常生活场景。什么叫“智能”？在面对未知的世界，通过已有的知识经验，做出对自己的目标来说，最佳的选择。往往未知世界中很多因素自己是不确定的，竞争者或者对手是潜在的，对方的选择也不是公开的，你如何做出决断？尤其是当这种做出选择后的结果具有后效性，那就无法通过及时反馈而修改策略，这需要更全局化的选择（类似我们说的“战略眼光”），这使得训练过程变得异常艰辛，因为选择的组合会爆炸性增长，而最佳的结果如同大海捞针，光凭借计算是很难筛选的，只能利用好试错经验以及一些知识推断，在一个小的范围内做出选择。每一步都进行这样的筛选，最终得到最优解。

目前学术上做这些的就是所谓的强化学习，5v5对抗即使策略游戏就是上述场景的简化版缩影，研究这类问题过程中，仍然发现需要巨额计算量去训练。电竞高手往往训练几千盘甚至上万盘游戏就能达到较高水平，但是AI却用来几百万盘反复自我训练，达到的水平可能还不如电竞选手（当然，也有能赢下的，但靠的是反应速度，超越了人的反应生理极限）。对比起来，训练了几百万把游戏，还是不能远远超出人类，这就能发现“智能”的差距。总的来说，现在的智能是伪智能，那只是数字计算的表象。真正的智能还要换一个全新的思路。

ejsoon

kastin 发表于 2021-5-25 14:20
不要把alpha go跟智能相提并论，本质上那是两回事。你看看人类学习只看多少个围棋例子，就能达到何种程度？ ...

我可能不同意你的觀點。按人類如果只懂規則，靠自己跟自己對弈，要提高水平是很難的。

人的水平的提高，基本都要靠師承。

其實學習前人的棋譜也等於是對前人經驗的學習，但即便你有了所有的棋譜數據，如果沒有人告訴你為甚麼這樣下不那樣下，你自己也不懂，那就永遠沒有提高。

所以我覺的人的計算與思維能力是無法跟電腦比的，人的強項在於情感，比如說喜歡下圍棋，知道自己在下圍棋，喜歡下圍棋是因為人們尊重圍棋下得好的人。

包括學生跟老師拜師學藝，也是一種良性的愉快的溝通。這是機器所不具備的，機器棋力再強它也只是個算法。

kastin

“人的水平的提高，基本都要靠師承。”这话没错，但你的这句话与“按人類如果只懂規則，靠自己跟自己對弈，要提高水平是很難的”这句并不是逻辑上的承接。因为你没有想过“师承”也不过是点拨你关键的几着下法，或者跟你对弈数盘而已——这跟你自我下棋没有本质区别。若要说区别，那只是师父指点的经验，仍然来自师父的师父，师父的师父的师父……但即便这么多师父下的总盘数，累加起来，带给最后这个徒弟的有价值的盘数，也比不上alpha go自我学习的盘数。这仍然相当于学习了少量盘数，打败了大量反复学习的盘数。

uk702

据说是 AI 写出来的文章：https://zhuanlan.zhihu.com/p/421642560