Full text · 原文
1,792 字
鱼羊 编辑整理<br>
量子位 | 公众号 QbitAI<br>
笑死，Hinton天天对超级AI忧心忡忡，原因可能找到了（手动狗头）——<br>
他被前女友用ChatGPT分手了。<br>
这一最新爆料来自Hinton本人。在接受英国《金融时报》采访时，老爷子分享了这个来自ChatGPT的“惊喜”：<br>
她让ChatGPT告诉我为什么我是个渣男。她让聊天机器人解释了我的行为有多么糟糕，然后把答案传给了我。<br>
我倒不觉得自己真那么不堪，所以并没受太大影响……我遇到了一个我更喜欢的人，你知道是怎么回事。<br>
emmm……信息量有点大啊老爷子……<br>
可惜老爷子没有分享这封分手信的具体内容，不过在这次访谈中，这位当前人工智能领域最受尊敬的先驱，照例分享了他关于AI的最新所思。<br>
和不少关于Hinton本人的小小趣闻（doge）。<br>
人类“唯一的希望”是让AI成为我们的母亲<br>
尽管最近不提发展超级智能是“养虎为患”，改口AI和人类之间是一种“母亲和婴儿之间的亲密共生关系”，但这并不代表Hinton对人工智能放下了警惕。<br>
他依然在思考：当助手比你聪明得多时，你要如何保持对它们的控制？<br>
一个智力高得多的生物被智力低得多的生物控制，这种情况我们只知道一例，那就是母亲和婴儿……如果婴儿无法控制母亲，他们就会死去。<br>
因此Hinton认为，人类“唯一的希望”是让人工智能成为我们的母亲。<br>
因为母亲非常关心婴儿，守护婴儿的生命并关注其成长，这才是我们应该追求的那种关系。<br>
△AI生成<br>
此前有网友在发现Hinton态度转变时，疑惑是不是Ilya让Hinton看到了什么，而Hinton还真的透露，他的“母婴说”很受Ilya的赞成。<br>
Ilya如今已经开始了自己的创业，他的初创公司Safe Superintelligence尚无模型，尚无产品，但估值已经飙升至320亿美元（约2294亿人民币）……可谓是被硅谷投资人追着塞钱。<br>
“但奥特曼和马斯克看上去更有可能赢得竞争？”<br>
面对这个问题，Hinton的回答是，让他在这两个人里二选一，感觉就像是：<br>
要选被枪击还是中毒一样。<br>
也会问ChatGPT如何修理烘干机<br>
但甭管警惕与否，ChatGPT老爷子还是爱用的。<br>
一方面是知己知彼，用来“研究”。另一方面嘛，偶尔用来问问烘干机怎么修也是不错的。<br>
另外，Hinton以前会和自己的研究生们交流想法和问题，因为“他们年轻，理解速度更快”，而退休之后的他，现在开始用ChatGPT来顶替研究生们的角色了。<br>
只是Hinton万万没想到，前女友跟自己分手时，竟然用上ChatGPT来痛骂他┓( ´∀` )┏。<br>
BTW，Hinton出生于1947年12月，已经77岁了。他的前两任妻子分别在1994年和2018年因病去世。<br>
从谷歌离职只是因为“编程水平不如以前”<br>
访谈中，Hinton再一次纠正了外界所传自己2023年从谷歌离职的原因。<br>
不是为了更自由地谈论AI风险，而是“编程水平不如以前了”。<br>
当然也是为了某种自由，嗯，尽情追剧的自由（doge）。<br>
我离开是因为我75岁了，编程水平不如以前，而且网飞上有很多我还没机会看的东西。<br>
我已经努力工作了55年，觉得是时候退休了……然后我想，既然我要离开了，那我可以谈谈其中的风险。<br>
在AI的安全性之外，Hinton谈到自己最关心的是人工智能在医疗保健和教育方面的前景。<br>
至于解决饥饿、贫困、疾病等重大问题，Hinton担心的是：<br>
AI会让少数人变得更富有，多数人变得更穷。这不是人工智能的错。<br>
那么，AI会让人类变得懒惰和缺乏创造力吗？<br>
我们穿衣服，正因为穿衣服，我们身上的毛发才更少。我们更容易冻死，但前提是我们没有衣服。<br>
所以只要AI系统对人类是有帮助的，它就是有价值的工具。<br>
One More Thing<br>
科幻作品中，碳基生命往往会跟硅基生命有所融合，人类对自己的身体进行改造，慢慢变成半机械人是许多作品的共同主题。<br>
Hinton对此怎么看？<br>
我们不知道会发生什么，我们毫无头绪，那些告诉你未来会发生什么的人只是在胡说八道。<br>
我们正处于历史的转折点，一些令人惊叹的事情正在发生，可能惊人的好，也可能惊人的坏。<br>
我们可以做出猜测，但事情不会保持现状不变。<br>
参考链接：<br>
https://www.ft.com/content/31feb335-4945-475e-baaa-3b880d9cf8ce<br>
— 完 —