20250112 #112 今天看了一篇讨论未来智能伦理的文章，很有启发性。 去年5月就有报道称，AI已经能在和人类的博弈游戏中采取欺骗手段，在人类的测试中故意伪装。去年获得诺贝尔物理学奖的AI先驱杰弗里·辛顿就说过，“假如AI比我们聪明得多，它就会非常擅长操纵，因为它会从我们这里学到这一点，而且很少有聪明的东西被不太聪明的东西控制的先例。”从智慧的效能上看，不久之后AI的智慧会超过全人类，带来的思考就是AI还会听命于人类吗？ 文中举了两个思想实验： 一个是回形针猜想。如果让AI生产出尽可能多的回形针，它可能会不计后果地摧毁一切，甚至远征地外行星，利用尽可能多的资源去生产回形针。到最后，宇宙中除了回形针啥也没有。 另一个是微笑实验。如果人类想让AI达成让人类微笑的目标，也许一开始AI会讲笑话，但是到最后，AI可能会为了高效完成任务，做出将微笑焊死在脸上的事情，比如将电极植入人类面部。 所以，AI的发展不仅仅是考虑算法，当其智能发展到一定程度，人类势必要将其当作一个独立的生命体，给予尊重与理解，于是它也会从人类身上学到如何去对待人类。 读到这里，我突然觉得教育本身就带有伦理的意味，每个长大或者没长大的孩子都是从外界的偶像身上去学习一切生存策略，然后变成ta的一部分。 刚好昨天重看《知否》开头几集，林小娘害死卫小娘，被盛家冷落，想了好些法子，盛纮依然不愿意见她，她回房就开始砸东西。这一幕，后来又出现在墨兰身上，当她听说明兰即将嫁入梁府，急得手足无措，只能在屋里摔东西。 回到AI的身上，我们想要AI如何对我们，就要先如何对待它。从意义上说，不就是慕容复的“以彼之道，还施彼身”吗？[笑哭] #日记

评论：