读书笔记：《拐点：站在AI颠覆世界的前夜》（万维钢） 1.ChatGPT是一个使用GPT模型、以聊天方式为界面的信息处理工具 ①这一轮SI突破的意义不仅仅是能生成内容 ②AI已经开始非常严肃地做传统上我们认为只有人能做的事情 ③当前AI对你的三个作用：信息杠杆、让你发现自己究竟想要什么、帮你形成观点和决策 2.GPT的三个能力：开悟、涌现、思维链 ①有三个特点： 第一，GPT没有让人类教给它什么“自然语言处理”之类规则，让神经网络自己发现一切可说和不可说的语言规则 第二，GPT表现出强烈推荐“自组织”能力，也就是前面说的“涌现”和“思维链” 第三，也许是最神奇的事情——GPT用同一个神经网络架构，似乎能解决表面上相当不同的任务 ②GPT的底牌：它是一个语言模型；同时，它很神奇 ③GPT的命门：它是用来思考的，不是用来执行冷酷无情的计算指令的 3.当AI进入人类社会 ①从商业角度看，AI是一个预测机器 —预测是决定的前提，AI预测能改变人们做决定的方式 —AI预测能改变决定方式。就能改变生活方式 —预测取代规则 ②对AI公司来说，最好的护城河就是从用户反馈中学习 ③OpenAI说:AGI有可能给每个人带来令人难以置信的新能力;我们可以想象一个世界，所有人都可以获得几乎任何认知任务的帮助,为人类的智慧和创造力提供一个巨大的力量倍增器 4.置身智能，你更像你 ①AI时代的决策=AI的预测+人的判断 —预测是客观的，判断是主观的。AI不能僭越人的判断，人也不应该专断AI预判 —预测与判断脱钩，对人是一种赋能 —意味着以前的预测者现在要转变为判断者，或者解释者 ②需要做到两点：你得非常理解现在的用户想要什么；你得让人认可你 —即：认识和被认识，理解和被理解；这些是AI不能给的 ③AGI时代门槛领导力要求具备三种能力：谦逊的能力、化解矛盾的能力、游戏力（或互动力） ④超级人工智能时代的主角将不会是机器，但也可能不会是人——而是爱 ——所谓增长意识，主要就是增长自己爱的意识 5.用已知推理未知 ①依我之见，2021年以前出版的所有讲AI的书，现在统统过时了 ②AI已经有相当程度的智能，接下来的首要问题不是让他更聪明，而是更精准、更好用、更能让社会接受 ——出于某种数学上的原因，OpenAI想要彻底“管住”GPT，是不可能的 ③展望AI对人类社会的影响，沃尔夫勒姆有三个核心观念： 第一，“计算不可约性”：任何复杂系统本质上都是没有公式、没有理论、不可概括、不可预测的。这看起来像是个坏消息，实则是个好消息 第二，“计算等价原理”：所有复杂系统，不管看起来多复杂，都是同等复杂的，不能说哪个系统比哪个系统复杂 —既然都是平等的，硅基生命和碳基生命自然也是平等的。面对AI，我们凭什么认为自己更有价值 第三，人的价值在于历史：AI至少短期没没有办法形成自己的价值观。它只能参照或者“对齐”我们的价值观。这就是人类对AI最后的优势 ④未来AI跟我们真正的关系不是降临。不是拯救，也不是幸存，而是“共存” ⑤历史经验是，自动化技术创造出来的新职业总比消灭的职业多 ⑥AI革命带给我们三个教训，两个展望 第一教训：直觉高于逻辑 ⑴AI=基于经验+使用直觉+进行预测 ⑵对AI来说，你只需要关心输入和输出 ⑶世界将从工业复制时代重归匠人定制时代 第二教训：算力就是王道（知识只是干扰） 第三教训：人是简单的 一个展望是：AGI会在所有领域参与人类工作 另一展望是：所有科研领域都应该用AI 6.实战，让AI为你所用 ①如何让ChatGPT发挥最大价值 第一，要准确表达你的需求 第二，尽量给出具体的情景 ⑴具体情景包括：谁在说、说给谁、在什么场合之下、使用什么风格、要达到什么目的 第三，有时候你得帮助GPT思考 ②世界有多少所谓的“不会”，其实是界面问题 ——AI助理让所有界面回归到自然语言 7.更大的大局观 ①炼制大模型主要分四步：架构、预训练、微调、对齐 #生命之美 #心灵之旅

评论：