Born at the Turn of an Age

忽如一夜春风来，千树万树梨花开...

最近我不得不把才华埋葬在昨天一文在社区引发了广泛的讨论，我看完以后同样感触颇深。

让人遗憾的是，在前AI时代我并没有建立起扎实的学科体系和良好的工程能力，因此在技术变革的浪潮中体会到的危机感会少一些，同时觉得AI对个人能力的放大效应也没有那些在前AI时代就很优秀的人那么显著。

但是，即使现在的工作和这些完全没有关系，我也总是在思考，如何借助AI去补齐那些曾经失去的叫人遗憾的东西，同时能做出一些出色的工作和产品去帮助更多的人，或许将来也就有可能逃离这个工作去做一些更感兴趣和更有意义的事情。

真正让人感慨的是，回头看看这几年发生了什么。

2018年6月，OpenAI发布GPT-1时我才即将进入大学。

2022年11月，OpenAI正式发布基于GPT-3.5的ChatGPT时我已经大学毕业了。也就是这一年，这个划时代产品的发布，LLM彻底改变大众认知，AI时代迎来拐点。

怎么描述这种恍如隔世的感觉呢？如果我们把2022年定义为新纪元的起点，那么今年已是AC (Anno ChatGPT）5年。

• BC（Before ChatGPT）5年（2017年），《Attention Is All You Need》发表，Transformer架构问世，新世界的大门已经被悄然打开。

• BC 4年（2018年），OpenAI 发布 GPT-1，机器从大规模无标注文本中学习语言， Pre-training 范式开始成形。

• BC 2年（2020年），GPT-3 参数规模达到1750亿，Scaling Law真的有效！

• AC 1年1月（2022年1月），OpenAI发表InstructGPT，Instruction Tuning 与 RLHF 让模型开始遵循人类意图。

至此，过去五年的技术积累终于汇聚到了一起：Transformer 提供架构，Pre-training 提供基础，Scaling 提供能力，Instruction Tuning 提供指令遵循，RLHF 提供人类偏好。

• AC 1年11月（2022年11月），OpenAI 把这一切装进了一个再普通不过的聊天框里，它的名字叫ChatGPT。

回望历史，互联网的发展用了几十年，个人计算机的发展用了几十年，而这一轮变化，却被压缩进了一个人的大学时代，并在此后的数年间继续飞速发展。

• AC 3年（2024年），OpenAI发布o1并带来了另一条重要路线——Reasoning。模型学会了不用立刻回答，要先“想一会儿”。

• AC 5年（2026年），Agent大爆发，AI具备了完成复杂长程任务的能力，人与计算机之间的关系发生了根本性转变。

如果说有什么能稍稍抵消那些遗憾，大概就是我恰好赶上了这样一个时代。过去没能建立起来的知识体系，可以重新学习；过去没有机会完成的东西，可以重新去做。

想想看，那些曾经被称作“未来”的东西，并没有在某个遥远的年份突然降临，它只是悄悄出现在一个网页上，没有钟声，没有仪式，没有人宣布旧时代结束，只有一个聊天框和一句再普通不过的话：How can I help you today? 然后，一个新的时代开始了…