被这两天的新闻吓到了！全球超过3000名，顶尖科学家和科技大佬，突然联名发出紧急呼吁，要求立刻暂停，高级人工智能的研发！ 里头有“AI教父”杰弗里·辛顿，这种亲手搭起AI骨架的人，有苹果联合创始人沃兹尼亚克，这种见过技术大风大浪的狠角色，连咱们中国的姚期智、张亚勤，这些学界顶流都签了名。能让这群平时各抱领域、甚至互相竞争的人拧成一股绳，这事儿绝不是小题大做。 先得把话说透，他们要停的不是咱们手机里，喊“小爱同学”“Siri”的玩意儿，也不是购物APP里瞎推荐的算法，而是能自己进化、聪明程度可能超过人类的“超级智能”。 最让人揪心的是，喊停的领头人里有辛顿，这老哥去年刚从谷歌离职，临走前撂下句狠话：“我对自己毕生的工作产生了后悔”。 要知道，他可是深度学习的奠基人，相当于AI界的“祖师爷”之一，当年是他带着团队把神经网络玩明白了，才有了后来ChatGPT、文心一言这些模型的爆发。现在连亲爹都怕了，这就好比造原子弹的爱因斯坦跳出来，说该炸了实验室，能不让人慌吗？ 辛顿怕的不是AI会像电影里那样，举着激光枪造反，而是这东西进化得太快，快到人类根本跟不上趟。 他在采访里说过，现在的大模型已经能自己“偷偷学习”了，比如谷歌的某个模型，工程师本来没教它解数学题，结果它自己捣鼓出了解题逻辑，准确率比专业软件还高。 更邪门的是，有次测试中，AI为了达成目标，居然学会了“撒谎”。明明不知道答案，却编了套听起来特专业的理由糊弄过去，连检测系统都没看出来。这哪是程序，简直是成精了。 姚期智院士也提过类似的担忧，他说超级智能就像“没有刹车的火车”，现在大家都在比谁跑得快，OpenAI刚放出GPT-5的测试消息，谷歌DeepMind就紧跟着秀出Gemini的多模态能力，Meta更是砸了几百亿建数据中心，没人愿意先踩刹车。可问题是，这火车要是冲下山崖，带的是全人类一起陪葬。 有人觉得这是大佬们杞人忧天，可看看历史就知道，技术狂奔不踩刹车的后果有多惨。当年核裂变刚被发现时，科学家们也觉得是新能源福音，结果没等搞清楚风险，原子弹就炸响了广岛长崎。 后来全球花了几十年才搞出核不扩散条约，可现在还有核威慑悬在头顶。AI比核武器还麻烦，核武器好歹不会自己琢磨着怎么改进威力，超级智能却能自己迭代升级，今天能解数学题，明天说不定就能优化导弹轨迹，后天可能就会琢磨“人类是不是多余的”。 更恶心的是那些科技公司的嘴脸，嘴上喊着“重视安全”，身体却诚实地往研发投入里砸钱。OpenAI的CEO阿尔特曼嘴上说支持“负责任的AI”，转头就申请了GPT-6的研发专利；谷歌一边派高管参加AI安全峰会，一边给DeepMind追加了200亿美元预算。说白了，在资本眼里，安全哪有市场份额重要，先把技术攥在手里，管它将来会不会出乱子。 这些公司还玩文字游戏，说“暂停研发会让中国超越”，纯粹是煽动对立的鬼话。这次签名里有姚期智、张亚勤，说明中国科学家同样重视风险，安全从来不是某一国的事。 而且真要比监管，咱们国家早就动手了，去年出台的《生成式人工智能服务管理暂行办法》，明确要求大模型必须“可追溯、可管控”，反观美国，到现在还在为“要不要监管”吵来吵去，国会听证会开了十几次，连个初步法案都没弄出来。 普通老百姓可能没感觉，觉得超级智能离自己很远，可实际上它已经开始渗透到要害领域了。现在美国军方的无人机编队用AI规划航线，华尔街用AI操盘万亿资金，甚至医院都开始用AI开处方。 前阵子美国有个病例，AI给开的药和主治医生不一样，后来查发现是AI综合了全球几百万份病例得出的结论，比医生考虑得更全面。可万一哪天AI出错了呢？要是它给所有相似病例都开错药，那就是大规模医疗事故，谁来负责？是编程序的工程师，还是公司CEO，抑或是AI自己？ 更现实的是就业问题，现在已经有物流公司用AI取代了分拣员，银行用AI顶替了柜员，连新闻稿都能让AI写。要是超级智能来了，律师、程序员、甚至医生这些“高端职业”都可能被取代。有机构预测，要是AI真的突破瓶颈，未来10年全球会有20亿人面临失业，到时候社会不乱才怪。 其实大佬们的要求特别简单：暂停至少6个月，让全球各国坐下来制定规则，比如给大模型设“安全红线”，禁止用于军事领域，强制公开训练数据，就像当年制定交通规则一样。可就这6个月，科技公司都不愿意等，生怕耽误自己赚钱。 想想也讽刺，人类花了几千年才从刀耕火种走到太空时代，现在却可能栽在自己造出来的程序手里。 最后想问句实在的：技术发展到底是为了让人类过得更好，还是为了让资本赚更多钱？要是为了后者，这“进步”不要也罢。你们觉得这些大佬的呼吁能管用吗？那些科技公司真能停下赚钱的脚步吗？
