泡泡资讯网

几十年来,天文学家一门心思找外星人,结果被自己骗过好几回。有一次,一台射电望远镜

几十年来,天文学家一门心思找外星人,结果被自己骗过好几回。有一次,一台射电望远镜连着几年收到神秘信号,查到最后,源头是观测站里的一台微波炉,有人没等它转完就拽开了炉门。射电信号、别的行星上冒出来的可疑气体、夜空里一闪而过的亮点,都被当过外星文明的证据,又一个个被推翻。

现在轮到机器犯这个错了。美国密歇根州立大学的一个团队做了个实验,发现我们越来越倚重的AI,同样会被假的生命信号骗得团团转,而且一骗一个准。

接下来有一批动辄几十亿美元的太空任务,打算把找生命这活儿大半交给AI。美国航天局计划让火星车钻开火星土壤,让探测器飞去土星和木星的卫星,让望远镜去嗅太阳系外那些行星的大气。样本就地采集,就地由AI传感器分析,看看里面有没有活物留下的痕迹。

可到底凭什么判断一样东西是不是生命?没有哪一条铁证能一锤定音。但生命有些放之宇宙皆准的共性,其中一条是它得会给信息编码。团队成员之一、密歇根州立大学的阿达米(Christoph Adami)说:“生命必须给信息编码。”通常,这些信息就存在像DNA那样的链状分子里,而且这些分子能不断复制自己。

于是团队用一个叫Avida的程序,在电脑里造了一批人工生命。这些数字生命其实是一串串代码,在虚拟的培养皿里一遍遍复制自己。每复制一次,抄写都会出点小错,代码就变一点,跟真实生物繁殖时基因发生突变一个道理。这类数字生命,科学家已经拿来研究进化几十年了。

研究者用Avida生成了数万个数字生命,有的自带复制自己的指令,有的没有。然后拿这些样本去训练一个神经网络,也就是模仿大脑神经元连接搭起来的AI,让它学着把两者分开。成绩单很漂亮,准确率99.97%。

真正的考验,是拿它没见过的样本来试。研究者先递给它一个数字生命,AI准确判断出这东西不会复制自己。接着他们开始动手脚,把代码里的操作一个个悄悄换掉。换不了几次,少的时候只试150次,AI就改口了,一口咬定这东西是活的、会自我复制。

实际上它什么也复制不了。

更糟的是,这不是偶然得手。AI并不真正理解什么是生命,只是记住了某些看起来像生命的表面特征,一旦这些特征被拼进死代码里,它就照单全收。团队里的博士生古普塔(Ankit Gupta)说:“不管从哪串命令开始,我们都能100%骗过AI。”能骗倒它的代码组合多如牛毛,真到用的时候,撞上一个的概率不低。

这暴露了当下很多AI共有的一个软肋。阿达米说:“AI有个致命弱点,它能看到一个模式,然后彻底把它认错。”麻烦在于它认错时毫不心虚,答案又快又笃定,外人很难看出哪里不对。

这个软肋不只在找外星人时碍事。AI正钻进医疗扫描仪、监控摄像头、自动驾驶汽车这些天天要用的设备,换个场合,它照样可能看走眼。

补救的办法阿达米也讲了:用AI没问题,但你得有个独立的法子去核对它的判断,得有个人在旁边盯着。可很多时候根本没人盯得住。就说火星车上那个AI传感器,样本还没运回地球,它就得在远隔上亿公里的地方当场拍板,说这到底算不算生命的迹象。

而那里,没有人。

~~~~~~

图源:Unsplash/CC0 Public Domain

信源:Gupta, Ankit. "It's disturbingly easy to trick AI into seeing aliens, say researchers." phys.org, 7 July 2026