泡泡资讯网

昨天晚上线上听了一个智能体安全的讲座。实事求是地讲,没听大明白。 当然,这肯定与

昨天晚上线上听了一个智能体安全的讲座。实事求是地讲,没听大明白。
当然,这肯定与我自己的水平不足有关,也与我一直没有深度关注智能体安全话题有关。
但就昨天晚上的讲座以及更广泛的智能体安全这个话题,我还是有以下几个困惑。
第一,智能体安全可以是一个独立的话题吗?或者说,智能体安全可以脱离其底层的AI模型的安全而独立存在吗?或者再换一个说法,我们就假设智能体这个层面没有安全问题,或者再进一步,我们就假设智能体这个层面没有任何的安全问题,但AI模型层面的安全问题就不会传导或渗透或穿透进智能体以及智能体的应用中吗?
第二,人工智能以及智能体的安全,到底如何界定,是哪个范围哪个层面的安全?就我个人粗浅的理解,当前的安全至少有以下几个层面的内容。一是我们原来讲的计算层面的安全,也就是数据安全、信息安全、网络安全、系统安全;此外,应该还有经济层面的安全,比如基于TOKEN(无论是AI领域的TOKEN,还是Web 3 领域的TOKEN)的经济安全;再此外,至少还有内容层面的安全,比如AI假冒仿冒别人声音、容貌而伪造的虚假内容等等。这个话题再拓展一下,就是安全领域总说攻防,那攻的是什么,防的又是什么?
第三,智能体安全如果可以作为一个独立话题,那这种安全应该是内生的还是外生的?如果还有采用原来的病毒查杀、防火墙、入侵检测等理念和思路,把安全置于一个有行动能力主体的外部,这条技术路线,是工程上的不得已而为之,还是拍脑袋的想当然?