泡泡资讯网

大模型能力审查制度化太有必要了。就拿一些大模型来说,它可能会给出错误信息或者传播

大模型能力审查制度化太有必要了。就拿一些大模型来说,它可能会给出错误信息或者传播有害内容。之前有大模型生成了带有偏见和歧视性的文本,要是不加以审查,这些内容就会在网络上肆意传播,影响恶劣。
而且大模型在金融、医疗等关键领域应用广泛,如果没有审查制度,一旦出现数据泄露或者错误的决策建议,后果不堪设想。只有通过制度化审查,才能确保大模型输出的内容准确、安全、无害,让它更好地服务于社会,所以审查制度化势在必行。