新华网视评｜让AI成“辅佐”而不是“爪牙”

近来，杭州警方发表AI大模型换脸盗取个人隐私全国首案，令人细思极恐。

犯罪分子将受害人静态相片，输入到模型中，再经过文字、语音提出需求，生成一段活体视频。这段活体视频能够仿照人脸进行允许、眨眼、侧脸，打破渠道人脸认证，强制登录别人账号，获取很多受害人隐私数据出售获利。

这仅仅AI技能使用乱象的冰山一角。近年来，人工智能技能迅猛开展，带来更多新机遇和更快捷服务，但新技能也往往被一些不法分子使用，成为违法犯罪的“爪牙”。

AI“换脸”施行欺诈、AI假造图片传达流言、AI推销电话让人不胜其扰……种种乱象，不只侵略顾客合法权益，要挟人身产业安全，也阻止了AI职业的健康有序开展。

毋庸置疑，AI是科技开展的重要方向，是各国竞赛的科技高地。但开展AI的一起，绝不能忽视其危险危险。为狂飙的AI系好“安全带”，让其成“辅佐”而不是“爪牙”，重在加强管理和标准。

在近期举办的2024年国家网络安全宣传周上，AI的安全使用问题，成为热门话题。期间，相关部分发布《人工智能安全管理结构》1.0版，提出人工智能安全管理准则等方向性的破解思路。一些应对AI安全危险的黑科技也露脸网络安全博览会，比方AI实时鉴伪体系，针对AI换脸、AI拟声等欺诈套路进行有用辨认、反制。

科技历来都是“双刃剑”，是好是坏，是益是害，要害看握剑的人预备怎样用。在大力开展AI的时分，必须增强安全意识，加强相关安全技能推广使用，推进社会各方构成管理一致，让AI更好造福人类。（案牍：马若虎）