热消息：10分钟被骗430万？我们都可能是AI作恶的受害者

【资料图】

原标题：10分钟被骗430万？我们都可能是AI作恶的受害者

近日，“某科技公司老板遭遇AI换脸诈骗”一事冲上热搜，引发网友热议。

据报道，当事人突然接到好友的微信视频，经过短暂聊天，好友开口借钱。基于视频聊天信任的前提下，他毫无怀疑把钱转了过去，没想到却是不法分子通过AI换脸技术，佯装好友进行诈骗。

魔幻一幕令人吃惊，但这并非AI换脸第一次作恶了。除了诈骗钱财，此前还有女子被人利用AI“一键脱衣”造黄谣，某男子利用视频合成技术，将电视剧中与某知名女星亲吻的男主角换成自己以蹭流量，效果都到了以假乱真的地步。如上案件细节不尽相同，但无不直观展示了AI作恶的可怖之处。一来，技术门槛大幅降低，一键生成为病毒式传播大开方便之门。二来，受害者无差别，骗人内容五花八门。三来，追责难上加难。此前网络乱象就因为匿名性导致追责不易，如今在AI加持下，更难追查，传播链条病毒式延展，维权只怕更加赶不上骗人速度。

作为一种基于深度学习算法的信息技术，人工智能本身是中性的，但背后操作、设定、使用的是真实的人，AI可用来兴利向善，也可用来牟利作恶。这也提醒我们，普及人工智能技术时，必须以法律和道德加以规范，避免滥用、泄露和侵犯个人信息等行为。在这方面，我们国家已经较早开展人工智能立法探索，并且针对“AI换脸术”专门出台了管理规定。至于广受诟病的“一键脱衣”等灰色软件，更是早就被封禁下载。但就现实来看，“灰产”恐怕还有变种，仍需加强监管。其中平台作为关键的传播载体，也必须守土尽责，对侵权视频加强审核、建立机制，真正成为健康优质的信息分享地。

AI作恶危害性极大，每个人也都应该成为“安全围栏”的重要一环。遇到不实信息随手举报，别去围观恶劣内容，提高警惕、尊重别人、净化环境，就是在保护我们自己和身边人。（雨馨）

标签：