□　河北法治报记者

古孟冬

过去，我们常说“眼见为实”。但在现今AI时代，“眼见”却不一定为实。7月24日，国家金融监督管理总局发布关于防范新型电信网络诈骗的风险提示，提醒广大群众警惕诸如“AI换脸拟声”类骗局。据了解，这已是该局第四次发布关于此类的风险提示。

近年来，随着现象级应用ChatGPT、Sora的问世，引爆了生成式人工智能（AI）技术。生成式人工智能不断渗透到我们日常生活的方方面面，在使人纵享“只有想不到，没有办不到”颠覆性体验的同时，其内在的负面影响和潜在风险也逐渐显现。从“AI孙燕姿”一夜爆红，到AI“复活”逝者生意的出现；从“一天能生成19万篇文章”的AI造假产业链，再到利用“AI换脸”10分钟诈骗400万元案……凡此种种误用滥用AI技术而引发的违法犯罪行为，不仅与科技向善的初衷背道而驰，也搅浑了清朗的网络舆论场，给道德伦理、社会治理等带来新的挑战。

AI技术是把“双刃剑”，只有以法治为“剑鞘”，才能引领生成式人工智能“抑恶扬善”。对此，2022年11月，国家网信办等三部门出台《互联网信息服务深度合成管理规定》，要求深度合成服务提供者提供智能对话、合成人声、人脸生成、沉浸式拟真场景等生成服务的，应当进行显著标识，避免公众混淆或者误认；2023年7月，国家网信办等七部门出台全球首部专门规范生成式人工智能服务的立法——《生成式人工智能服务管理暂行办法》，明确对利用生成式人工智能生成内容的真实准确、防止虚假信息等提出要求，为AI技术发展再次划红线、亮底线，以法治力量守护其在安全轨道上一路向前。

法律的生命力在于实施，法律的权威也在于实施。面对当前防不胜防的AI违法犯罪乱象，有关部门必须担负起自身的职责，严格执法、能动司法，加大对不法分子的惩治力度和手段，在网络空间牢牢竖起禁止AI违法犯罪的高压线。互联网内容平台也绝不能揣着明白装糊涂，要在构筑防范AI违法犯罪“防火墙”“预警器”方面主动作为，用技术解决技术，用“魔法”打败“魔法”，不给不法分子任何可趁之机。作为互联网时代的一分子，我们也有责任激浊扬清，在提升自我鉴别真伪能力素养的同时，第一时间举报不良信息。

AI技术发展是大势所趋，对其的盲目乐观与恐惧都不可取。“刀能救人也能伤人”，AI技术同样如此，用之为善可以造福社会，不当滥用则会造成社会风险和损害。只要我们在规范上下足功夫，用法治为生成式人工智能把好方向，就一定能用好AI技术，推动人类社会迈向更加“智慧”的明天。