
综合
案例
公司
专题


给“AI造”加标识,应对AI作假的有效之举
发布时间:2025-03-17 00:00
在科技飞速发展的当下,人工智能(AI)技术正以前所未有的速度重塑着我们的世界。其中,生成式AI作为一股新兴力量,在创作、设计、教育、医疗等众多领域展现出巨大的应用潜力。然而,如同硬币的两面,生成式AI在带来便利与创新的同时,也引发了诸多新的问题,AI作假便是其中最为突出的一项。在此背景下,给“AI造”加标识,无疑成为应对AI作假的有效之举。
AI作假乱象丛生,治理迫在眉睫
近年来,AI生成合成的文字、图片、音视频等在网络平台上如洪水般泛滥。一些不法分子利用AI撰写假新闻、造谣博眼球,假手AI发表评论,打造“智能水军”,甚至深度造假知名院士视频带货宣传护肤品,借助AI假冒明星骗取老人钱财。AI技术给虚假信息披上了高科技的“伪装衣”,使得“耳听未必为真、眼见未必为实”,且随着技术的不断迭代,其迷惑性越来越强。
这些AI作假行为不仅扰乱了正常的传播秩序,损害了公众的利益,也对社会的稳定和信任体系造成了严重的冲击。防范AI造假,已经刻不容缓。
给“AI造”加标识,从源头治理AI造假
给AI生成合成内容添加标识,是从源头上治理AI造假的有效手段。国家互联网信息办公室等四部门联合发布的《人工智能生成合成内容标识办法》(以下简称《标识办法》),自2025年9月1日起施行,强制性国家标准《网络安全技术人工智能生成合成内容标识方法》也将同步实施。
《标识办法》规定,AI服务提供者在产品出厂时要贴上标识,网络平台在传播内容时也要通过贴标识等方式提醒消费者注意。这就好比给“AI造”打上了识别码,使其更容易被网络平台检得出、被社会公众看得见。公众在知道眼前信息源自AI后,就不会轻易上当受骗。
值得一提的是,《标识办法》在制订过程中充分考虑了发展与安全的平衡。并未强制要求AI服务提供者采取难度过大、成本过高的标识技术,而是创新提出多种低成本标识方法,以避免增加企业负担,影响其对AI技术研发的投入。同时,制订强制性国家标准也充分吸纳了AI领域高科技企业的专业意见,体现了“统筹发展和安全”的治理理念。
生成式AI认证,助力从业者规范应用AI
在AI技术广泛应用的大背景下,越来越多的人开始接触和使用生成式AI工具。据微软和Linkedin发布的2024工作趋势指数年度报告,76%的市场营销专业人士以及许多其他非IT岗位的工作者,如记者和教师等,已经开始使用生成式AI工具。然而,许多用户在使用过程中遇到了各种挑战与难题,如缺乏系统性及标准的学习资源,市场上碎片化的学习资料难以满足系统化学习需求,以及在使用AI时缺乏对版权及道德风险的认识,导致产生法律风险。
为了解决这些问题,全球终身学习公司培生(Pearson)推出了生成式人工智能(GAI)课程及认证。该认证由经验丰富的Certiport内容团队、生成式人工智能专业人士和教育工作者以及心理测量学家David Lauret博士合作开发,支持生成式人工智能能力的标准化基准。

GAI认证课程具有广泛的适用性,涵盖了市场上主流的生成式人工智能工具和技术,如OpenAI的GPT系列、Microsoft Copilot、Stable Diffusion等,使得学员的知识和技能更具普遍性和适应性。同时,课程、认证学习及考核维度更加全面,从应用方法及方法论、提示工程、应用改进方法到道德、法律和社会影响,帮助学习者全面及高质量掌握生成式人工智能的知识及应用。
通过参加GAI认证课程,学员们可以系统地学习生成式AI的相关知识和技能,了解如何正确、规范地使用AI工具,避免因不当使用而产生的法律风险。一旦学员学习并练习了课程中涵盖的所有技能,就可以参加Pearson生成式人工智能认证考试,获得行业认可的证书,证明他们能够有效地利用生成式AI技术和工具。
多管齐下,共筑AI健康发展生态
当然,治理AI造假,除了信息标识,技术防范同样不可忽视。比如,对网络平台上没有依规标识的AI生成合成内容该如何检测?怎样提升检测能力?如果未检测识别出来且造成不良社会影响的,责任应当如何划分?还有,对那些我国法规约束之外的境外AI工具生成合成内容,其发布和传播该怎样管理?这些都是在《标识办法》实施中值得关注和解决的问题。
此外,行业自律和社会监督也发挥着重要作用。AI服务提供者应自觉遵守相关法律法规和行业规范,加强内部管理,确保生成合成内容的真实性和合法性。网络平台应加强对传播内容的审核和管理,及时发现和处理违规内容。公众也应提高警惕,增强辨别能力,不轻易相信和传播未经证实的信息。
AI可以拟人、助人,但不能骗人、坑人。给“AI造”加标识是应对AI作假的有效之举,而生成式AI认证则为从业者规范应用AI提供了有力支持。我们相信,通过多管齐下,共同努力,一定能够有效治理AI造假乱象,还网络空间以清朗,促AI发展之健康。
如果你对生成式AI感兴趣,想要系统学习相关知识并获得权威认证,不妨深入了解GAI认证课程,开启你的AI学习之旅。欢迎在线咨询,获取更多详细信息。

意见反馈/举报
反馈/举报信息:
联系方式(选填):