严防生成式AI“深度造假”|全球热议
(资料图片)
谢若琳
随着AI的应用越来越广泛，诸多问题开始显现，首当其冲的就是内容真实性。AI作为工具并不具备判断力，其生成的结果是基于数据投喂和算力养成的综合产物，那么，这些数据是否真实合法，直接决定了AI是否能大规模应用。
日前，国家网信办发布《生成式人工智能服务管理办法（征求意见稿）》(以下简称《征求意见稿》)，向社会征求意见。《征求意见稿》明确“国家支持人工智能算法、框架等基础技术的自主创新、推广应用、国际合作，鼓励优先采用安全可信的软件、工具、计算和数据资源”，并就生成式人工智能服务商的准入，算法设计、训练数据选择、模型、内容，以及用户个人隐私、商业秘密等方面提出了相关要求。
其中，有两条内容强调了真实。一则是在第四条“提供生成式人工智能产品或服务应当遵守法律法规的要求，尊重社会公德、公序良俗”中表示，“利用生成式人工智能生成的内容应当真实准确，采取措施防止生成虚假信息”。另一则是在第七条“提供者应当对生成式人工智能产品的预训练数据、优化训练数据来源的合法性负责”中表示，“能够保证数据的真实性、准确性、客观性、多样性”。
这意味着，AIGC的研发平台不但要保证投喂的数据资源真实可靠，同样要对生成的内容负责，这无疑是一项巨大的挑战。
事实上，在全球AI赛道的顶级选手中，还没有任何一个平台对AI生成结果的真实性进行担保。此前，谷歌推出的人工智能聊天机器人巴德（Bard）与ChatGPT对垒，却因巴德犯了事实错误，导致谷歌的股价暴跌，一夜之间市值蒸发约1056亿美元。微软则在一份免责声明中表示：“必应是由人工智能驱动的，因此有可能出现意外和错误。”
对生成式AI研发者而言，确保结果真实的难度之大可想而知。笔者认为，在研发、实验阶段，应该允许AI不断试错、修正、完善，但随着生成式AI作为工具进入生产领域，开始进行搜索、绘画、问答，甚至编程、视频生成等工作，那么确保真实就应该是基础门槛。
换句话说，AI要抢人类的工作，从底层模型起就先要解决是否真实准确的问题。如果这一问题还未有定论，那么研发平台应该审慎向大众层面推出新品，更不应草率地将AI运用于商业环境中。
如今，全球基于AI的创业公司如雨后春笋般涌现，仅在3月份就有近10款AI视频生成器诞生。输入几个关键字就能获得一段文字、一张图片甚至一个视频，这无疑体现了科技的魅力。但部分企业为了追风口就仓促推出新品，导致产品质量良莠不齐，一些产品生成的内容滑稽可笑，更有一些产品生成的内容存在虚假。这类“深度造假”的内容一旦传播开来，极易引发社会信任危机。
在笔者看来，面对新技术，我们既要抓住机会、勇于攀登，也不能回避技术发展带来的各类安全风险和伦理挑战，需构建合理规范的数字规则，做“负责任的”人工智能，立好规矩明确红线，防范潜在风险，推动科技向善。
标签：
相关文章
世界动态:2023年“泼水节” 西双版纳旅游总收入超21亿元
这个春天，云南成为万人狂欢的主场，傣族同胞的传统节日“泼水节”开启，吸引了来自全国各地的游客前来体验。市民游客聚到一起，传递的是祝...
【世界聚看点】杭州19楼婚纱摄影_杭州1602婚纱摄影工作室
当前大家对于杭州1602婚纱摄影工作室都是颇为感兴趣的，大家都想要了解一下杭州1602婚纱摄影工作室，那么小美也是在网络
1000千伏福州—厦门特高压交流工程组塔有序推进 世界今日报
1000千伏福州—厦门特高压交流工程组塔有序推进“上塔前检查好自锁器等安全防护措施，塔上总指挥密切监视吊件并配合地面人员指挥。”4月13...
紫建电子：融资净买入136.76万元，融资余额4928.5万元（04-18）
2023年4月18日紫建电子融资净买入136 76万元，融资余额4928 5万元
资讯推荐:实用！收好这份五一假期防坑指南
结账时方惊觉“天价菜”、海景房竟是“照骗”、导游强制消费…假期出游的陷阱你遭遇过吗？擦亮双眼，不再中招！转给计划出游的T
AFIH2023 Spring 精彩落幕｜将生活·以艺术 人人都是“收藏家”
AFIH2023年4月16日，第四届北京城市艺术博览会（AFIH2023Spring）在王府半岛酒店完美落幕。据后台数据显示，展会期间累计到场5200余人次，突破
天天观天下！乜是什么字怎么读_乜怎么读
欢迎观看本篇文章，小勉来为大家解答以上问题。乜是什么字怎么读，乜怎么读很多人还不知道，现在让我们一起来看看吧！1、发音：
今日热议：使用云服务器部署并简单使用 Jenkins
Jenkins是一款开源的自动化构建和持续集成工具，广泛应用于软件开发中，能够自动构建、测试、部署和监控项目，帮助团队提高开发效率和质量。在
洗衣服英语短语怎么说 洗衣服不是Wash
推送最新时尚资讯、穿搭方法、美妆美发，让你每天都比昨天更美一点点。洗刷刷、洗刷刷~洗衣服怎么说？嗯？Washclothes？✘Washclothes✔dothelaundry
【热闻】怀孕一个月可以药流吗多少钱_怀孕一个月可以药流吗
1、如果做一个月彩超，可能看不到宫内孕囊。2、在这种情况下，你不能进行药物流产。3、药物流产的前提是做妇科彩超，能看到子
天天百事通！卡佩拉称赞霍福德：他一整场都让我筋疲力尽&很难在内线帮助队友
今日，老鹰中锋卡佩拉在赛前接受了媒体的采访。在谈到凯尔特人中锋霍福德时，卡佩拉称赞道：“霍福德一整场比赛都让我筋疲力尽，让我很难在...
世界速看：3158小本创业商机网_www 3158 cn创业商机网是骗人的吗
1、广告虚假成份太多了,确实很多项目都是吹的,自己小心谨慎的好 上面大概分两种,一种是实实在在的项目,只是被吹的太神了,其实能不能赚钱谁也不
头条焦点：球探报告：弗赖堡06级前腰诺亚-达维奇，模板卡纳莱斯
球探报告第70期，弗赖堡06级前腰诺亚-达维奇。原文于2023年3月20日发布在英文球探网站。|基本信息姓名：NoahDarvich国籍：德国生日：25 09
红土地美翻了，上海这些援滇干部在行动…… 全球报道
以蓝天白云为幕布，七彩大地为舞台，云南省昆明市东川区红土地景区内，一片欢歌笑语，彝家阿哥阿妹身着盛装，为游客送去祝福。百
昆明到深圳自驾游路线(昆明到深圳自驾经过哪些地方)_环球速递
1 昆明到深圳自驾经过哪些地方昆明到深圳距离1440公里，预计飞行时间2小时15分钟左右，每天航班数量较多，基本不低于25班次，从早上7点到晚上2
【防弹少年团BTS田柾国JK】《原来是初恋》60
周六的早上你睡到自然醒缓缓的睁开了眼睛，却被穿戴整齐侧躺在你身边的田柾国阻挡了所有视线，随即你的额头也迎来了温热的一吻。你往后移了些
全球播报:3月份民航业完成旅客运输量4570万人次 运输生产恢复态势总体平稳
央视网消息：记者今天(4月18日)从民航局新闻发布会上了解到，3月份，民航全行业完成运输航空飞行93 8万小时，同比增长116 9%；完成旅客运输量4570 4
西南首个国际标准化人才培训基地落户成都|世界速看料
(记者刘忠俊)4月18日，由国家标准化管理委员会、成都市人民政府共建的国际标准化人才培训基地(成都)在四川省成都市揭牌，这标志着全国第七个、
守护最美“夕阳红”！嘉兴举行养老护理员技能竞赛
“刘爷爷，我们来进行床上翻身训练。”“您是不是不开心啦？等会儿我们去下棋吧！”“您可以按照我说的步骤，自己操作一遍试试。”……今天...
“十二大行动”助力湖北建设先行区
长江日报大武汉客户端4月18日讯（记者李佳）4月18日，省政府新闻办召开《关于加快建设全国构建新发展格局先行区的实施意见》精神解读系列新闻
成都武侯区紧急寻人！-每日快播
近日，成都武侯区委政法委发布寻人启事全城征集半个多月前合力制服持刀者的市民的线索将向他们颁发见义勇为先进个人证书和奖励▲热心市民合力
