生成式AI带来国安风险:美国FTC调查OpenAI,中国网信办分类分级监管

0
172

美中两大经济体,分别向人工智慧(AI)进行调查、监管。其中,美国监管单位首次调查AI聊天机器人所带来的风险。调查原因在於AI是否带来假讯息,以及藉由盗取隐私、资讯安全等,进而有不公平的竞争;另一方面,中国则於今(2023)年8月15日起依法监管生成式AI。

美国监管单位调查OpenAI

今年生成式AI产业大爆发,这是由微软(Microsoft )投资的OpenAI开发的ChatGPT所带起的风潮。而随着应用渐多,AI衍生的风险也跟着攀升。近日美国联邦贸易委员会(FTC)发信给微软,要求民众的权益是否因为AI受到侵害。

OpenAI发布两个月後,每个月活跃用户超过1亿,微软的新必应(Bing)搜索引擎,同样使用OpenAI技术,而在今年1月发布後的两周内,Bing已在169个国家被逾100万人使用。

FTC指出,必须调查OpenAI有无利用民众隐私及数据进行不公平或欺骗行为,据许多人工智慧专家表示,AI技术将使用大量个人数据,可能在错误的资讯上,加遽性别歧视、种族主义等问题造成国家安全危机,而生成式AI正成为全球监管机构关注的焦点。

《金融时报》报导指出,FTC要求OpenAI分享内部资讯,这包含从该公司如何保留、使用用户数据,到如何解决产生「虚假、误导资讯」所带来的风险的措施,都必须一五一十地告诉FTC。FTC拒绝就这封信发表任何评论。

对此,OpenAI执行长萨姆奥特曼(Sam Altman)昨日晚间於推特(Twitter)写道,「看到FTC泄露信件内容,令人非常失望,这都无助於建立双方信任」。他说:「对我们来说,自身资讯安全的技术有信心,相信都会有利消费者,同时我们会遵守法律,也会配合FTC。」

中国8月将依法监管生成式AI

值得注意的是,OpenAI用户报告中提到,ChatGPT捏造了姓名、日期和事实,甚至伪造了新闻网站连结,以及学术论文的参考文献,报告称呼这个现象为「幻觉」。

FTC的调查ChatGPT设计的技术细节,也要求OpenAI修复「幻觉」的问题,且要求它们加强人工审查,才可以让民众拥有更精准且可靠的内容。而本次调查大多限於资讯安全的层面上,并未扩及硬体层面,但在可预见的未来,硬体设备的问体也将如中国华为、中兴等通讯设备一样遭到检验。

另一方面,AI热潮也在中国蔓延,尤其在中美科技战与地缘政治冲突下,美中政府亦步亦趋地收紧监管力道。中国网信办等七部门於13日,公布生成式人工智能服务管理暂行办法,未来将实行包容审慎和分类分级监管。

事实上,中国并未向外打开AI市场的大门,急欲扶持本土的AI聊天机器人业者发展,如百度的「文心一言」、阿里巴巴推出大模型「通义千问」以及华为推出「盘古Chat」,不过受限於美国的晶片禁令,致使云端运算受限,整体拖慢了产业的发展。

中国网信指出,未来将推动促进创新和依法治理相结合的原则,采取有效措施鼓励生成式人工智能创新发展,也针对训练AI的数据进行管制。而外界预计,中国将有更多政策扶持国内AI产业。

0 0 投票数
Article Rating
订阅评论
提醒
guest
0 Comments
内联反馈
查看所有评论