迪声情报站 首页 安危新闻 查看内容

杨莉明:人工智能须以公共利益为本

发布者: 水雪妮 查看: 59 评论: 0 2023-6-8 10:22 |原作者: db w2

摘要: 随着人工智能的运用越来越广泛,人们须制定好相应的机制以善加利用它为公共产品
人工智能是大势所趋,将渗透人们的生活,无处不在。面对个中利与弊,我国须以公共利益为本,让人们都能从中受益,同时确保人工智能的运用是安全、可靠透明的。
通讯及新闻部长兼内政部第二部长杨莉明星期三(6月7日)在新加坡亚洲科技会展(ATxSG)上,阐述我国对人工智能发展的立场,并邀请海内外私人业者和学术专家共同完善行业环境。
杨莉明说,人工智能很可能将无所不在,而政府已经在社区服务、关卡把控、诈骗探测等方面广泛应用,人工智能已是让民众受惠的公共产品(Public Good)。

  
 
“此外,人工智能也有助改善我国所面对的广泛挑战,包括医疗、环保和教育等。”
面对如此大规模的运用潜能,杨莉明说,政府可主导促进和推广人工智能的发展,提供相关技能培训和学习渠道。
杨莉明也强调,业者须负责任地试用和使用人工智能,避免对社会造成严重伤害。因此,各界须合作制定一套安全认证框架。
资讯通信媒体发展局2022年推出全球首个人工智能验证系统AI Verify,根据安全、可靠和透明等共11个准则指标为个别人工智能系统“打分”。用户只须下载AI Verify工具包,并进行一系列技术和流程测试,就能在数十分钟内获得一份评估报告。
经过一年的试用和完善,资媒局如今公开源码,并成立人工智能验证基金会(AI Verify Foundation)。这个非盈利的基金会将充当联系政府、私人企业和学术专家的平台,促进各界的交流。基金会目前有超过50名成员,包括淡马锡人工智能卓越中心Aicadium、国际商业机器公司(IBM)、谷歌、星展银行和新加坡航空公司等海内外机构。

  
   
    延伸阅读
   
  
   
      
   鼓励女性投身科技业 须打破隐形壁垒
  
  
   
      
   各国重申应通过合作加强AI治理框架
  
 


  我国成立人工智能验证基金会(AI Verify Foundation),通讯及新闻部长兼内政部第二部长杨莉明(右四)和资讯通信媒体发展局局长柳俊泓(左四)与基金会成员代表承诺将合作完善行业环境。会员代表分别来自(左起)Aicadium、谷歌、IBM、微软、红帽和Salesforce。(陈斌勤摄)
 
多名人工智能验证基金会成员代表在会展的座谈会上指出,人们利用人工智能开发出无尽可能的应用,但背后的基础模型(Foundation Models),也就是指导人工智能如何学习的系统,却缺乏相应的评估和监管系统。
资媒局和Aicadium联合撰写的报告指出,ChatGPT和StyleGAN等语言或图像生成模型就是以生成式(generative)人工智能基础模型为起点开发出来的应用。
类似模型虽然用处很大,但也会出错、抄袭、甚至带有不同程度的歧视。若不管控,生成式人工智能或导致用户传播虚假内容、机密信息、或错误价值观。这些问题近期在社会中都有迹可循。
针对生成式人工智能,报告也建议政府可通过现有框架系统化地加强管控,为现今和未来做好准备;以及使用国际规范准则,促进各国之间机制互通。
通过AI Verify验证 阻人工智能“学坏”
成立人工智能验证基金会有助我国和国际社会打造更安全、可靠且透明的环境。业者更可通过AI Verify的验证,在人工智能“学坏”前及时指正,确保所输出的应用或产品是符合公共利益的。


路过

雷人

握手

鲜花

鸡蛋
分享到:

小黑屋|迪声情报站 © 2001-2013