全球快看:人工智能诈骗接二连三 更高层面监管亟须落地
来源:证券时报 发布时间:2023-05-26 06:07:48


(相关资料图)

近日,包头、安庆等地先后发生不法分子利用人工智能(AI)进行诈骗,涉及金额数百万元。资本市场同样出现AI负面影响的事件,某上市公司因为生成式AI写作虚假小作文导致股价大幅下跌。

在欧美,利用人工智能进行犯罪也有增多趋势。欧洲刑警组织在一份最新报告中警告,犯罪分子可能会利用人工智能精进犯罪手段。从发动网络钓鱼攻击、散布不实信息到安装恶意软件等,聊天机器人快速发展出的能力,被不法之徒频频利用来吸金诈财。

人工智能被誉为第四次工业革命的核心,长期以来都受到政府和行业的高度关注。今年以ChatGPT为代表的生成式人工智能更是在全球刮起旋风,资本市场对相关企业也给予了高度关注。但人们探讨的,更多是人工智能对各行各业带来的正面变革,甚少看到它高速发展可能带来的负面影响。业内仅有少数有识之士提出,希望人工智能在迅猛发展的同时,也要受到足够的约束和监管。

今年3月,在ChatGPT火出圈后,包括特斯拉总裁马斯克、苹果联合创始人史蒂夫·沃兹尼亚克在内的一批高科技人士发表联名信,呼吁所有AI实验室立即暂停更强大的AI系统训练至少6个月,以保证人类能够跟上人工智能进化速度,同时要求训练过程必须公开化、透明化,坚决防止人工智能出现自我意识。

“人工智能教父”杰弗里·辛顿今年年初就曾经警告,人工智能对人类构成的威胁将比气候变化更加紧迫。辛顿认为,人工智能是一种智能工具,可以辅助人类做一些繁琐、重复和创意性工作,但也会有不法之徒用它来做违法乱纪的勾当。人工智能不但能撰写文章,还能生成图像、视频。如果用来弄虚作假,几乎可以乱真,普通人很难识别出来。如果有人用它来制作虚假图像、视频,传递错误信息,其破坏力远大于单纯的文字形式。

当前在国内外发生的种种违法犯罪,正在应验辛顿的警告。可以预见,未来利用人工智能进行违法犯罪的事情会越来越多。金融市场和金融机构因为涉及资产价格和国家安全,人工智能犯罪的概率会更大。

今年4月,国家互联网信息办公室起草了《生成式人工智能服务管理办法(征求意见稿)》,旨在促进生成式人工智能技术健康发展和规范应用。但作为一个行业管理办法,显然不足以对汹涌而来的人工智能发展进行约束和管理。期待监管机构能够在更高层面对这一行业发展进行更多关注和规范。

(文章来源:证券时报)

标签:

猜你喜欢

全球快看:人工智能诈骗接二连三 更高层面监管亟

近日,包头、安庆等地先后发生不法分子利用人工智能(AI)进行诈骗,涉及金额数百万元。资本市场同...更多

2023-05-26 06:07:48

新一代256核区块链加速芯片问世 全面支撑国家区

记者从2023中关村论坛获悉,北京微芯区块链与边缘计算研究院(下称“微芯研究院”)研发的新一代256...更多

2023-05-25 23:02:27

当前讯息:先进氢能储运技术推进清洁能源高效利用

2023世界氢能技术大会(WHTC2023)正在广东佛山召开。中氢源安(北京)科技有限公司董事长张金金在会上表示更多

2023-05-25 21:53:59

去哪儿:淡季低价将持续至六月初 适宜短途游、错

【去哪儿:淡季低价将持续至六月初适宜短途游、错峰出行】去哪儿25日发布的数据显示,5月5日-5月23...更多

2023-05-25 22:06:47

“科大讯飞AI TechDay”系列活动在深圳首场落地

数字经济时代,机器人行业已成为促进产业跨越式发展、构建高品质生活的关键之匙,在工信部、国家发...更多

2023-05-25 20:53:16

焦点简讯:悬有中国香港旗帜货轮在苏伊士运河搁浅

据苏伊士运河服务提供商Leth发布的消息,当地时间5月25日上午,一艘悬挂有中国香港旗帜的货船在苏伊...更多

2023-05-25 21:03:53

【世界时快讯】光伏业大消息!龙头宣布:概念产品

随着产业链成熟及产业、资本等各方努力,异质结(HJT)电池技术今年有望迎来加速爆发的新阶段。近日...更多

2023-05-25 20:00:20

世界快讯:广西成立预制菜产业联盟 产业迈入集群

【广西成立预制菜产业联盟产业迈入集群化发展】5月25日,广西预制菜产业联盟揭牌成立。广西预制菜产...更多

2023-05-25 20:02:46

全球视讯!深市绿色低碳领域上市公司积极践行“双

党的二十大报告提出,推动经济社会发展绿色化、低碳化是实现高质量发展的关键环节。当前,绿色低碳...更多

2023-05-25 18:53:20

各地演唱会密集“开唱” 多维度带动相关产业发展

门票秒售罄、周边酒店预订暴增……近日,各地演唱会密集“上新”,线下演唱会市场迎来强势复苏。某...更多

2023-05-25 18:58:53