天天播报:如何防止“人工智能”暴走 关键是要控制好“人”
来源:上游新闻 发布时间:2023-04-12 12:55:30


(资料图片)

4月11日,国家互联网信息办公室发布《生成式人工智能服务管理办法(征求意见稿)》。《征求意见稿》就生成式人工智能在研发、应用等不同环节需遵循的社会伦理,对知识产权与个人隐私保障等法律义务,以及服务平台应遵守的相关法规和应尽责任,明确了标准和要求。所谓“生成式人工智能”,是指基于算法、模型、规则生成文本、图片、声音、视频、代码等内容的技术,近段时间引爆全球的ChatGPT,就属于一种生成式人工智能服务。

任何一场技术革命总是伴随着滞后的风险规避措施。近来,“AI写假新闻”“AI一键脱衣”等案例提醒我们,在拥抱人工智能的同时,必须构建完善的管理制度和法律规范,让AI及其开发者明白该做什么、不该做什么。《征求意见稿》对人工智能应用“立规矩”,并不是要限制它的发展,而是强调科技发展是安全的,且必须向着合乎人类利益的方向演进。从这个意义上讲,“让我们享受一个漫长的AI夏天,而不是毫无准备地陷入秋天”,并非一般的诗句,而是人类迈向科技未来需要反复唱颂的史诗。

其中,“安全”两字对人工智能来说至关重要。之前,图灵奖得主约书亚·本吉奥、计算机科学家斯图尔特·罗素以及特斯拉创始人马斯克等千余名业界人士则站出来指出,鉴于最近几个月来人工智能领域已陷入一场几近失控的竞赛,巨型AI研究是时候按下暂停键,并且在这段时间里,所有AI实验室和独立学者都应该合力开发一套共享安全协议,这些协议必须确保这些AI系统毋庸置疑的安全。

《征求意见稿》同样也提出,利用生成式人工智能生成的内容应当真实准确,采取措施防止生成虚假信息;防止伤害他人身心健康,损害肖像权、名誉权和个人隐私,侵犯知识产权;禁止非法获取、披露、利用个人信息和隐私、商业秘密等。这些规定都是为促进人工智能技术的健康发展和规范应用,尽量使“技术向善”。

因为比起失控的技术,更有可能失控的是用技术来为非作歹的“人”。比如,恶意使用者可能会利用ChatGPT来制造虚假信息、实施欺诈活动或进行其他不道德行为。《征求意见稿》从预防性原则出发提出监管并不是简单叫停,而是通过科技风险的认知和研判,探寻我们可以接受的研究和创新。毫无疑问,科技将越来越深地走进生命和智能等关乎人类存在的领域,人的价值、伦理等问题也因此必须被视为研究和创新的内在环节,必须在关注度和监管措施上给予相应的投入,“与时俱进”的风险规避,实施更全面的人工监管,时刻关注AI技术的安全性,确保其不会被滥用,才能充分发挥人工智能的潜力,为人类社会带来更多便利和进步。

立好规矩、划好红线,使科技的力量在我们可以掌控的节奏下有序绽放,人工智能才能更好造福人类,而不是引发焦虑、成为威胁。《征求意见稿》广纳众言,也希望社会相关各方积极参与其中,共同维护生成式AI的技术研发和产业发展。

(文章来源:上游新闻)

标签:

上一篇:

下一篇:

猜你喜欢

天天播报:如何防止“人工智能”暴走 关键是要控

4月11日,国家互联网信息办公室发布《生成式人工智能服务管理办法(征求意见稿)》。《征求意见稿》就...更多

2023-04-12 12:55:30

环球快资讯丨深圳机场再度“官宣”国际新航点 这

近日,深圳机场在深圳证券交易所“互动易”平台回复投资者问讯时表示,将加快恢复拓展深圳至巴塞罗...更多

2023-04-12 13:03:26

中医药现代化发展提速 上市公司积极布局助推产业

在中国式现代化的道路上,中医药从未缺席。近年来,中医药现代化一直是行业热议问题。近日,《证券...更多

2023-04-12 11:47:32

今日精选:白酒板块持续调整!贵州茅台盘中跌破17

红星资本局4月12日消息,白酒板块延续昨日的下跌趋势。贵州茅台(600519 SH)早盘一度跌破1700元关口...更多

2023-04-12 11:51:27

科技部:进一步支持西部科学城加快建设|天天资讯

科技部:进一步支持西部科学城加快建设更多

2023-04-12 11:04:11

焦点短讯!大咖观点|卢战:让时尚健康消费文化引

21世纪经济报道王琦实习生刘嘉露海口报道当前,时尚消费趋势正在朝着更加可持续和品质化的方向发展...更多

2023-04-12 11:06:43

本轮沙尘已跨过长江,杭州、湖北等多地空气质量已

据@中国天气微博消息,沙尘影响已经南下抵达上海、杭州,昨天夜间上海pm10浓度急剧升高,今晨在东风...更多

2023-04-12 10:56:09

环球速看:全体大会二:深化金融体制改革 推动金

新华财经北京4月12日电在4月4日举行的2023中国金融学会学术年会暨中国金融论坛年会上,摩根大通董事...更多

2023-04-12 10:04:26

去年不明儿童肝炎原因找到了?《自然》连发三篇研

3月30日,《自然》杂志连续刊发了三篇关于不明儿童肝炎的研究论文,回顾了2022年被报告的不明儿童肝...更多

2023-04-12 10:09:28

中药股震荡走强 江中药业涨超6%逼近历史新高

4月12日上午,中药股震荡走强,江中药业涨超6%逼近历史新高,葵花药业、西藏药业、广誉远、马应龙、...更多

2023-04-12 09:59:06