生成式人工智能火爆全球 “副作用”风险不容忽视_今日讯

随着人工智能机器人ChatGPT火爆全球，生成式人工智能引发了各界人士的广泛关注。一时间，从国际科技巨头到国内人工智能企业，都纷纷杀入了生成式人工智能市场。

(资料图片仅供参考)

作为学习型选手，ChatGPT可以根据聊天上下文进行互动，对话者给出的上下文越充分，ChatGPT给出的回答越符合要求。

目前ChatGPT已经成功通过了谷歌公司的三级工程师面试、美国医学执照考试，并在美国大学入学测试中超过48%的人。此外ChatGPT最强大的能力表现为对已有内容的准确总结，所以它最有用的方向也许是将各种专业文件做总结。

美国有线电视新闻网网站报道截图

在发布ChatGPT不到4个月后， 人工智能研究实验室（OpenAI公司）又发布了一款名为GPT-4的新产品。权威人士表示，它的功能“深不可测”：能凭空制作出视频，支持图像内容的输入，还能够进行语音和文本的自然语言处理。甚至可以自己撰写文章，只需一个提示就可以写出有6万字的书籍。

在人类不断惊叹人工智能的强大时，制造一条逼真的假新闻也从未像如今这么容易。

前段时间，美国前总统特朗普被全副武装的纽约防暴警察按倒在地的假图片淹没了推特等社交媒体。

《财富》杂志网站报道截图

这些散布在社交媒体上的众多大同小异的类似照片，出自人工智能驱动的图像技术。

有专家警告说，这些图片预示着一个新的现实：就是在重大新闻事件发生后，一波又一波虚假照片和视频将充斥社交媒体，在关键时刻进一步混淆事实。

此外，一些教育工作者也担心人类会回避教育，转而依靠软件替他们学习和思考。拥有全美最大公立学校系统的纽约市日前已正式颁布禁令，规定不论是老师还是学生，都不能在纽约市公立学校的网络和相关设备上使用ChatGPT。

华尔街日报报道截图

法国顶尖大学之一的巴黎政治学院也宣布禁止在学校使用ChatGPT以及所有其他基于人工智能技术的工具，违反规定最严重者将被学校开除，甚至被整个法国高等教育系统除名。校方说，这么做的目的是为了确保“学术诚实”。

路透社报道截图

除了上述问题外，人工智能可能存在的技术安全漏洞也不容忽视。一家生成式人工智能公司的联合创始人莎伦·周在接受采访时表示，因为人工智能的算法由机器学习生成，可能存在进化和不受控制、不可预测的因素。此外这些系统也可能被用来进行欺诈、推销违法犯罪等活动进而引发道德上的问题。

路透社网站报道截图：欧洲刑警组织对 ChatGPT 可能被用于犯罪发出警告

每一次技术革命，都会给人类社会带来巨大的变化、风险和机遇。

今年3月29日，上千名科技人士联名发表了一封公开信，呼吁所有人工智能实验室立即暂停训练比GPT-4更强大的人工智能系统，直至解决相关的风险和问题。这一呼吁得到了不少关注与回应，短短两天，已有超过2300人签名。

美国商业杂志《Fast Company》网站报道截图

专家认为，虽然目前人工智能在制造业的应用还处在起步阶段，但是已经为智能问题解决、智能经验共享、基于人工智能的可预测维护等领域带来了真正的改变。因此，加强监管、引导和规范十分重要。

美国贝恩咨询公司制造业和工业4.0实践全球负责人约尔格·哥纳姆认为，就像互联网和云技术刚诞生时需要有一些阶段性管理，生成式人工智能也需要在设定安全级别、制定风险缓解措施等方面，制定措施并落实到位。

联合国教科文组织“人工智能伦理特设专家组”专家、 中国科学院人工智能伦理与治理研究中心主任曾毅认为，生成式人工智能发展到现在，其逼真度已经非常难以分辨。人类作为人工智能技术的研发者、使用者都负有不同的责任。对于公众来说，信息是不是相关的、真实的，自己要有一定的鉴别能力；人工智能的服务和应用涉及到的每一方，也都需要尽到责任，这样才能最大程度上降低人工智能的滥用和误用。

素材来源丨环球资讯广播《环球深观察》

记者丨王全文

签审丨侯晨 张哲

监制丨关娟娟

标签：