OpenAI CEO 相信人工智能会“对世界造成重大伤害”
叶紫网 北京时间 5 月 17 日早间消息,据报道,美国参议院对人工智能举行的第一次大型听证会涵盖了许多方面,从生成人工智能的爆发到社会和民主所感受到的生存危机。
美国参议院小组委员主席理查德・布卢门撒尔(Richard Blumenthal)在听证会一开始播放了一段音频。音频中说话的人听起来像是他本人,但实际上却是由人工智能合成的。明尼苏达州民主党参议员艾米・克罗布查(Amy Klobuchar)则与田纳西州共和党参议员玛莎・布莱克本(Marsha Blackburn)开玩笑说,根据 ChatGPT 的答案,谁的州有最好的音乐家。
但与这种轻松愉快的态度形成鲜明对比的是,人们已经意识到,这是一种可能改变一切的技术,而美国国会恐怕难以足够迅速地制定保护消费者的各种规则。
与 Facebook CEO 马克・扎克伯格(Mark Zuckerberg)和 TikTok CEO 周受资的待遇相比,ChatGPT 开发商 OpenAI 的 CEO 山姆・阿尔特曼(Sam Altman)在国会受到了更加热情和诚挚的接待。参议员们似乎接受了他的警告,相信人工智能会“对世界造成重大伤害”,并呼吁对这项新兴技术设置一些监管。
以下为本次听证会的要点:
监管需要
南卡罗来纳州共和党参议员林赛・格雷厄姆(Lindsey Graham)将人工智能技术比作核反应堆,认为相关企业应该申请执照,并对监管机构负责。其他参议员也认同这一观点,他们认为国会行动速度过慢,无法跟上创新速度,因此应当设立新的机构来为这样一个充满活力的行业制定规则。
“我会成立一家新机构,任何超过一定规模的计划都要获得许可才能进行,许可也可以收回,以确保达到安全标准。”阿尔特曼说。他补充道,这样一个美国政府机构可能有助于在全球范围内形成对人工智能监管的共识。阿尔特曼表示,这完全有可能实现,因为运行人工智能应用所需的庞大算力的供应链,大部分都由美国设计和控制。
虚假信息和民主
阿尔特曼警告称,人工智能有能力增强现有技术传播虚假信息的能力。他引用了人们之前对 Photoshop 的担忧,并表示人工智能生成的图像也会对现实产生同样的扭曲作用,而且实际影响要大得多。
“我们很担心这会对选举产生影响。”阿尔特曼说,“这不是社交媒体,二者并不一样,所以我们需要采取不同的应对措施。”
有人认为,OpenAI 这样的公司应该暂停生成式人工智能工具的开发,因为这种工具可以产生无法与人类语言相区分的内容。但与听证会的证人一样,参议员也认为,在中国等竞争对手纷纷加大人工智能创新之际,暂停美国的创新是不明智的。
阿尔特曼补充道,OpenAI 尚未推进其大语言模型工具的下一个迭代。“我们还没有开始训练 GPT-5。”他还补充道,该公司未来 6 个月没有训练 GPT-5 的计划。
透明度
与阿尔特曼一同出席听证会的 IBM 首席隐私和信任官克里斯蒂娜・蒙哥马利(Christina Montgomery)表示,透明度应当成为人工智能监管的核心,这样才能让用户知道他们的对话对象不是人类。
“消费者应当知道他们什么时候与人工智能系统互动,以及他们是否可以求助于真人。”蒙哥马利说,“无论什么情况,都不能欺骗任何人与人工智能系统互动。”
蒙哥马利和阿尔特曼也都同意,应该为用户赋予选择权,让他们自己决定是否可以用自己的数据来训练人工智能产品。
艺术作品版权
美国田纳西州参议员布莱克本为该州著名的乡村音乐行业代言,她表示,她的办公室曾经让人工智能工具写一首加斯・布鲁克斯(Garth Brooks)的歌曲,结果令人震惊。她向阿尔特曼询问了对歌手和词曲作者的版权保护措施。阿尔特曼承诺与艺术家合作,并强调内容创作者将受益于人工智能工具,并且可以保持对自己作品的控制。
“如果我们不介入,事情就会失控。”布莱克本警告说。
失业
阿尔特曼表示,他最大的担忧来自人工智能对劳动力市场的冲击,因此呼吁国会帮助解决这一问题。不过,他也表示,人工智能更擅长具体的任务,而非某个职业。即使某些岗位因此消失,人工智能也有望创造许多更高质量的岗位。
“随着我们的生活品质提高,加之我们创造的机器和工具可以帮助我们过上更好的生活,我们的工作门槛也会提高。”阿尔特曼说,“我对未来的工作机会非常乐观。”
布卢门撒尔也提到,劳动者被取代“或许是人工智能进步的最大噩梦”。他强调,必须要培训劳动者学习新的技能,应该将此作为他所谓的“迫在眉睫的新工业革命”的一部分。
热门推荐
-
腾讯优图发布AI手语翻译机用人工智能帮助听障人士正常交流
在全球无障碍宣传日之际,腾讯优图实验室联合深圳市信息无障碍研究会共同发布了“优图AI手语翻译机”,致... -
英特尔 ARM 英伟达共同发布规范草案,统一 AI 数据交换格式
草案中和英伟达推荐使用人工智能系统 8 位的 FP8 浮点处理格式。他们表示,FP8 为了加快人工智... -
人工智能计算机已经实现图像识别技术
在五六年之前,人工智能计算机这样的一种产品的运营还不是特别的普遍,而且在进行相关图像识别的时候,并不... -
人工智能语言模型 GPT-3 在智商测试中明显胜过人类大学生
在衡量智力的一系列推理测试中,自回归语言模型 GPT-3 的成绩明显优于普通大学生。该程序利用深度学... -
小米电视5新功能get!!!——声纹识别厉害了喔~
随着科技的不断发展,科技为人们的生活提供着越来越大的便利了,我们必须承认现在的很多家居抹上科技色彩后... -
微软人工智能技术将为宝马车主提供更好的互动体验
近期,微软正在使用开源平台为宝马汽车设计多模式智能助理,由微软Azure支持的BMW Open Mo... -
扎克伯格:国会听证会不人性导致表情管理失控
罗根开玩笑说。罗根开玩笑说。然后他让扎克伯格在他面前喝一口水,扎克伯格笑着照做。参议院听证会不是一个... -
“灭霸手套”来了!内置密集的传感器,可通过触摸识别物体
根据英国《自然》杂志30日发表的一项工程学论文,美国麻省理工学院团队报告研发出一种装配了传感器的“人... -
看家本领第一,实锤!!非小嘀人脸识别智能锁R5莫属~
人工智能技术的飞速发展悄然改变着我们人类生活的方方面面,也为我们生活中很多微小的细节提供了切实的帮助... -
小米发布人工智能虚拟形象“小爱”,不过看到她的手办后……
人人都要赚死宅的钱。 昨天,小米在北京召开了首届小米LOT(物联网)开发者大会,大会现场,小米人工智... -
LG推出家电内置AI芯片 提供最优化人工智能解决方案
LG电子近日宣布,已经成功研发出搭载于扫地机器人、洗衣机、冰箱、空调等家电产品中的人工智能(AI)芯... -
人工智能领域里面的配套服务产业有什么
现代社会上,人工智能领域已经非常的普及,而且研发出了相应的产品,所以说相关的一些企业开始有着具体的分... -
谷歌旗下一公司探索人工智能领域
根据相关媒体的报道,谷歌这个公司为了能够进行人工智能领域的探索,并且寻找这一个领域的技术,对于整个社... -
华为或将在今年九月推出智能电视 8K高清+人工智能
华为消费者业务CEO余承东曾经表示,华为不会在电器家居方面和其他品牌进行竞争,即便是做电视也不会是传... -
全新一代国产机皇华为Mate10:强大的背后,是AI技术加持下的人工智能
10月16日华为在德国发布了其全新一代智能手机-华为Mate10,引起了消费者的兴趣。全新的华为M... -
微软公布 2023 年工作趋势指数报告
微软最近推出了 2023 年度工作趋势指数报告,重点观察员工对人工智能的看法,以及人工智能... -
人工智能发展迅速
随着科技的进步,人工智能已经成为了很多科研人员以及商家所重视的领域,现在电子类的产品和设备种类越来越... -
Google Rivet发布:通过语音识别和AI提升孩子阅读技能
阅读是人类茁壮成长的必备基础技能之一,但是有些家长认为过多的在移动设备上使用儿童应用程序可能会妨碍这... -
联发科Helio P90处理器:手机拍照要超越单反相机了
5月14日,联发科举办了一场主题为“真AI相机,还原真实世界”的媒体技术沟通会,对联发科Helio ... -
马斯克认为人工智能毁灭人类的可能性很小,但绝非不可能
马斯克说:“我认为,人工智能竞赛中应该有第三匹马(be a significant third h... -
iPhone配电子吉他:人工智能新的"福音"
前些日子,一款夺人眼球的电子吉他 Fusion Guitar在众筹平台 Indiegogo 上闪亮登... -
AI 成美股“万能药”,市场过度集中或带来风险
股推动的每一次大幅上涨都会因为基础薄弱而受到嘲笑。近期,投资者对人工智能的热情正在支撑市场,而对人工... -
微软希望用 ChatGPT 控制机器人为人类提供日常服务
微软表示,其研究团队正在进一步推广人工智能技术,并试图让 ChatGPT 突破计算机限制控制机器人,... -
AI人工智能的加持 R15让你轻轻松松拍出大片
前不久刚推出的OPPO R15在市场上引起了不小的轰动,独特的“超视野全面屏”以及个性的渐变色机身确... -
MIUI 10正式启动:人工智能人机交互时代来临!
1月23日小米召开的" 不忘初心 砥砺前行--MIUI 2017年度总结大会&am...