您的位置:首页 > 互联网

ai智能好处和坏处「美媒:别被AI的智能吓到,真正可怕之处是它被高估被滥用」

发布时间:2023-04-05 14:35:52  来源:互联网     背景:

4月5日消息,过去六个月以来,强大的人工智能(AI)新工具正在以惊人的速度扩散,从能够进行类似真人对话的聊天机器人,到自动运行软件的编码机器人,再到无中生有的图像生成器,所谓的生成式人工智能(AIGC)突然间变得无处不在,并变得越来越强大。

i53470处理器geekbench跑分

但是在上周,针对这股AI热潮的反弹开始出现。特斯拉、推特首席执行官埃隆·马斯克(Elon Musk)为首的数千名技术专家和学者签署了一封公开信,警告“人类面临的严重风险”,并呼吁暂停AI语言模型的开发六个月。

与此同时,一家AI研究非营利组织提出申诉,要求美国联邦贸易委员会(FTC)调查ChatGPT的创建公司OpenAI,并停止其GPT-4软件的进一步商业化发布。

意大利监管机构也采取行动,以数据隐私侵犯为由,彻底封杀了ChatGPT。

有人呼吁暂停或放缓AI研究,或许这是可以理解的。几年前看起来不可思议甚至深不可测的AI应用程序现在正在迅速渗透到社交媒体、学校、工作场所甚至政治领域。面对这种令人眼花缭乱的变化,一些人发出了悲观预测,认为AI最终可能导致人类文明消亡。

好消息是,对全能AI的炒作和恐惧可能被夸大了。虽然谷歌的Bard和微软的必应给人留下深刻印象,但它们和成为“天网”相差还很远。

智能ai是什么东西

坏消息是,人们对AI快速进化的担忧已经成为现实。这不是因为AI将变得比人类聪明,而是因为人类已经在利用AI,以现有组织没有准备好的方式来压制、剥削和欺骗彼此。此外,人们认为AI越强大,他们和企业就越有可能将其无法胜任的任务委托给它。

除了那些令人悲观的末日预言之外,我们可以从上周发布的两份报告初步了解AI对可预见未来的影响。第一份报告由美国投行高盛发布,主要评估AI对经济和劳动力市场的影响;第二份报告由欧洲刑警组织发表,主要讲述AI可能被刑事滥用的情况。

从经济角度来看,最新的AI潮流主要是将曾经只能由人类完成的任务自动化。就像动力织布机、机械化装配线和自动取款机一样,AIGC有望以比人类更便宜、更高效的方式完成某些类型的工作。

世界元宇宙大会

但是,更便宜、更高效并不总是意味着更好,任何与杂货店自助结账机、自动电话应答系统或客户服务聊天机器人打交道的人都可以证明这一点。与之前的自动化浪潮不同,AIGC能够模仿人类,甚至在某些情况下冒充人类。这既可能导致广泛的欺骗,也可能诱使雇主认为AI可以取代人类员工,即使事实并非如此。

智能ai的弊端

高盛的研究分析估计,AIGC将改变全球约三亿个工作岗位,导致数千万人失业,但也会促进显著的经济增长。然而,高盛的评估数字也不一定准确,毕竟他们曾经有过预测失误的历史。在2016年,该行曾预测虚拟现实头戴设备可能会变得像智能手机一样普及。

在高盛的AI分析报告中,最有趣的是他们对各个行业进行了细分,即哪些工作可能被语言模型增强,哪些工作可能被完全取代。高盛的研究人员将白领任务的难度分为1到7级,其中“审查表格的完整性”为1级,可能被自动化的任务为4级,“在法庭上就一项复杂的动议做出裁决”为6级。据此得出的结论是,行政支持和律师助理工作最有可能被AI取代,而管理和软件开发等职业的生产效率将会提高。

该报告乐观地预测,随着企业从掌握AI技能的员工那里获得更多好处,这一代AI最终可能会使全球GDP增长7%。但高盛也预计,在这个过程中,大约7%的美国人会发现他们的职业会被淘汰,更多的人将不得不学习这项技术以维持就业。换句话说,即使AIGC带来了更积极影响,其结果也可能导致大批员工失业,办公室和日常生活中的人类将逐渐被机器人取代。

与此同时,已经有许多公司急于走捷径,以至于将AI无法处理的任务自动化,比如科技网站CNET自动生成错误百出的财经文章。当AI出现问题时,已经被边缘化的群体可能会受到更大的影响。尽管ChatGPT及其同类产品令人兴奋,但当今大型语言模型的开发商还没有解决数据集存在偏见的问题,这些数据集已经将种族歧视偏见嵌入到人脸识别和犯罪风险评估算法等AI应用中。上周,一名黑人男子再次因为面部识别匹配失误而被错误监禁。

更令人担忧的是,AIGC有些情况下可能会被用于故意伤害。欧洲刑警组织的报告详细说明了AIGC如何被用于帮助人们实施犯罪,比如进行欺诈和网络攻击等。

举例来说,聊天机器人能够生成特定风格的语言,甚至模仿某些人的声音,这可能使其成为钓鱼诈骗的有力工具。语言模型在编写软件脚本方面的优势可能会使恶意代码的生成大众化。它们能够提供个性化、情境化、循序渐进的建议,对于那些想要闯入民宅、勒索某人或制造管状炸弹的罪犯来说,它们可以成为万能指南。我们已经看到合成图像如何在社交媒体上散布虚假叙事,再次引发人们对深度造假可能扭曲竞选活动的担忧。

值得注意的是,使语言模型容易受到滥用的原因不仅仅是它们拥有广泛的智慧,还有它们在知识方面存在根本缺陷。当前领先的聊天机器人经过训练后,当检测到有人试图将它们用于邪恶目的时会保持沉默。但正如欧洲刑警组织指出的那样,“只有在模型理解它在做什么的情况下,防止ChatGPT提供潜在恶意代码的安全措施才有效。”正如大量记录在案的技巧和漏洞所表明的那样,自我意识仍然是这项技术的弱点之一。

考虑到所有这些风险,你不必担心世界末日的场景,就会看到AIGC的发展步伐放慢,让社会有更多时间来适应。OpenAI本身是作为非营利性组织成立的,前提是AI可以采用更加负责任的方式构建,而不会有实现季度收益目标的压力。

但OpenAI现在正在一场势均力敌的竞赛中领先,科技巨头正在裁减他们的AI伦理学家,而且无论如何,这匹马可能已经离开了马厩。正如学术AI专家萨亚什·卡普尔(Sayash Kapoor)和阿尔文德·纳拉亚南(Arvind Narayanan)所指出的那样,现在语言模型创新的主要驱动力不是推动越来越大的模型,而是将我们拥有的模型集成到各种应用和工具中。他们认为,监管机构应该从产品安全和消费者保护的角度来看待AI工具,而不是试图像遏制核武器一样遏制AI。

小米左挖孔屏手机

也许短期内最重要的是让技术专家、商业领袖和监管机构抛开恐慌和炒作,更加深入地理解AIGC的优点和缺点,从而在采用它时更加谨慎。如果AI继续发挥作用,无论发生什么,它的影响都将是颠覆性的。但过高估计其能力将使其危害更大,而不是更小。(小小)


返回网站首页

本文评论
pico创始人周宏伟「PICO总裁周宏伟:研发人员占总人数近80% 还会加大投入」
凤凰网科技讯 9月27日小时,PICO 4发布会后,PICO总裁周宏伟在媒体采访时表示,目前团队人数在1000人左右,研发人员约占总人数70%-80%,公司还会加大投入。今日,PICO 4国行版发布,8+128...
日期:10-02
分析师:iPhone 15和iPhone 16系列都将搭载高通5G调制解调器_iphone12系列手机均支持5g
10月9日消息,据国外媒体报道,海通国际证券分析师Jeff Pu表示,iPhone 15和iPhone 16系列都将搭载高通的5G调制解调器,这意味着苹果自己的5G调制解调器至少要到2025年才会问世。到...
日期:10-11
可编程平台Superblocks宣布完成3700万美元A轮融资,KPCP领投
讯 8月16日上午消息,可编程平台Superblocks宣布获得3700万美元A轮融资。   本轮融资由Kleiner Perkins、Greenoaks、Spark Capital和Meritech Capital领投,跟投阵容包括协同...
日期:08-16
2018特斯拉上海超级工厂「特斯拉上海超级工厂9月份有望生产超过8万辆电动汽车」
9月28日消息,据国外媒体报道,在大量生产Model 3和Model Y这两款畅销电动汽车的特斯拉上海超级工厂,年产能已经超过了加州弗里蒙特的工厂,成为了特斯拉旗下产能最高的工厂,二季度...
日期:09-30
烫手的区块链游戏 Epic能玩转吗_epic转区影响游戏吗
  来源:北京商报江铃凯运蓝鲸2.45米宽体轻卡  在Steam、任天堂等游戏平台与大厂纷纷表态对区块链游戏敬谢不敏时,游戏开发商EpicGames近日在旗下游戏商城EpicGamesStore(以...
日期:09-30
iPhone 13 5G基带「苹果15信号有救了!高通商用最强5G基带:全球首个支持Wi-Fi7商用方案」
伴随着骁龙8 Gen2的发布,高通也将要正式开始商用X70 5G基带了,当然下一代的iPhone 15也会用它,所以不用担心信号差了?需要明确的是,第二代骁龙8的X70 5G基带芯片是首个集成AI处理...
日期:11-18
米哈游原神策划「米哈游《原神》IP营销动作频频,上线两周年后“钱”景几何」
  蓝鲸TMT 印婧 图片来源:东方IC   近日,米哈游《原神》官宣与动画制作公司ufotable(飞碟社)进行长期合作,与该公司共同制作的《原神》动画项目正式开启。  同时,这一游戏近...
日期:10-03
爱奇艺更改会员投屏收费标准,还有谁在悄悄拒投“大屏”?「爱奇艺投屏要会员吗」
  作者/吕倩 王珍  近日,大批网友在网络社交端表示,爱奇艺App对投屏价格进行了限制。过去爱奇艺黄金VIP会员支持4K清晰度视频投屏,但现在仅能选择480P清晰度。  对此,爱奇...
日期:01-12
足球迷必备!小米主题推出世界杯高清壁纸「皇马球迷壁纸」
2022届世界杯正在卡塔尔如火如荼进行中,这项顶级体育赛事受到了广泛关注。小米用户现在有福了,小米主题推出了世界杯高清壁纸。苹果泄露照片事件据介绍,这些壁纸是小米主题联合...
日期:11-26
滴!浪潮云“春节守护计划”已经上线
  在不平凡的2020,作为全国最大的分布式云,浪潮云通过部署在全国的7大核心云中心和89个地市云中心为超过170个省市政府和100多万家企业提供服务,并不断提升自身服务能力,铸造...
日期:07-16
腾讯控股:耗资约3.52亿港元回购126万股「腾讯香港股东」
  腾讯控股9月27日公告,公司于9月27日回购126万股,回购价格为275.4-283港元,共耗资约3.52亿港元。极米投影仪new z6x荣耀x30详细参数及价格适合佳能m100的微单镜头...
日期:09-28
中卫国脉连续两次重组失败 电信号码百事通或借壳上市
  《通信产业报》(网)记者多方探访得知,公告所称的“重大事项”与去年年中业界所传号码百事通(下称号百)将分拆上市密切相关。据集团号百相关人士透露,中国电信已定于今年6月将...
日期:07-27
招行信用卡第9次荣获中国品牌力指数第一名(招商银行品牌分析)
  日前,2020年中国品牌力指数(C-BPI)品牌排名发布,在信用卡品牌中,招商银行信用卡再次荣获第一,这已是其第9次问鼎中国信用卡行业品牌力第一名。   中国品牌力指数(C-BPI)...
日期:10-27
上海特斯拉工厂小时工「特斯拉:上海工厂大部分员工春节期间放假9天」
(原标题:特斯拉:网传上海工厂放假信息不准确,比法定假期延长两天) 12月28日,有媒体报道称特斯拉上海超级工厂将从2023年1月3日至1...
日期:12-28
冯晓海:满座网要做本地精准营销电商平台
  3月1日消息 国内团购市场的千团大战已经进入淘汰赛阶段,经过第一轮生死考验后,一大批小型团购网站已经销声匿迹,剩下的有的被迫转型,有的选择被收购兼并,加之最近Groupon“...
日期:07-26
LG新能源正开发磷酸铁锂电池 能量密度或比宁德时代竞品高
2月21日消息,据外媒报道,目前,韩国电池制造商LG新能源(LG Energy Solution)正在开发电动汽车用磷酸铁锂(LFP)电池。消息人士称,该公司的目标是使这款电池的性能超过其竞争对手宁德时...
日期:03-01
终于还是来了:抖音内测弹幕功能_抖音直播有弹幕吗
  IT之家9 月 2 日消息,随着抖音用户越来越多,抖音 App 上的功能也在不断丰富。8 月下旬,抖音上线了评论点踩功能,官方表示希望能够“将善意叠加,将恶意折叠”。近日,抖音又开始...
日期:09-07
电影著作权协会:网吧播国产片将缴纳版权费_院线电影网络版权费
  继中国音像著作权集体管理协会2006年开始在全国范围对KTV收取卡拉OK版权费用后,近日又一项声势浩大的版权收费行动正式开始:这就是网吧电影版权收费。   今年4月,刚成立...
日期:07-29
吃鸡神器新体验 北通J1降临王牌战士_北通吃鸡神器哪个好
  《王牌战士》已在10月31日完成了最新的一次更新:王牌试炼已开启至40层;而早在10月24日的大更新‘双生试炼’中,王牌试炼已与新选手-双子(马克&妮娜)同时登陆正式服。而近...
日期:07-23
马斯克发推特说市值_马斯克称若推特能确认部分内容,或将继续推进收购计划
讯 8月7日早间消息,当地时间8月6日,特斯拉首席执行官埃隆·马斯克在社交媒体上表示,如果推特能够确认一些关于如何衡量用户账户是“机器人或虚假账户”还是真人的细节,他以440亿...
日期:08-08