您当前的位置: 财报说  >>  财经 > >  内容页
世界最新:科技巨头被曝全线裁撤AI伦理团队 无视技术野蛮生长隐忧重重
来源:市场资讯      时间:2023-03-30 00:02:59

财联社3月29日讯(编辑 赵昊)综合多家媒体报道,在人工智能(AI)技术越来越广泛地被用于消费产品的同时,科技巨头却一直在削减AI伦理团队的人员,导致外界对这项新技术的安全性感到担忧。


(相关资料图)

AI伦理团队是专门评估部署人工智能相关伦理问题的团队,主要职责是为使用人工智能的消费产品提供安全建议。据了解,削减该团队的公司包括微软、Meta、谷歌、亚马逊、推特等,这意味着FAANG中只有苹果公司不在这一“撤防”行列。

去年下半年以来,为应对经济形势不加、成本上升等问题,科技巨头先后宣布缩减支出,裁员人数动辄上万。一般来说,各公司的AI伦理团队只有数十人,因此团队即使被大幅缩减,通常也不会特别引起注意。

不过,由于聊天机器人ChatGPT的横空出世,人们对这项技术的警惕性高了起来,有专家警告已经存在滥用行为。日内,未来生命研究所(Future of Life Institute)呼吁所有AI实验室立即暂停训练比GPT-4更强大的AI系统。

多家科技巨头裁减AI伦理团队

同时,公司裁减AI伦理安全团队的行为也逐渐被放到放大镜下。谷歌旗下的AI初创公司DeepMind的前伦理和政策研究员Andrew Strait告诉媒体,“当下可以说是最需要这些团队的时候,但公司还是放走了那么多AI安全人员,令人震惊。”

两周前,ChatGPT开发商OpenAI的“金主”——微软公司被曝在今年1月解散了其整个“AI道德与社会团队”,同时公司却在引领潮流,加速将ChatGPT的同源技术嵌入到更多的产品中。

微软方面解释称,削减的职位不到10个,其在责任工作方面的整体投资始终在增加。并且公司仍然在负责任AI办公室(ORA)团队中保留数百人,专注于制定规则来管理公司的AI计划。

虽然埃隆·马斯克是“带头抵制GPT5”的科技圈大佬之一,但消息显示,他在控制推特后也削减了这家社交媒体公司的AI道德团队。

另据一位消息人士透露,亚马逊也在上周“官宣再裁员9000人”时,裁撤了旗下流媒体平台Twitch的AI道德团队。

曾爆料聊天机器人“活了”谷歌吹哨人被裁

谷歌方面,有接近公司的人士透露,一些负责道德AI监督工作的员工也在1.2万人的大裁员中被裁掉了。值得一提的是,在ChatGPT公布之前,谷歌公司就已经发生过一件“耸人听闻”的事。

去年4月,时任谷歌AI伦理研究员的Blake Lemoine在交给高管的一篇报告中写道:在经过一段时间的测试后,他认为公司研发的AI聊天机器人“LaMDA”已经觉醒了意识,具有与人类孩子相当的感知和表达思想和感受的能力。

当时,谷歌高管调查了他的说法并予以驳回。其后,Lemoine还联系了美国众议院司法委员会的职员,要让LaMDA上听证席,控诉谷歌不符合道德要求。2022年7月,谷歌发言人证实Lemoine已被解雇。[page]

值得一提的是,当时仍较为低调的OpenAI首席科学家Ilya Sutskever也发推文表示大型神经网络“可能有点意识了”,一度也闹的沸沸扬扬。

“AI系统可能对社会和人类构成深远的风险”

前Facebook人工智能伦理研究员Josh Simons告诉媒体,人工智能伦理团队是科技巨头唯一的、关键的内部堡垒,这些堡垒被拆除将导致算法受到广告需求的摆布,可能会影响孩子、弱势群体乃至整个社会。

未来生命研究所也在公开信中表示,“大量研究表明,具有与人类竞争智能的AI系统可能对社会和人类构成深远的风险,这一观点得到了顶级AI实验室的承认。”

公开信指出,“最近这几个月,全球的AI实验室已经完全失控了,它们疯狂地开展AI竞赛,来开发和部署更强大的AI,而没有任何人可以理解、预测、控制这些AI,连它们的创造者都不能。”

伦敦国王学院人工智能研究所所长Michael Luck表示,“我们无法完全预测这些新技术将要发生的所有事情,我们要对它们给予一定的关注,这很关键。”

另外,聊天机器人的核心技术“大语言模型”已经被证明会作出虚假的陈述,可能被用于操纵选举和传播虚假信息等目的。

OpenAI公司首席执行官山姆·阿尔特曼也曾表示,“我最想提醒人们的是,AI模型会自信地陈述一些虚构的事物,就好像它们是真实的事情一样。”

上一篇:

下一篇:

X 关闭

经济动态 查看更多

X 关闭

精彩推荐
世界动态:莲希法布_莲希
时间·2023-03-28    来源:市场资讯
热文:ChatGPT 标注指南来了!数据是关键
时间·2023-03-27    来源:市场资讯
环球百事通!仿生人血神篇(29)
时间·2023-03-27    来源:市场资讯
萨拉莫内_关于萨拉莫内的简介
时间·2023-03-27    来源:市场资讯
焦点速读:2023年单排上王者,从不懂到十分懂
时间·2023-03-27    来源:市场资讯
天天热推荐:大战红孩儿概括10字_大战红孩儿概括
时间·2023-03-27    来源:市场资讯
短讯!中华“福寿”主题诗词创作大赛三亚颁奖
时间·2023-03-27    来源:市场资讯
要闻:友山基金24只基金年内7只下跌 2只累计亏损超20%
时间·2023-03-27    来源:市场资讯
恭祝你寿辰与天齐_恭祝
时间·2023-03-26    来源:市场资讯
造型硬朗的城市SUV 奇瑞TJ-1
时间·2023-03-26    来源:市场资讯
郑爽个人资料
时间·2023-03-26    来源:市场资讯
医学上三高是指什么呢_医学上三高是指什么
时间·2023-03-26    来源:市场资讯
前沿资讯!日本最火的十大游戏 日本游戏排行榜前十名
时间·2023-03-26    来源:市场资讯
企业申请商标代理需要哪些手续
时间·2023-03-26    来源:市场资讯
世界看点:世界屋脊是什么意思
时间·2023-03-25    来源:市场资讯
扎克施奈德DC三部曲将于4月28日在美国放映
时间·2023-03-25    来源:市场资讯
全球通讯!孔子真正原名叫什么什么叫字仲尼
时间·2023-03-25    来源:市场资讯
德意志银行股价大跌 引发市场担忧
时间·2023-03-25    来源:市场资讯
美媒:莫德纳新版新冠疫苗加强针引起强烈免疫反应
时间·2023-03-25    来源:市场资讯
【环球新要闻】如何取消自己的qq秀_怎么注销QQ秀
时间·2023-03-25    来源:市场资讯
张一山演的余罪是哪部电视剧里的角色
时间·2023-03-24    来源:市场资讯
焦点播报:春天的这5件外套,穿一辈子都不是问题!
时间·2023-03-24    来源:市场资讯
超50家在港上市开发商盈利下滑,融创称亏损最高280亿
时间·2023-03-24    来源:市场资讯
全球新消息丨放飞的二哈小说_放飞
时间·2023-03-24    来源:市场资讯
环球动态:中国皮肤病新药研发驶入快车道
时间·2023-03-24    来源:市场资讯
当前时讯:怎么申请移动无限流量包月
时间·2023-03-24    来源:市场资讯
烧烤没熟,店却“熟”了,这类场所注意防火!
时间·2023-03-24    来源:市场资讯
环球关注:上海销售“三激活”全力扩销增效
时间·2023-03-24    来源:市场资讯
热头条丨十字绣教程
时间·2023-03-24    来源:市场资讯
世界播报:玛咖是什么
时间·2023-03-23    来源:市场资讯
工信部:1-2月电信业务总量持续两位数增长
时间·2023-03-23    来源:市场资讯
大理视点|走进大理市城市中心厨房
时间·2023-03-23    来源:市场资讯
沥青多空双减
时间·2023-03-23    来源:市场资讯
新资讯:一出新编现代京剧,为何让大学生喜欢
时间·2023-03-23    来源:市场资讯
杨幂演的电视剧有哪些
时间·2023-03-23    来源:市场资讯
世界速讯:梦幻点卡查询余额_梦幻西游点卡余额
时间·2023-03-23    来源:市场资讯
当前视点!就在本周六!包头7000+岗位 “职”等你来!
时间·2023-03-23    来源:市场资讯
冰心散文诗集摘抄_冰心散文诗集
时间·2023-03-22    来源:市场资讯
剑河:“春暖花开 遇见美好”手工DIY活动
时间·2023-03-22    来源:市场资讯
世界聚焦:babehubcom_babehub
时间·2023-03-22    来源:市场资讯
继承遗嘱诉讼律师收费多少
时间·2023-03-21    来源:市场资讯
全球时讯:注意!合肥这些学校改扩建!
时间·2023-03-21    来源:市场资讯
预警!瞬间风力可达7级,部分地方伴有沙尘天气
时间·2023-03-21    来源:市场资讯
天天短讯!严重危害健康,这些早期信号别忽视!
时间·2023-03-21    来源:市场资讯
onion是可数名词吗_onion可数
时间·2023-03-21    来源:市场资讯
世界快资讯:晏欢_对于晏欢简单介绍
时间·2023-03-21    来源:市场资讯
环球快资讯:汽车降价之后,白酒会迎来降价吗?
时间·2023-03-21    来源:市场资讯
205i打印机怎么设置双面打印(205i打印机驱动)
时间·2023-03-20    来源:市场资讯
每日速看!行而不辍(行而不辍 未来可期翻译)
时间·2023-03-20    来源:市场资讯
攀岩墙为Carney Logan Burke的Cache Creek Residence提供屋顶通道
时间·2023-03-20    来源:市场资讯
当前讯息:我的世界him大战notch_我的世界notch皮肤
时间·2023-03-20    来源:市场资讯
济南这些打卡地,最近又火了
时间·2023-03-20    来源:市场资讯
最新消息:台电tlc430拆机_台电tlc430
时间·2023-03-20    来源:市场资讯