设为首页
收藏本站
立即登录
免费注册!
QQ登录
微信登录
会员中心
快速发布
网站导航
简体版
切换风格
北京
深圳
上海
南京
苏州
常州
合肥
武汉
成都
重庆
厦门
哈尔滨
设置
消息
提醒
积分: 0
用户组: 游客
注销用户
退出
我的帖子
个人资料
修改头像
我的收藏
消息中心
任务中心
访问推广
房屋出租
房屋出售
最新楼盘
全职招聘
求职信息
口碑商家
跳蚤市场
交友中心
淘贴中心
会员动态
我的日志
分享记录
网站导读
商业圈子
网站留言
会员排行
移动端
公众号
免费发布信息
修改/删除信息
全部帖子
搜一搜
最新楼盘
房屋出售
最新出租
全职招聘
兼职招聘
求职信息
口碑商家
跳蚤市场
交友中心
租房
兼职
美食
游玩
科技
美食
首页
Portal
招聘
互助
畅言湾区
交友
房产
house
美食
旅游
汽车
养生
装修
教育
家政
商家
特产
同城
黎静文学专栏
交通爆料
互助交流
有问必答
本地资讯
优惠政策
理财财经
三地法律
体育休闲
风土人情
美丽湾区
心情随笔
晒图说事
交友信息
婚纱摄影
婚事策划
婚庆酒楼
交友互动
最新楼盘
二手房
看房论房
房产动态
推荐交流
特色糕点
特色农庄
特色美食
美食资讯
酒店
景点
门票
娱乐游玩
旅游热点
旅游交流
4S店
团购特卖
二手车
自驾游
车友天地
汽车资讯
中医西医
医院其他
美容美甲
美体瘦身
美发护发
养生食谱
装修设计
家具展示
五金建材
装修日记
技能培训
家教辅导
校园文化
亲子交流
保姆保洁
大湾搬家
家务时工
月嫂育婴
送礼特产
港澳手信
农家特产
广谈大湾网
首页
Portal
招聘
互助
畅言湾区
交友
房产
house
美食
旅游
汽车
养生
装修
教育
家政
商家
特产
同城
黎静文学专栏
立即登录
免费注册
经典模式
清新模式
会员中心
我的帖子
我的消息
我的收藏
我的积分
个人资料
我的家园
访问推广
排行榜
城市活动
美图欣赏
兼职招聘
全职招聘
全职招聘
口碑商家
找男朋友
找女朋友
房屋出租
最新楼盘
114电话
二手房
导读热门
旅游热点
房产资讯
办事服务
全职招聘
求职信息
特产手信
美食天地
湾区活动
文化娱乐
交友中心
口碑商家
便民信息
特产
家政服务
农庄玩乐
亲子交流
最新楼盘
找二手房
房屋出租
看房论房
商铺转让
湾区资讯
国内外资讯
房产动态
企业动态
汽车资讯
数码科技
旅游热点
美食资讯
时尚资讯
职场资讯
优惠政策
广谈大湾网
›
首页
›
资讯
›
国内外资讯
›
查看内容
相关分类
字节跳动大模型被实习生攻击,损失超千万美元?
2024-10-19 11:38
|
发布者:
如风
摘要
: 10月18日,多个微信群流传一则消息:“某头部大厂的大模型训练被实习生入侵,注入了破坏代码,导致其训练成果不可靠,可能需要重新训练。据称遭到入侵的代码注入了8000多张卡,带来的损失可能超过千万美元。”网传截 ...
10月18日,多个微信群流传一则消息:
“某头部大厂的大模型训练被实习生入侵,注入了破坏代码,导致其训练成果不可靠,可能需要重新训练。据称遭到入侵的代码注入了8000多张卡,带来的损失可能超过千万美元。”
网传截图
网传截图
记者从知情人士处获悉,该头部大厂为字节跳动。此事发生在今年6月,
起因是某高校的博士在字节跳动商业化技术团队实习,因对团队资源分配不满,使用攻击代码破坏团队的模型训练任务。
记者向字节跳动求方面证此事,截至目前,官方未进行回应。
传闻显示,该田姓实习生利用了HF(huggingface)的漏洞,在公司的共享模型里写入破坏代码,导致模型的训练效果忽高忽低,无法产生预期的训练效果,而且AML团队无法核查原因。但传闻曝出之后,该实习生还在某微信群里辟谣称,自己发完论文后就从字节跳动离职,这个当口有另一个人钻漏洞改模型代码,把锅扣到自己头上。
记者从知情人士处了解到,
字节跳动内部已经调查明确此事为田姓实习生所为。目前,该实习生已被辞退,字节跳动同时把此事同步给行业联盟和该实习生所在的学校。但这名实习生被辞退后到处“辟谣”甩锅,称是其他人所为。
但该实习生攻击的并不是豆包大模型,而是商业化技术团队的模型训练任务,影响了该技术团队的一些业务进展,但整体对公司造成的损失并没有传闻中的超过千万美元那么大。
一位技术安全专家告诉记者,HF漏洞产生肯定是单一性集中训练,此事暴露了字节跳动技术训练存在安全管理问题。公司既没做权限隔离,也没有做好共用代码的审计。正常情况下,每次大的代码变动必须做审计,无论谁做操作都有痕迹记录,一个人想动代码是不可能的。
上述技术安全专家表示,目前行业通用的做法是做三级隔离导向性部署,每一级只有镜像,每次先扫描。调用按次算、必须密钥。每一级完成后,才能进入下一级,而上一级自动删除,进行分级训练。
文章来源于羊城晚报、羊城晚报,如有侵权请联系删除
鲜花
握手
雷人
路过
鸡蛋
收藏
分享
邀请
上一篇:
听泉鉴宝不装了,直接上链接带货
下一篇:
女生被日本小鹿戳破腿,忍痛回国打针,公园方:无法赔偿
相关分类
湾区资讯
国内外资讯
房产动态
企业动态
汽车资讯
数码科技
旅游热点
美食资讯
时尚资讯
职场资讯
优惠政策
文章排行
图文推荐
发布新帖
QQ客服
微信公众号
移动端
返回顶部