字节跳动大模型训练被实习生恶意注入破坏代码

logiccat · 发表于 2024-10-19 13:12

天下有狗狗发表于 2024-10-19 10:03
似乎好像也就辞退我还以为要送进去呢

扯不清楚啊，还没上线的模型损失怎么算，这可有得扯，还不如直接HR群发个消息，这人以后大厂肯定是进不去了……

newise · 发表于 2024-10-19 13:13

CIA要不培育几个实习牲？

海底铁锚 · 发表于 2024-10-19 13:25

9号单开道岔发表于 2024-10-19 13:03
没法固定证据，没法确定主观故意，同时也无法量化损失吧。

主观故意看代码提交和认罪录音就好。量化损失看排查故障占用人力乘以时薪就行

这个事情整体太drama而且内部几乎没啥大范围讨论以至于整体都很魔幻啊

—— 来自 S1Fun

粉色猛男 · 发表于 2024-10-19 13:32

yweili999 发表于 2024-10-19 10:05
这个事情更抽象的是实习生本人还加入了针对这个问题成立的debug小组，随时跟据对方的应变调整自己的注毒策 ...

超，什么无间道

mmbk · 发表于 2024-10-19 13:55

北航本叉院硕，这个含p量不认的哈

和软微没啥区别

1990840223 · 发表于 2024-10-19 15:04

提示: 作者被禁止或删除内容自动屏蔽

y433wu · 发表于 2024-10-19 15:09

字节这么艹台的吗？商业项目的源码都能随意push没有review吗

影伴光生 · 发表于 2024-10-19 15:20

想起来我在上家的时候，同批进来的一位义乌本地籍硕士，日常跟他组长相处不融洽，也整了个活——干废了一套给客户送样的新品，但每天以正常进度汇报，居然混了一个月没被发现
然后他提了离职，到工作交接时才被发现新品根本没跑出来，当晚直接消失，甚至连宿舍里包含笔记本电脑的行李都没拿走

—— 来自 vivo V2302A, Android 14上的 S1Next-鹅版 v3.0.0.81-alpha

立本核污水 · 发表于 2024-10-19 15:28

提示: 作者被禁止或删除内容自动屏蔽

立本核污水 · 发表于 2024-10-19 15:30

提示: 作者被禁止或删除内容自动屏蔽

yigua · 发表于 2024-10-19 15:42

mmbk 发表于 2024-10-19 13:55:41
北航本叉院硕，这个含p量不认的哈和软微没啥区别

叉院是哪个院？

-- 来自有消息提醒的 Stage1官方 Android客户端

Jobtownb · 发表于 2024-10-19 15:49

真想搞破坏不如在张一鸣的咖啡里下屎

—— 来自 S1Fun

飞火 · 发表于 2024-10-19 16:14

提示: 作者被禁止或删除内容自动屏蔽

holomoon · 发表于 2024-10-19 16:15

提示: 作者被禁止或删除内容自动屏蔽

冤枉呐 · 发表于 2024-10-19 16:20

y433wu 发表于 2024-10-19 15:09
字节这么艹台的吗？商业项目的源码都能随意push没有review吗

这不是敏态嘛

千代 · 发表于 2024-10-19 16:23

y433wu 发表于 2024-10-19 15:09
字节这么艹台的吗？商业项目的源码都能随意push没有review吗

实际做事都是防不住内部人搞事的，把每个内部人当贼来防这个复核那个复核管理成本太高了，既然招聘进来了只能当作可信任的。

—— 来自 HUAWEI OCE-AN50, Android 12上的 S1Next-鹅版 v2.5.4

zeroboss2 · 发表于 2024-10-19 16:31

提示: 作者被禁止或删除内容自动屏蔽

mmbk · 发表于 2024-10-19 16:32

yigua 发表于 2024-10-19 15:42
叉院是哪个院？

-- 来自有消息提醒的 Stage1官方 Android客户端

前沿交叉研究院

yikaa · 发表于 2024-10-19 19:10

y433wu 发表于 2024-10-19 15:09
字节这么艹台的吗？商业项目的源码都能随意push没有review吗

不懂了呀，以前还会把python代码放 etcd 上，然后动态执行的

Abba-il-Aeons · 发表于 2024-10-19 19:50

シャル发表于 2024-10-19 13:10
看了下找到了

北大田柯宇，导师是王立威

内网就有，一股痞子味

1990840223 · 发表于 2024-10-20 09:47

提示: 作者被禁止或删除内容自动屏蔽

darklike · 发表于 2024-10-21 08:19

P大的，懂得都懂

y433wu · 发表于 2024-11-28 08:35

前实习生篡改代码攻击公司模型训练，字节跳动起诉索赔800万。

据《法治周末》，因认为前实习生田柯宇篡改代码攻击公司内部模型训练，字节跳动将该实习生诉至法院。北京市海淀区人民法院已受理此案。字节跳动请求法院，判令田某某赔偿公司侵权损失800万元及合理支出2万元，并公开赔礼道歉。

11月5日，字节跳动曾发布面向内部全员的《企业纪律与职业道德委员会通报》，对该事件进行过披露。通报称，2024年6月至7月，集团商业产品与技术部门前实习员工田某某，因对团队资源分配不满，通过编写、篡改代码等形式恶意攻击团队研究项目的模型训练任务，造成资源损耗。公司已与其解除实习协议，同步阳光诚信联盟及企业反舞弊联盟，并同步至其就读学校处理。

2024年10月，有媒体称“字节大模型训练任务被实习生攻击”，并有网传信息称“涉及8000多卡、损失上千万美元”。后字节跳动通过官方账号发布事实澄清，称确有实习生发生严重违纪，涉事实习生已于2024年8月被公司辞退，并将其行为同步给所在学校和行业联盟，但相关报道也存在部分夸大及失实信息。

字节跳动内部人士介绍，由于田某某为在读博士，公司将其辞退后首先交由校方处理。但在事件处理期间，田柯宇多次对外否认，称攻击模型训练任务的不是自己，而是别的实习生，甚至报警称遭到造谣。考虑到田某某完全没有意识到错误，且涉事行为已触犯公司安全红线，公司最终决定向法院起诉，以表明公司严肃态度、杜绝类似事件再次发生。

https://www.huxiu.com/moment/1071001.html

moekyo · 发表于 2024-11-28 09:54

这下不得不出国了

https://github.com/JusticeFighterDance/JusticeFighter110

tiro_finale · 发表于 2024-11-28 09:57

以前删库跑路的要赔多少，一口价八百万有点猛啊

kouym · 发表于 2024-11-28 10:01

tiro_finale 发表于 2024-11-28 09:57
以前删库跑路的要赔多少，一口价八百万有点猛啊

删库跑路是触犯刑法的要进去的

nebulanoby · 发表于 2024-11-28 10:37

tiro_finale 发表于 2024-11-28 09:57
以前删库跑路的要赔多少，一口价八百万有点猛啊

按最后一段的意思的话，感觉这人按某圈子的话来说属于硬度无限大的类型，被往死里搞很可能

有些不是太黑心的公司，就算损失到了一两M，能主动认错赔钱的话也不会移送司法；当然字节属不属于我就不知道了

—— 来自鹅球 v3.0.0.82-alpha

はちたや · 发表于 2024-11-28 10:42

这种动机是啥

addman · 发表于 2024-11-28 10:51

只能说难绷吧，很难想象动机

cmhyt · 发表于 2024-11-28 10:57

addman 发表于 2024-11-28 10:51
只能说难绷吧，很难想象动机

泥潭前两天不是还有国内该死的企业投票吗，这位大概是觉得自己在为民除害

y433wu · 发表于 2024-11-28 13:18

动机就是这个实习生不满硬件资源分配。
训练大模型是要很多机器的。

棍机凹升龙 · 发表于 2024-11-28 13:55

想看怎么和解

mooerfoes · 发表于 2024-11-28 14:05

はちたや发表于 2024-11-28 10:42
这种动机是啥

我记得刚出事的时候有个说法是他不满算力资源被分配给一个搞ai图像生成的项目来着……那时候好像还有人提到项目名说的有鼻子有眼的，感觉有可能是原因之一

8终极速度8 · 发表于 2024-11-28 14:05

字节死了挺好的。不，是所有短视频平台死了都挺好的。

泉玲奈 · 发表于 2024-11-28 15:13

希望企业死的人
完全可以没有负担的支持这个人吧

		自动登录	找回密码
密码			立即注册

[欢乐] 字节跳动大模型训练被实习生恶意注入破坏代码

本帖子中包含更多资源

1990840223 1990840223 当前离线禁止发言精华 \| 战斗力鹅 \| 回帖 0 注册时间 2024-9-13 头像被屏蔽	发表于 2024-10-19 15:04 来自手机 \| 显示全部楼层提示: 作者被禁止或删除内容自动屏蔽

	回复使用道具举报

立本核污水立本核污水当前离线禁止发言精华 \| 战斗力鹅 \| 回帖 0 注册时间 2023-9-2 头像被屏蔽	发表于 2024-10-19 15:28 \| 显示全部楼层提示: 作者被禁止或删除内容自动屏蔽

	回复使用道具举报

立本核污水立本核污水当前离线禁止发言精华 \| 战斗力鹅 \| 回帖 0 注册时间 2023-9-2 头像被屏蔽	发表于 2024-10-19 15:30 \| 显示全部楼层提示: 作者被禁止或删除内容自动屏蔽

	回复使用道具举报

飞火飞火当前离线禁止发言精华 \| 战斗力鹅 \| 回帖 0 注册时间 2020-3-3 头像被屏蔽	发表于 2024-10-19 16:14 \| 显示全部楼层提示: 作者被禁止或删除内容自动屏蔽

	回复使用道具举报

holomoon holomoon 当前离线禁止发言精华 \| 战斗力鹅 \| 回帖 0 注册时间 2015-9-24 头像被屏蔽	发表于 2024-10-19 16:15 \| 显示全部楼层提示: 作者被禁止或删除内容自动屏蔽

	回复使用道具举报

zeroboss2 zeroboss2 当前离线禁止发言精华 \| 战斗力鹅 \| 回帖 0 注册时间 2024-10-10 头像被屏蔽	发表于 2024-10-19 16:31 来自手机 \| 显示全部楼层提示: 作者被禁止或删除内容自动屏蔽

	回复使用道具举报

1990840223 1990840223 当前离线禁止发言精华 \| 战斗力鹅 \| 回帖 0 注册时间 2024-9-13 头像被屏蔽	发表于 2024-10-20 09:47 来自手机 \| 显示全部楼层提示: 作者被禁止或删除内容自动屏蔽

	回复使用道具举报