字节跳动实习生投毒自家大模型细节曝光,影响到底有多大? 内部技术袭击引发权限收紧担忧
10月19日,字节跳动大模型训练遭到实习生攻击的事件引起了广泛关注。据知情人士透露,今年6月,字节跳动某技术团队内部发生了一起技术袭击事件,一名实习生因对团队资源分配不满,使用攻击代码破坏了团队的模型训练任务。
该事件的主要涉事者是一名田姓实习生。他利用Huggingface平台的漏洞,在公司的共享模型中写入了破坏代码,导致模型训练效果不稳定,无法达到预期成果。一位前字节技术员工表示,字节AI Lab的实习生权限和正职员工差异不大,这为此次事件提供了机会,并对此事可能带来的负面影响表达了担忧。
消息曝光后,涉事实习生试图在社交平台上辟谣,将责任推给他人,但很快遭到接近字节跳动人士的否认。相关知情人士在GitHub上指出,田某在长达两个月的时间里对集群代码进行恶意攻击,对公司近30位各级员工造成巨大伤害,使得同事一个季度的工作白费。所有记录和审查都证明这是不容置疑的事实。录音中的对话显示,田某最初输入的代码本用于调试,但后来通过更新文件变成了攻击代码,导致了一系列问题。田某在录音中承认了这一行为,并表示是因为某些原因导致了极大的不满。
虽然有传闻称此次损失超过千万美元,但内部人士表示实际损失并没有那么严重。据了解,事件发生于今年6月底,目前字节跳动已辞退田姓实习生,并将此事通报给相关行业联盟和其所在的学校。不过,除了被辞退外,田某未受到其他处罚。
多方消息显示,田姓实习生是国内某高校在读博士生,自2021年9月起在字节AI Lab实习。其所在团队在今年4月与北大王立威团队提出了VAR研究,在图像生成质量、推理速度、数据效率和可扩展性等方面均超过了DiT,推理速度比传统自回归模型快约20倍。截至发稿时,字节跳动方面仍未对此事进行公开回应。
本文 狮子狗个人网站 原创,转载保留链接!网址:https://9377news.com/post/26009.html
1.本站遵循行业规范,任何转载的稿件都会明确标注作者和来源;2.本站的原创文章,请转载时务必注明文章作者和来源,不尊重原创的行为我们将追究责任;3.作者投稿可能会经我们编辑修改或补充。