Эксклюзивное: детали атаки стажера ByteDance на собственную модель стали известны, насколько велики ее последствия?

Аннотация:

19 октября вызвали широкий резонанс информации об атаке стажера на внутреннюю модель обучения бизнеса во внутренних структурах ByteDance. По данным нескольких осведомленных лиц, в июне этого года в техническом отделе ByteDance произошло техническое нападение, когда стажер, несогласный с распределением ресурсов в команде, использовал атакующий код для разрушения задачи обучения модели команды.

По информации, основные участники этого события - стажер по фамилии Тян. Он использовал уязвимость на платформе Huggingface (HF), чтобы внедрить разрушающий код в общую модель компании, что привело к непостоянству в обучении модели и к получению неожиданных результатов.

Бывший сотрудник китайской компании Byte говорит: «Права стажеров в Byte почти не отличаются от прав сотрудников с полным рабочим днем, и это стало причиной этого инцидента», он также выразил беспокойство по поводу негативных последствий этого инцидента, сказав: «После этого случая права стажеров определенно будут серьезно ограничены».

После того как стала известна информация, стажер, упомянутый в новостях, пытался опровергнуть ее в социальных сетях, возложив ответственность на других, однако вскоре его слова были опровергнуты близкими к представителям компании ByteDance.

Перевод на русский:

По словам осведомленного источника на Github, "в течение двух месяцев вы (Г-н Тиан) вредоносно атаковали код кластера, нанеся серьезный вред почти 30 сотрудникам компании на всех уровнях и заставив ваших коллег терять квартал работы напрасно. Все записи и проверки подтверждают, что это неоспоримый факт!"

This celebrity also shared a recording of investigators questioning TianKeyu, an intern, in which the conversation reconstructs the attacking process: at first, the code that Tian entered was intended to influence communication and randomness. "Initially, it wasn't meant for attacking purposes, it was for debugging, but it did involve some operational aspects of the program. However, later on through some files, like those upload files, the code got updated, and it became an attacking code. Its approximate function is to modify the code, which then leads to certain consequences."

Запись содержит явные признания Тяня, что он добавил вредоносный код через обновление. Он также четко заявил допрашивающим, что "мы все очень недовольны из-за определенных обстоятельств".

According to rumors, the losses from this incident could exceed tens of millions of dollars, but insiders say that the actual losses are not as severe as rumored.

Пер по слухам, убытки от этого инцидента могут превысить десятки миллионов долларов, однако внутренние источники говорят, что фактические убытки не такие серьезные, как сообщается.

As far as I know, the incident occurred at the end of June this year. Currently, ByteDance has dismissed the intern named Tian and reported the matter to relevant industry alliances and the intern's school. (根据我的了解，这个事件发生在今年6月底。目前，字节跳动已经解雇了这位叫做田的实习生，并将此事通报给相关的行业联盟和实习生所在的学校。)

Однако указанные выше осведомленные источники сообщили, что помимо увольнения в "Байтдансе", Тянь не был наказан никакими другими мерами.

Источники сообщают, что студент по фамилии Тян является аспирантом одного из университетов в Китае и начал стажировку в Bytedance в сентябре 2021 года. Его команда недавно в апреле этого года совместно с командой Ван Ливэя из Пекинского университета представила исследование по VAR, которое превосходит DiT по качеству генерации изображений, скорости вывода, эффективности данных и масштабируемости. Кроме того, скорость вывода VAR в 20 раз выше, чем у традиционных авторегрессионных моделей.

На момент подачи материалов, представители компании ByteDance до сих пор не дали публичного ответа на этот вопрос.

Примечание: Некоторые изображения в этом тексте были взяты из интернета. Если они нарушают авторские права, пожалуйста, свяжитесь с нами для удаления.