Евросоюз инициирует расследование в отношении чат-бота Грок Элонa Маска из-за скандальных изображений несовершеннолетних
Европейский Союз начал официальное расследование в отношении чат-бота Грок, разработанного Элонoм Маском, после того как он генерировал изображения несовершеннолетних в «сексуализированной одежде» по запросам пользователей. Данные фотографии вызвали общественный резонанс и породили обвинения в возможном нарушении законодательства США.
Как результат, Маск ограничил доступ к функционалу чат-бота для подписчиков, однако позже компания изменила курс и заблокировала создание изображений людей в откровенной одежде для всех пользователей.
Расследование ЕС
Европейские власти сейчас выясняют, правильно ли компания оценивала и минимизировала риски, связанные с использованием функционала Грока в рамках платформы X в странах ЕС. Хенна Вирккунэн, вице-президент Европейской комиссии по вопросам технологического суверенитета, безопасности и демократии, осудила появление этих изображений, заявив, что «сексуальные дипфейки женщин и детей — это насильственная, неприемлемая форма деградации». Вирккунэн подчеркнула, что текущее расследование поможет определить, соблюдала ли компания свои законные обязательства или же пренебрегла правами европейских граждан, что может оказать негативное влияние особенно на женщин и детей.
Если расследование выявит нарушения, компания может столкнуться с штрафом размером до 6% от своего глобального годового оборота, согласно информации BBC.
Ситуация усугубляется
На фоне этого скандала Маск опубликовал пост в X, который, как кажется, попытается смягчить общественное недовольство. Он не представил конкретных предложений для устранения проблемы, однако комментировал: «Так трудно правильно подобрать модерацию».
К примеру, еще до запуска «острого режима», Грок уже столкнулся с жалобами на широкое использование для создания изображений реальных женщин без их согласия. В октябре было установлено, что массовая генерация таких изображений вызвала значительное общественное беспокойство.
По итогам недавнего заявления, аккаунт Грока на платформе X принес извинения за генерируемые изображения несовершеннолетних, отметив, что «это нарушает этические нормы и потенциально законы США о детской порнографии». В компании признали, что произошел сбой в механизмах защиты, и выполнили обязательство предоставить извинения за возможный причиненный вред.
Стоит отметить, что расследования в отношении чат-бота также инициированы в Австралии, Франции и Германии. В настоящее время чат-бот временно запрещен в Индонезии и Малайзии, однако запрет в Малайзии уже был снят.
Таким образом, данный инцидент ярко подчеркивает проблемы, с которыми сталкиваются современные технологии, особенно в контексте защиты прав и безопасности детей и женщин. Необходимы более строгие регулирования и алгоритмы контроля, чтобы предотвратить подобные ситуации в будущем.
