О сексуальных фотографиях и видео: Отличить несовершеннолетних от взрослых является для Facebook проблемой
Модераторам, проверяющим изображения для Facebook, приходится нелегко
В прошлом году Facebook сообщил властям о 27 миллионах сексуальных изображений несовершеннолетних. Но не всегда понятно, сколько лет людям на фотографиях. Таким образом, лица, принимающие решения, быстро оказываются в затруднительном положении.
Когда речь идет о возможных сексуальных изображениях несовершеннолетних, ни один сайт не сообщает властям США о таком количестве подозрительных случаев, как Facebook. Каждый день тысячи модераторов просматривают фотографии и видео, всегда находясь в поиске нарушений правил пользования сайтом или действующего законодательства. Решения, которые наблюдателям приходится принимать каждый день, иногда чрезвычайно сложны, поскольку возраст изображенных лиц не всегда ясен. Новые руководящие принципы должны помочь: Как сообщает New York Times, модераторы проинструктированы считать, что люди достигли совершеннолетия, если возникают сомнения.
Для материнской компании Facebook Meta это, очевидно, выбор между чумой и холерой. Как сказала глава службы безопасности Meta Антигона Дэвис в интервью The Times, “сексуальное насилие над подростками в Интернете отвратительно“, но последствия для людей, ложно обвиненных в загрузке материалов сексуального характера для несовершеннолетних, могут разрушить жизнь. Таким образом, руководство призвано защитить тех, кто размещает на платформе эротические материалы, соответствующие правилам.
Многие случаи остаются нераскрытыми
Однако, по мнению экспертов по защите детей, это может привести к тому, что большое количество несовершеннолетних окажутся беззащитными перед публикацией откровенных материалов. Исследования показали, что современные молодые люди развиваются быстрее, чем в прошлом. Особенно у чернокожих и испаноязычных подростков половое созревание наступает гораздо раньше, чем, например, у населения европейского происхождения. По словам Лианны Макдональд, исполнительного директора Канадского центра защиты детей, в сочетании со смягченными правилами отчетности это приводит к появлению целой группы подростков, которые не защищены.
Кроме того, существуют внутренние проблемы с содержанием отчетности, сотрудники отчитываются за закрытыми дверями, им не разрешается высказываться публично из-за соглашений о конфиденциальности. Хотя по закону компании обязаны немедленно сообщать о запрещенных материалах, у них мало защиты от судебных исков, если сообщение сделано ошибочно и тем самым оказывает вредное воздействие на репутацию соответствующих лиц.
Четыре бывших сотрудника рассказали New York Times, как это повлияло на их повседневную работу. По их словам, отрицательная оценка угрожала работе, если человек принимал слишком много неправильных решений. В результате модераторы боялись сообщать о фотографиях и видео, в законности которых они не были полностью уверены.
Перегруженность властей – не повод смотреть на это сквозь пальцы
По крайней мере, Apple, Snap и Tiktok подтвердили New York Times, что у них другой подход. Если они не были уверены, они предпочитали сообщать о снимках, подтвердили компании. Но и это далеко не последнее слово, пояснила Мета. Ведь слишком большое количество отчетов только еще больше сузит проблемное узкое место, а именно перегруженные офисы. “Если система слишком переполнена бесполезными вещами“, – сказал Дэвис, – “то это настоящее бремя“.
Между тем, американские власти принимают сторону компаний, которые в качестве меры предосторожности сообщают обо всех подозрительных случаях. Речь не идет об облегчении положения властей, поскольку это не может быть причиной не сообщать о случаях, по словам органа, принимающего решения, который проверяет сообщения и предупреждает полицию, если это незаконные СМИ. Следователи придерживаются аналогичного мнения. “Никто не должен отказываться от сообщения о возможном преступлении, особенно преступлении против несовершеннолетнего, потому что считает, что полиция слишком занята”, – сказал Чак Коэн, который 14 лет возглавлял целевую группу по борьбе с эксплуатацией детей в штате Индиана.
В конце концов, корпорации с обеих сторон, похоже, хотят защитить себя как можно лучше, не рискуя при этом. Основная проблема здесь заключается в том, что суды и законы в США очень расплывчаты, когда речь идет о том, какие именно критерии определяют “непристойный” материал и на что корпорации должны обращать внимание при оценке сексуальных изображений. “Я не смог найти ни одного суда, который хотя бы близко подошел к ответу на вопрос о том, как найти этот баланс”, – сказал Пол Ом, бывший прокурор отдела по борьбе с компьютерными преступлениями Министерства юстиции.
Интересное на эту тему: Игровая выставка E3 2022 полностью отменена