Как алгоритмы толкают технологических гигантов в опасную зону
Опубликованно 19.11.2017 00:14
Facebook просит пользователей присылать им свои обнаженные фотографии в проект по борьбе с порно месть’. Фотография: Alamy Складе
Ранее в этом месяце Facebook объявила о новой пилотной программы в Австралии, направленные на прекращение “порно из мести” – недобровольный обмен ню или иначе откровенные фотографии – на своей площадке. Их ответ? Просто отправьте Facebook свои обнаженные.
Да, это верно: если вы беспокоитесь о ком-то распространяет свои откровенные фотографии на Facebook, вы должны отправить эти образы на Facebook себя.
Если это звучит для вас как какая-то больная шутка, Вы не одиноки. Почти все, кому я говорил об этом же плюют на все помещение. Но помимо того, что смешно, это идеальный пример того, как сегодняшние технологические компании над их головами, пытаются спроектировать их выход из сложных социальных проблем – даже не сомневаюсь в том, что их бизнес-модели, по сути, создали эти проблемы.
Чтобы увидеть, что я имею в виду, давайте посмотрим, как новая система Facebook должен работать: если вы беспокоитесь о порно мести, вы заполнить online форму с Австралии комиссара безопасное управление. Это ведомство уведомляет Facebook, что вы подали заявку. Оттуда вы посылаете изображение в вопрос для себя через мессенджер Facebook. Группа в Facebook получает ваши изображения, комментарии, затем создает численное отпечаток он известен как “хэш”. Facebook сохраняет хэш-ваши фото, но не само фото, и уведомляет вас, чтобы удалить свою фотографию из Messenger. После того как вы сделали так, Facebook говорит, что это также будет удалить фото со своих серверов. Затем, когда пользователь загружает фотографию на платформу, алгоритм проверяет цены на базе. Если алгоритм считает, что фото соответствует один сообщил, как порно мести, пользователю не будет разрешено разместить его.
Марк Цукерберг говорит о защите целостности демократического процесса, после России-группы заплатили за политическую рекламу на Facebook во время выборов в США. Фото: Facebook с помощью YouTube
Просто подумайте обо всех способов, что это дико и неправильно. Во-первых, чтобы заставить систему работать на всех, вы должны не только иметь цифровые копии всех изображений, которые могут быть распределены, но также быть удобными с кучей незнакомых людей в Facebook вчитывался в них, и верю, что хеширование система будет реально поймать дальнейшие попытки загрузки изображения. И это при условии, что все работает так, как планировалось: то, что Вы не запороть процесс загрузки и случайно отправить их кому-то еще, что Facebook сотрудники не злоупотребляют своими фотографиями, что ваш Посланник аккаунт не будет взломан, что Facebook будет удалять изображения со своего сервера, когда он говорит это. Короче говоря, вы должны верить, что дизайн Facebook, в серверных баз данных, а работники все способны плавно регулировать исключительно личную информацию. Если ни одна из этих вещей не работает совсем правильно, пользователь рискует унижение – или хуже. Один человек получил видео с Facebook набор в джазовую музыку, демонстрируя его автомобильной аварии и последующей поездкой в больницу
Учитывая послужной список Facebook иметь дело с деликатных вопросов, это не риск, любой из нас должен взять. В конце концов, это компании, которые позволяют пророссийских организаций купить объявления направлены на подрыв демократии во время выборов 2016 (объявления, которые компания сейчас признает, миллионы людей видели). Это компания, которая построила объявлений-таргетинг платформы, что позволило рекламодателям выбирать целевую аудиторию по категориям антисемитской аудитории, в том числе “еврей ненавистников” и “как горят евреи”. И это компания, которая зачерпнул скриншот графического изнасилование опасный журналист получил и отвечал на ее Instagram счет, и превратили ее в Пеппи объявление для Instagram (которой он владеет), что было потом вставить ее подруги по Facebook страниц.
И это только за последние несколько месяцев. Заглядывая еще дальше в прошлое, мы можем найти множество более печальных историй – как раз в 2012 году, когда Facebook выдал два веселых студентов из Техасского университета, Бобби Дункан и Тейлор Маккормик. Студенты используют настройки конфиденциальности Facebook, чтобы скрывать свою ориентацию от семьи, но Facebook опубликовала обновление для своего профиля говорят, что они присоединились к странным хором.
Или как насчет запуска в 2014 году Facebook в отзыв характеристика, в которой собраны самый популярный контент от года и упаковать его для вас, чтобы пережить? Мой друг Эрик Мейер избегал эту функцию, но Facebook создал для него все равно, и вставил его в свой канал. На ее обложке было лицо его шестилетняя дочь, Ребекка, сопровождаемый иллюстрациями из воздушных шаров, серпантина и люди танцуют на вечеринке. Ребекка умер ранее в том году. Но алгоритм Facebook не знаю, является ли это хорошим или плохим изображения на поверхность. Он только знал, что он был популярен.
Начиная с года, Facebook был заведен этот алгоритмически сгенерированные типа праздничный напоминания. Теперь есть этот день, который, несмотря на говорю Facebook я не хочу видеть эти посты, до сих пор всплывает в моей ленте, по крайней мере, один раз в неделю. Есть также день друзей, фальшивый праздник, где Facebook отправляет алгоритмически сгенерированных фотомонтажи пользователей со своими друзьями – в результате один человек получает видео набор в джазовую музыку, демонстрируя его автомобильной аварии и последующей поездкой в больницу.
Но Facebook продолжает вводить сообщения и конструкций в памяти пользователей. Только на прошлой неделе, моя сестра-в-законе получил уведомление покрыты воздушными шарами и палец вверх знаки рассказывать ей, сколько людей любили ее посты. Изображения, которые они показали с ним? Фотографию своей сломанной ногой в гипсе. Я могу заверить вас, она не чувствовала себя особенно пальцы по поводу падения с лестницы.
Пеппа и Джордж о, чтобы быть приготовленным ведьмой в спин-оффе YouTube из серии свинка Пеппа. Источник: YouTube
Что все эти ошибки объединяет то, что они не должны были произойти. Они происходят только потому, что Facebook инвестирует гораздо больше времени и энергии в здание алгоритмически управляемые функции, предназначенные для езды привлечения пользователей, или дать больше контроля для рекламодателей, чем думать о социальных и культурных последствиях, что делает его легко для 2 миллиардов людей, чтобы обмениваться контентом. Ты должен разбить пару яиц, чтобы сделать омлет. Вы должны травмировать несколько детей, чтобы построить $600 миллиардов глобальных чудища
Это не только Facebook, который обратился к алгоритмы для отработки взаимодействия за последние несколько лет, конечно – это большая часть ИТ-индустрии, особенно в части, связанных с рекламных доходов. Ранее в этом месяце, писателя Джеймса Брайдла опубликована в глубокий взгляд на подбрюшье жутким, жестоким содержанием, ориентированных на детей на YouTube – от подделки свинка Пеппа мультфильмы, такие как один поход к стоматологу превращается в графический пыток сцены, чтобы живого действия “брутто-” ролики, в которых показывают реальных пацанов рвота и боли.
Эти ролики производятся и добавлено на YouTube тысячи, затем с тегом что уздечку называет “сайта салат” – длинные списки популярных поисковых терминов, упакованные в своих названиях. Эти ключевые слова предназначены для игры или манипулировать алгоритм, который сортирует, оценивает и выбирает контент для пользователей, чтобы видеть. А благодаря бизнес-модели, направленной на максимизацию видом (и, следовательно, доход от рекламы), эти видео будут автоматически воспроизведены и поощрять детей, основанные на их “похожесть” – по крайней мере с точки зрения ключевых слов, используемых в содержании, что дети уже видели. Это означает, что ребенок может начать смотреть нормальные Пеппа сериал свинка на официальном канале, закончить его, тогда автоматически погружается в темные, жестокие и несанкционированного эпизод – без родителей не осознавая этого.
Ответ на YouTube, Чтобы проблема была вручить ответственность за своих пользователей, попросив их видео Пожаловаться. Оттуда видео, чтобы группа по обзору говорит, что YouTube состоит из тысяч человек работают 24 часа в сутки, чтобы рассмотреть содержимое. Если Контент будет признан неподходящим для детей, он будет с ограничением по возрасту и не появляются на YouTube дети приложение. Он будет по-прежнему появляются на YouTube, однако, где, официально, пользователям должно быть по крайней мере 13 лет, но в реальности, все же система, которая бесчисленное количество детей использовать (просто подумайте, как часто дерганые дети вручили телефон или планшет, чтобы держать их занятыми в публичном пространстве).
Схема как Facebook, этот подход имеет несколько недостатков: поскольку он пытается выведать нежелательного видео от содержания детей, вполне вероятно, что большинство людей, которые сталкиваются с этими видео и сами дети. Я не ожидаю много шестилеток, чтобы стать в ближайшее время агрессивного Контента модераторов. И если Контент попадает, он еще должен быть рассмотрен со стороны человека, который, как YouTube уже признал, принимает “круглосуточно” мониторинг.
Когда мы говорим о такого рода вызов, тек компаний Вам ответит, что это просто неизбежность накипи – нет никакого способа, чтобы обслуживать миллиарды пользователей бесконечные потоки привлекательного Контента, не получая это неправильно или допускающий злоупотребления, чтобы проскользнуть мимо какого-то времени. Но, конечно, эти компании не должны делать ничего из этого. Авто-играть в бесконечный поток алгоритмически выбранного видео для детей-это не какой-то мандат. Интернет не должен стать шведский стол “предложил Контента”. Это выбор, что YouTube сделал, потому что вид рекламы вид рекламы. Тебе нужно разбить пару яиц, чтобы сделать омлет, и ты должна травмировать детей, чтобы построить глобальную "Бегемот" на сумму $600 миллиардов. Facebook просит пользователей для ню фотографии в проект по борьбе с порноместь Подробнее
И вот вопрос: в их немигающие стремление к росту в течение последнего десятилетия, эти компании строили свои платформы вокруг объектов, которые не только уязвимы для злоупотреблений, но буквально оптимизированы для него. Взять систему, которую легко игра, выгодно злоупотребления, переплетается с нашим уязвимых людей и наши самые интимные моменты, и эксплуатации на данные, которые невозможно контролировать или даже контролировать, и это то, что вы получаете.
Теперь вопрос, когда мы заставляем высокотехнологичных компаний считаться с тем, что они обделались? Мы уже давно решили, что мы не позволим компаний продающих сигареты детям, или поставить асбеста в строительных материалах. Если мы хотим, мы можем решить, что есть пределы тому, что технология может сделать, чтобы “завязать” с нами тоже, а не смотреть эти платформы вращаться дальше и дальше от утопических мечтаний они нам были проданы на.
Технически неправильно: Сексистские приложений, предвзято алгоритмов и других угроз токсичных технологий Сара вахтер-Ботчер является опубликованный компанией Norton. Заказать копию за ?20 идти bookshop.theguardian.com или позвоните 0330 333 6846. Бесплатная Великобритании p И p на ?10, онлайн заказы только. Заказы по телефону мин п&п ?1.99
Категория: Статьи