Интернет — еще то суровое местечко. Здесь на каждую мимимишную фотографию щенка или котенка найдется полчище троллей, которые копаются в глубинах разума и извлекают оттуда самые гнусные комментарии. Если вы окажетесь человеком не белой расы, то армия троллей автоматически становится в стократ больше.

Так не должно быть! Это бесчинство может прекратиться благодаря команде из Jigsaw, подразделения Google (GOOG, GOOGL), которая решила взять ситуацию под контроль. Jigsaw – это мощный стартап в родительской компании Google Alphabet, который будет следить за тем, как технологии защищают права человека.

Ядовитость троллей

Последние усилия компании Jigsaw воплотились в Perspective API — своего рода результат работы проекта Conversation AI. Он использует технологии машинного обучения Google для создания инструмента, который может автоматически мониторить комментарии в разделах форумов. Jigsaw назвали его классификацией «ядовитости».

«По своей сути, Perspective — это инструмент, который просто берет комментарий и оценивает его по шкале от 0 до 100, основываясь на том, насколько он «ядовит», — объяснил Дж.Адамс, менеджер по продажам.Jigsaw вовсе не выступает в роли судьи, разрешая или запрещая высказывания по какому-либо поводу. Perspective — это всего лишь инструмент, который издатели используют по своему усмотрению. Например, они могут дать своим читателям возможность фильтровать комментарии на основе их уровня «ядовитости», таким образом позволяя видеть только безобидные сообщения. Или издатель может обеспечить своего рода механизм обратной связи, который сообщает вам, являются ли ваши комментарии «ядовитыми».

Инструмент не помешает вам отправлять любые комментарии, но это даст вам толчок переосмыслить то, о чем вы пишете. При этом Perspectivе — это не просто фильтр ругательных слов. Компьютерное осмысление Google дает инструменту способность понимать контекст. Таким образом, он сможет определять разницу между тем, как кто-то скажет «пылесос сосет пыль» или употребит этот же глагол в оскорбительном контексте по отношению к человеку.

Технология Perspective все еще работает с ошибками, но чем больше комментариев и информации она изучает, тем лучше понимает нюансы человеческого общения.

Глобальные усилия Jigsaw

За несколько лет существования стартап Jigsaw осуществил ряд проектов, направленных на улучшение жизни пользователей Интернета во всем мире. Например, Project Shield является бесплатным сервисом, который защищает новостные сайты от DoS атак. Redirect Method использует инструменты таргетинга Adwords, чтобы отражать ISIS сообщения, а инструмент Montage помогает разобраться в тысячах часов видео на YouTube, чтобы найти доказательства потенциальных военных преступлений.

«Мы просыпаемся и каждый день идем на работу, чтобы найти способы использования технологий, которые сделают жизнь людей во всем мире более безопасной», — говорит президент Jigsaw Джаред Коэн. По словам Коэна, сотрудники Jigsaw ездят по всему миру и встречаются с интернет-пользователями, которые сталкиваются со случаями нарушения их прав онлайн. Это люди, которые продвигают свободу слова или противостоят авторитарным режимам. Их притеснение в Интернете является одной из проблем.Путь к лучшему интернету?

Jigsaw уже работает с The New York Times и Wikipedia, чтобы улучшить систему комментариев. В The New York Times интейфейс API технологии Perspective используют для добавления дополнительных разделов для комментариев.Перед тем, как использовать Perspective, в The Times использовали ручной труд сотрудников, которые читали все комментарии и фильтровали их. В результате, только в 10% статей комментарии опубликовывались. The Times использует технологию для создания инструмента с открытым исходным кодом, который поможет рецензентам быстрее просмотреть комментарии и открыть доступ к большему числу статей, которые можно комментировать.

Тем временем Википедия использует Perspective для обнаружения персональных атак на редакторов-добровольцев. С выходом Perspective, издатели и разработчики по всему миру могут воспользоваться технологиями Google, чтобы улучшить опыт своих пользователей. Однако фильтрация комментариев нужна не только для того, чтобы остановит ненавистные высказывания. Коэн сказал, что компания работает над тем, чтобы предоставить издателям и их читателям возможность отфильтровывать комментарии, которые не относятся к теме или вообще не способствуют развитию дискуссии.Если технологию Perspective начнут использовать все больше ресурсов, в Интернете скоро совсем не останется троллей.