Instagram хочет сделать свою социальную сеть менее «токсичной»
В последнее время на борьбу с кибербуллингом (то есть травлей или осознанным унижением) в сети обратили внимание многие компании. В первую очередь это касается владельцев крупных социальных сетей и подобных инернет-площадок. Например, Facebook, компания, владеющая популярной платформой Instagram, запускает новую функцию, направленную на борьбу с издевательствами над пользователями. Примечательно тут не столько то, что она будет отслеживать комментарии к постам, сколько то, что работать она будет на основе алгоритмов искусственного интеллекта.
Как работает функция по борьбе с кибербуллингом в Instagram?
Начиная с 16 декабря, некоторые пользователи Instagram уже получили (даже незаметно для самих себя) данную опцию. Она будет уведомлять людей, когда подписи к их фото или видео «могут считаться оскорбительными». Руководство Instagram заявляет, что они «разработали и протестировали» ИИ, который может «распознавать различные формы издевательств» в рамках социальной сети. Прежде, чем подобного рода комментарии будут опубликованы, сначала алгоритм уведомит пользователей об этом, если посчитает нужным.
Результаты наших тестов были очень многообещающими, и мы обнаружили, что такой подход часто заставляет пользователей пересмотреть свои слова. — заявляют в пресс-службе Instagram.
Но как же работает эта функция? Давайте разберем на примере: когда вы создаете подпись к своему или чужому посту, алгоритм искусственного интеллекта определит, является ли ее содержание потенциально оскорбительным или опасным. Вы сможете получить подсказку, информирующую вас об этом. После вам дадут возможность отредактировать написанное. Хотя это и не обязательно. Если хотите, то вы можете оставить все так, как задумывалось изначально. Звучит не очень убедительно, верно? Но не все так просто. Дело в том, что даже если вы опубликуете комментарий или пост и после более глубокого анализа выяснится, что он содержит-таки оскорбительные высказывания, другие пользователи платформы его просто не увидят. Как вам данная возможность? Напишите свое мнение в нашем чате в Телеграм. Там ваши комментарии никто скрывать не станет.
Читайте также: Приложения Facebook и Instagram для Android в опасности. Будьте осторожны
Представители Instagram говорят, что эта функция уже доступна в некоторых регионах, и постепенно начнет распространяться на весь мир в ближайшие месяцы. Но хотелось бы поговорить вот о чем. Все мы знаем довольно странные случаи бана пользователей платформ вроде Twitch или YouTube за высказывания подобного рода, которые по-факту таковыми не всегда являлись.
Поэтому, где гарантия того, что благое на словах начинание на деле обернется очередными «санкциями» в угоду чрезмерной боязни задеть разные слои населения? И вместо того, чтобы пропускать через «ИИ-фильтр» обоснованную критику или жесткие, но справедливые высказывания, Instagram не начнет «банить» всех подряд в надежде сделать из социальной сети платформу с «радугой и единорогами»? Без сомнений, некие механизмы регулировки нужны. Но кто будет контролировать те механизмы, которые контролируют наше общение?