Когда дело доходит до социальных сетей, мы все знаем, что в дополнение ко многим преимуществам, которые они дают в установлении связей, проще, также могут быть определенные риски и опасности, связанные с взаимодействием в Интернете, особенно для молодых людей. К счастью, есть приложения, которые проявляют инициативу и пытаются ограничить вред, который может причинить молодым людям, внедряя надлежащие технологии модерации.
Юбо, приложение для поиска в социальных сетях, которое чаще всего используется поколением Z, объявило, что его модерация аудио в прямом эфире технология расширяется на свои крупнейшие рынки, а именно США, Великобританию, Австралию и Канада.
Это произошло после нескольких месяцев тестирования этой функции в некоторых регионах США, поскольку компания научилась решать проблемы, возникающие при анализе звука в режиме реального времени.
Важность модерации контента
Модерация контента в Интернете — сложная задача. Мы видели это с Facebook, Twitter, Instagram и так далее. Между оскорблениями, ненавистными комментариями или даже иногда насилием или членовредительством модерация чрезвычайно важна для обеспечения безопасности этих платформ и защиты их пользователей. Есть что-то в возможности спрятаться за предполагаемой анонимностью, предлагаемой Интернетом, что может выявить худшее в некоторых людях.
Что ж, Yubo продолжает показывать, что делает все возможное, чтобы предотвратить это, тем более что его пользовательская база намного моложе. По данным Yubo, 99% их пользователей составляют представители поколения Z в возрасте от 13 до 25 лет. Хотя домогательства в Интернете никому не приятны, они могут быть особенно вредны для подростков.
Технология модерации изображений и видео существует уже некоторое время и успешно внедряется на разных этапах. Аудио модерация, однако, остается серьезной проблемой, особенно с прямыми трансляциями. Будь то прямой эфир, сделанный во время прогулки по улице, или тот, где кто-то играет в видеоигру, на самом деле не имеет значения.
Как работает аудиомодерация Yubo
Начиная с мая 2022 года, Yubo начала пробную фазу своей технологии модерации звука в различных регионах США. Теперь следующий этап включает в себя большинство англоязычных регионов, где Yubo имеет большую базу пользователей, чтобы позволить компании получить более полное представление о своем новом инструменте безопасности.
Несмотря на то, что эта технология все еще нова, она может в конечном итоге широко использоваться для обнаружения насилия или членовредительства в будущем.
Yubo делает это не самостоятельно, а в партнерстве с Hive. Hive, если вы о них не слышали, — это компания, которая создает и предоставляет API-интерфейсы модерации контента для обработки изображений и видео почти в реальном времени.
Технология, которую внедрил Yubo, работает путем записи и расшифровки 10-секундных фрагментов звука в прямых трансляциях с участием 10 и более человек. Текст немедленно анализируется искусственным интеллектом, чтобы обнаружить любые слова или фразы, которые нарушают правила приложения. Принципы сообщества.
Подождите, это еще не все. Хотя искусственный интеллект может отлично обнаруживать такие вещи, он все еще далек от того момента, когда он сможет отличить реальное проблемное использование от ложного флага.
Ложными флагами могут быть, например, песни, играющие в фоновом режиме, или игривый язык, который не является злонамеренным.
Итак, именно здесь в игру вступают специалисты по безопасности Yubo, которых привлекают для расследования отмеченных инцидентов. Люди - это те, кто определяет, требует ли ситуация эскалации или нет, если есть действия. это должно быть принято против людей, использующих ненормативную лексику, или даже если правоохранительные органы должны быть привлечены в.
Если с прямой трансляцией все в порядке, стенограммы не проверяются и не хранятся по истечении 24 часов, поэтому все остается конфиденциальным; или настолько приватным, насколько может быть прямая трансляция с участием более 10 человек.
Однако, если алгоритмы обнаруживают, например, насильственные угрозы, разжигание ненависти или членовредительство, стенограммы хранятся до одного года. Это, конечно, мера безопасности для компании на случай, если правоохранительным органам потребуется информация или самой компании понадобятся подробности для дальнейших внутренних расследований.
Главный операционный директор Yubo Марк-Антуан Дюран видит расширение аудио модерация технологии как ключевой элемент эволюции онлайн-безопасности во всей отрасли.
«В области обнаружения голоса еще многое предстоит сделать, но мы гордимся тем, что прокладываем путь для наших коллег, быть первым, кто запустил модерацию аудио с помощью Hive и помог сделать этот инструмент более надежным и эффективным в ходе этого испытания», — Дюран. сказал.
Очевидно, что социальные платформы не хотят безудержной травли, разжигания ненависти и комментариев, подстрекающих к насилию, поскольку это оттолкнет других пользователей. Внедрение такой технологии модерации — отличный инструмент для обеспечения безопасности пользователей, а также для обеспечения роста и успеха Yubo в долгосрочной перспективе.
