«Одноклассники» запустили «умную» защиту от оскорблений в комментариях
Социальная сеть «Одноклассники» начала временно ограничивать пользователей, оставляющих оскорбительные комментарии под постами, фотографиями и видео. Как сообщает пресс-служба компании, внедрение модели машинного обучения позволило сократить долю и количество негативных высказываний на платформе на 47%.
Новая ML-модель автоматически выявляет токсичные комментарии и ограничивает их авторов в написании новых на период от одного часа до 24 часов, в зависимости от частоты публикации недружелюбных или провоцирующих негативную дискуссию высказываний.
По данным исследования «Одноклассников», негативные посты вызывают злость у более чем 40% опрошенных пользователей. Для обучения модели было использовано 400 тысяч комментариев, которые можно охарактеризовать как токсичные и нежелательные с точки зрения аудитории соцсети.
Внедрение новой технологии позволило в три раза сократить время обработки жалоб на негативные публикации и быстрее помогать пользователям с решением их проблем. Как отметил директор по продукту «Одноклассников» Александр Москвичев, треть всех жалоб на платформе связаны с токсичными комментариями, а 80% обращений в службу поддержки по этому поводу нацелены против «токсичности».
«Мы обучали эту модель больше года и продолжим совершенствовать её в дальнейшем. Вместе с другими продуктовыми решениями, которые мы внедрили за последние два года, ограничение токсичных комментаторов позволит соцсети не только быстрее вернуть на платформу редко посещающих ОК пользователей, но и привлечь новых», – подчеркнул Москвичев.
Ранее в этом году «Одноклассники» начали автоматически обнаруживать и скрывать нецензурные слова, а также размывать изображения эротического характера. Соцсеть использует модерацию на базе машинного обучения для ограничения другого нежелательного контента, в том числе блокирует материалы категории 18+, размывает и удаляет фотографии со сценами насилия.
В прошлом году «Одноклассники» также запустили ML-модель, ограничивающую навязчивые знакомства и общение с нежелательными собеседниками на площадке.
Эксперты отмечают, что проблема токсичности в социальных сетях стоит достаточно остро. Негативные комментарии и дискуссии не только ухудшают пользовательский опыт, но и могут наносить психологический вред, особенно подросткам и эмоционально уязвимым людям.
Внедрение автоматизированных систем модерации на основе искусственного интеллекта позволяет социальным платформам более эффективно бороться с разного рода токсичным контентом. Однако эксперты подчеркивают, что такие системы должны быть максимально точными и не допускать ошибочных блокировок и ограничений.
Кроме того, специалисты указывают на важность комплексного подхода к проблеме, который включает не только технологические решения, но и просветительскую работу, направленную на формирование культуры уважительного общения в интернете.
Инициатива «Одноклассников» по ограничению токсичных комментариев является частью общего тренда на повышение безопасности и комфорта пользователей социальных сетей. Ожидается, что в будущем все больше платформ будут внедрять подобные системы на базе ИИ для борьбы с негативом и агрессией онлайн.
Все материалы на сайте Баффетт.РУ носят исключительно информационный характер, не являются офертой и не могут быть восприняты как рекомендации или призыв к действию с нашей стороны. Финансовые рынки несут высокие риски и любые торговые операции должны быть тщательно обдуманы.
Похожие материалы:
- РЖД организует июньский тур на Кавминводы в формате отеля на колесах
- Правительство готовит норму об использовании контента для нейросетей
- Российские горнолыжные курорты переходят на круглогодичную работу
- Госдума готовит штрафы до 10 миллионов рублей за нелегальный майнинг криптовалютЭнергетический комитет Государственной Думы одобрил законопроект о введении административных санкций против незаконной добычи цифровых валют, сообщили РИА Новости в профильном комитете. Максимальное наказание для юридических лиц при повторных нарушениях достигнет 5-10 миллионов рублей. Авторами инициативы выступили главы четырех думских комитетов: Николай Шульгинов (энергетика), Василий Пискарев (безопасность и противодействие коррупции), Анатолий Аксаков (финансовый рынок) и Сергей Пахомов (строительство и ЖКХ). Документ направлен на стимулирование легализации отрасли, устранение преимуществ теневых операторов и предотвращение перегрузки национальной энергосистемы, объяснял ранее Аксаков. Градация санкций Законопроект предусматривает дифференцированную систему наказаний в зависимости от характера нарушения и статуса нарушителя. Добыча криптовалюты в регионах, где действует запрет на такую деятельность, обойдется гражданам в 100-150 тысяч рублей. Должностные лица и индивидуальные предприниматели заплатят 300-800 тысяч, компании — от одного до двух миллионов рублей. Аналогичные суммы установлены для тех, кто ведет майнинг без регистрации в специальном реестре или превышает лимиты энергопотребления. Сокрытие от Федеральной налоговой службы данных о полученной цифровой валюте и адресах-идентификаторах влечет штраф для физических лиц в размере 100-200 тысяч рублей. Должностным лицам придется выплатить 200-300 тысяч, индивидуальным предпринимателям — 300-400 тысяч, организациям — 400-500 тысяч. Такие же суммы предусмотрены для лиц, осуществляющих майнинг без соответствующих прав согласно закону о цифровых финансовых активах. Идентичные штрафы ждут операторов инфраструктуры, работающих нелегально или предоставляющих услуги незарегистрированным майнерам. Нарушение процедуры подачи заявления в ФНС о включении в реестр майнеров или операторов, а также предоставление ложных сведений караются по той же схеме. Дополнительные меры воздействия Помимо денежных взысканий, для должностных лиц во всех случаях предусмотрена дисквалификация продолжительностью от одного года до двух лет. Индивидуальные предприниматели и юридические лица могут столкнуться с приостановкой деятельности на срок до 90 дней. При повторных правонарушениях финансовое бремя возрастает кратно. Граждане заплатят 1-1,5 миллиона рублей, должностные лица и ИП — 3-5 миллионов, корпорации — от пяти до десяти миллионов. Позиция комитета Энергетический комитет Госдумы считает предложенные меры эффективным инструментом борьбы с теневой добычей криптовалют. По мнению депутатов, реализация норм минимизирует ущерб государственному бюджету и энергетической инфраструктуре, одновременно стимулируя выход майнеров из тени. Комитет предложил дополнить законопроект положением об ответственности за размещение майнинговой инфраструктуры в центрах обработки данных, включенных в специальный реестр. Запрет распространится на размещение оборудования и участие в майнинг-пулах с использованием мощностей таких центров на российской территории.
- ЦБ развенчал миф о пользе печатания дополнительных купюр
- Число российских долларовых миллиардеров выросло до 155 человек
- Компании начали активнее нанимать специалистов старше 50 лет
- Сочинские курорты приняли миллион туристов с начала года
