Алекс Попкен, бывший руководитель по доверию и безопасности в Twitter, перешел на новую должность вице-президента по доверию и безопасности в WebPurify, поставщике услуг модерации контента. В недавнем интервью Associated Press Попкен рассказал об эволюции модерации контента за последнее десятилетие. Она выделила ключевые вехи во время своего пребывания в Twitter, такие как обнаружение российского вмешательства в президентские выборы в США в 2016 году, в котором подчеркивалась важность инвестиций в умеренность контента, чтобы предотвратить подрыв демократии плохими игроками.

Попкен подчеркнул необходимость сочетания человеческой модерации с искусственным интеллектом (ИИ) для эффективной модерации контента. Хотя ИИ может обнаруживать определенные ключевые слова или фразы, он изо всех сил пытается понять контекст и нюансы, требуя от модераторов-людей обеспечить этот важный уровень суждения. Попкен признал достижения в области генеративного ИИ, которые могут лучше понять контекст и нюансы, но отметил, что человеческая умеренность останется решающей в обозримом будущем.

WebPurify работает с различными компаниями, не связанными с социальными сетями, от розничных торговцев до приложений для знакомств, чтобы гарантировать, что пользовательский контент соответствует правилам и рекомендациям, установленным платформой. Попкен объяснил, что модерация контента - это постоянно меняющийся ландшафт, на который влияют глобальные события, новые технологии и эволюционирующие риски, создаваемые плохими игроками. Она подчеркнула проблему сдерживания дезинформации, отметив, что платформы должны сосредоточиться на предотвращении наиболее реального вреда.

Что касается генеративного ИИ, Попкен выразил обеспокоенность по поводу дезинформации, созданной ИИ, особенно во время важных избирательных сезонов. Она отметила рост глубоких фейков и манипулируемых СМИ в Интернете, подчеркнув необходимость надлежащего регулирования и ограждений для предотвращения злоупотреблений. Несмотря на потенциальные риски, Попкен рассматривает ИИ как ценный инструмент для модерации контента, особенно для анализа угроз, если он используется ответственно.