Что я могу сделать, чтобы справиться с плохим поведением пользователей на сайте?

Я работаю над проектом с группой, и мы создаем экспериментальный сайт, который предполагает активное взаимодействие с пользователем. Короче говоря, характер сайта предполагает интенсивное размещение сообщений и комментариев. Исходя из темы нашего сайта, мы ожидаем получить спорные сообщения и, скорее всего, оскорбительные материалы.

Мой вопрос заключается в том, какие алгоритмы, методы и т. Д. Мы можем использовать для отслеживания и обработки этих «плохих пользовательских» взаимодействий с нашим веб-сайтом.

Прямо сейчас, мы действительно только придумали проверку сообщений по базе данных людей, колледжей и бизнес-имен. Это сделало бы посты несколько анонимными и вызвала бы оскорбление из поста. Что еще мы можем / можем внедрить в наш дизайн, чтобы достичь этого?

Решение:

У всех были действительно хорошие предложения, которые я собираюсь исследовать немного больше. Что касается составления списка, я экспериментировал с небольшим написанным мною сценарием, который берет коллекцию веб-сайтов, которые содержат каталоги имен со значительным объемом данных (3000-4000 имен), и я разбираю HTML, и сохраняя каждое значение в базе данных, которая будет обрабатываться для сообщений пользователя. Это немного "временное решение", но пока оно будет хорошим тестером.

13.10.2009 05:50:08
У вас есть возможность аутентифицировать пользователей (через логин или еще что-нибудь) и "оценивать" их, немного как SO-пользователи. Таким образом, вы скоро получите достаточно «доверенного гражданина», способного помечать оскорбительные данные?
mjv 13.10.2009 05:56:11
Также вы хотите просто обнаружить неправильные сообщения, очистить или удалить их, или вы также хотите замедлить обидчика (например, забрав их в горшок с медом)
mjv 13.10.2009 05:58:34
3 ОТВЕТА
РЕШЕНИЕ

Для некоторого хорошего фона проблемы, с некоторыми общими предложениями, проверьте эту стенограмму речи Клэя Ширки: группа - ее собственный худший враг

Чтобы украсть непосредственно из подкаста StackOverflow, ограничение скорости является одним из наиболее эффективных методов. Установите разумные ограничения на количество времени, которое может пройти между комментариями, и, если предел будет превышен, поместите этого пользователя во временный период «охлаждения», когда он не может взаимодействовать в течение нескольких минут. Если они продолжают подпрыгивать против этого предела, у вас может быть патологический обидчик, и вы можете охладить их дольше, попросить их воздержаться и т. Д.

Ограничение скорости уменьшит пламя, потому что один из главных участников пламенных войн - люди злятся и начинают публиковать личные атаки, а не рациональные аргументы. Ограничение скорости несколько уменьшит это поведение.

Разрешение людям отмечать оскорбительные материалы также является ценным (и позволяет каждому пользователю пометить элемент только один раз), но я бы показывал помеченные элементы модераторам только при достаточно высокой степени пометки. Вам необходимо отфильтровать «фоновый шум», потому что почти все, что вы публикуете, может кого-то обидеть.

3
13.10.2009 06:48:20
+1 за ссылку Клэй Ширки. Кроме того, ограничение скорости - это хорошо, но оно не остановится.
Bob Aman 13.10.2009 13:20:45
Спасибо Боб. Я не утверждал, что это прекратит гореть - нет ничего (кроме выключения всей интерактивности), которое прекратило бы гореть. Ограничение скорости - очень дешевый метод, который помогает ослабить эффект.
Bork Blatt 13.10.2009 14:48:40
Когда я сказал «прекратить зажигать», я имел в виду «прекратить издавать пламенные». Очереди модерации останавливают это.
Bob Aman 15.10.2009 13:05:52

Зависит от того, сколько пользователей, сколько терпимости к глупости (это нормально, если оскорбительный пост будет там некоторое время) и т. Д.

Одна из возможностей - потребовать, чтобы пользователи создавали учетные записи пользователей (соответственно CAPTCHAed, чтобы предотвратить автоматическое создание учетных записей), прежде чем они смогут публиковать сообщения. Затем удалите оскорбительные сообщения (и соответствующие учетные записи) по мере необходимости.

Существуют разные способы выявления наступательных постов. Один из стандартных методов 2.0 - позволить пользователям отмечать сообщения друг друга как оскорбительные. Это может облегчить захват администраторами.

1
13.10.2009 05:56:37
+1 за предложение аккаунтов пользователей. Процедура регистрации и входа в систему немного трудна, но именно потому, что существует барьер для участия и некоторое чувство идентичности (даже если оно абстрактно), это помогает.
Bork Blatt 15.10.2009 05:37:09

Чтобы остановить злых людей, я большой поклонник ссылки "Пометить этот пост". Ваше сообщество сделает большую часть модерации за вас.

Чтобы остановить разумных людей, которые написали что-то подстрекательское, вы можете попытаться быть умным. Составьте длинный список действительно сильных слов (очевидно, проклятия являются самыми сильными) и оцените каждое из них соответствующим образом. Если показатель силы слова в сообщении (с поправкой на количество слов в сообщении) пересекает пороговое значение, отобразите большое красное предупреждение и предложите постеру рассмотреть возможность переписывания. И если они в любом случае нажмут кнопку «Отправить», добавьте это в очередь на модерацию, а не отправляйте сразу.

Чтобы остановить спаммеров, я большой поклонник криптографической функции nonce + hash, выполняемой в технике воспроизведения javascript + cookie. Не требуется визуальное пространство для уродливой капчи, и эквивалентная производительность на практике. Я еще не видел, чтобы спамер преодолевал препятствия, необходимые для его автоматического поражения. Я видел сбитых с толку спаммеров, которые вручную вводили спам после того, как их автоматизированные системы были отклонены с точностью до 100,0%.

И полностью прочитайте эту ссылку Клэя Ширки из другого ответа. Понимание динамики сообщества является ключевым.

Дополнения : Реализация неинтерактивной капчи.

Сделайте AJAX-запрос для одноразового номера на сервер. Сервер отправляет обратно ответ JSON, содержащий nonce, а также устанавливает cookie, содержащий значение nonce. Рассчитайте хэш SHA1 для одноразового номера в javascript, скопируйте значение в скрытое поле. Когда пользователь отправляет форму POST, он теперь отправляет cookie обратно со значением nonce. Рассчитайте хэш SHA1 для одноразового номера из файла cookie, сравните его со значением в скрытом поле и убедитесь, что вы сгенерировали этот одноразовый номер за последние 15 минут (memcached подходит для этого). Если все эти проверки пройдены, оставьте комментарий.

Этот метод требует, чтобы спаммер садился и выяснял, что происходит, и, как только они это сделают, им все равно придется выполнить несколько запросов и поддерживать состояние, чтобы получить комментарий. Это намного, гораздо больше работы, чем большинство спамеров готовы пройти, тем более что работа относится только к одному сайту. Самым большим недостатком является то, что любой, у кого отключен JavaScript или cookie, помечен как потенциальный спам. Это означает, что очереди на модерацию все еще хорошая идея.

Теоретически, это может рассматриваться как безопасность через неизвестность, но на практике это превосходно.

1
15.10.2009 13:03:48
+1 за хорошие приемы. Я определенно собираюсь исследовать технику воспроизведения cookie больше.
Bork Blatt 13.10.2009 14:54:45
Боб - это хорошая информация - почему бы не скопировать и вставить ее в свой оригинальный ответ? Это будет полезный ресурс.
Bork Blatt 15.10.2009 05:31:37