我正在和一个小组一起做一个项目，我们正在制作一个涉及大量用户交互的实验站点。简而言之，网站的性质涉及大量用户发帖和评论。根据我们网站的主题，我们预计会收到有争议的帖子和最有可能令人反感的 Material 。
我的问题是我们可以使用哪些算法、方法等来监控和处理这些“不良用户”与我们网站的交互。
现在，我们实际上只是想出根据人员、大学和公司名称的数据库检查帖子。这会使帖子在某种程度上是匿名的，并且会从帖子中消除冒犯感。我们还应该/可以在我们的设计中实现什么来实现这一目标？
解决方法:
每个人都提出了非常好的建议，我将进一步研究。关于制作列表，我一直在试验我编写的一个小脚本，该脚本收集了一组网站，这些网站包含具有大量数据(3000-4000 个名称)的名称目录，并且我正在解析 HTML，并将每个值存储在数据库中以针对用户帖子运行。这有点“权宜之计”，但暂时可以作为一个很好的测试器。
最佳答案
有关该问题的一些良好背景和一些一般性建议，请查看 Clay Shirky 的演讲抄本:A group is its own worst enemy
要直接从 StackOverflow 播客中窃取，限速是最有效的方法之一。对评论之间的间隔时间设置合理的限制，如果超过限制，则将该用户置于临时的“冷静”期，他们在几分钟内无法互动。如果他们一直违反这个限制，你可能有一个病态的虐待者，并且可能会更长时间地冷静下来，请他们很好地克制等等。
限速会减少争吵，因为引发口水战的主要原因之一是人们生气并开始发表人身攻击而不是理性争论。速率限制会在一定程度上减少这种行为。
允许人们标记攻击性 Material 也很有值(value)(并且只允许每个用户标记一次项目)，但我只会在标记率相当高的情况下向版主显示标记的项目。您需要过滤掉“背景噪音”，因为您发布的几乎所有内容都会冒犯他人。
关于database - 我可以做些什么来处理网站上用户的不良行为？，我们在Stack Overflow上找到一个类似的问题： https://stackoverflow.com/questions/1558392/