网站敏感词过滤

news/2024/5/20 10:47:50/文章来源:https://blog.csdn.net/koreyoshi326/article/details/90209045
  1. 前言

前几天因为项目需要对用户回复内容进行敏感词过滤,所以我就去找了一下解决方案,在此记录下

博客地址

  1. 关于解决方案的选择

    刚想到这个,先想到的就是把敏感词放到数组里面,循环遍历,判断文本中是否存在,存在则替换成*号。但是这个方案一进入大脑,转念间就被pass掉,众多的关键词需要去做全文匹配,这样效率低下。
    有此想法的还有正则表达式,这个和上面的方法类似,其效率也有待商榷,所以也直接pass掉。
    我当时想到的比较靠谱的方案是前缀树,把所有词放到前缀树里面进行匹配,这样能有效利用前缀树的特性去做匹配,避免无谓的查找开销,而且可以复用前缀树的相同节点。

  2. 最终的解决方案

    我在上述三个方案中决定了之后,又去网上找了一下,大致都是用的dfa算法写的一个树形结构,和前缀树差不多等效.
    dfa算法链接

    大致结构如下(图是别人那拿过来的,借花献佛)

每个尾节点和其经过的节点,构成一个完整的关键词。通过字段来标识当前节点是否是尾节点。

{"日" : {"isEnd" : 0,"本" : {"isEnd" : 0,"人" : {"isEnd" : 1},"鬼"  : {"isEnd" : 0,"子" : {"isEnd" : 1}},"男" 	: {"isEnd" : 0,"人" : {"isEnd" : 1}}}},"毛" : {"isEnd" : 0,"泽" : {"isEnd" : 0,"东" : {"isEnd" : 1}}}	  }

上图的关键词存储结构大致如上。

规则如下,敏感词是否存在map中,存在则在该敏感词的map下继续匹配,匹配不上,则跳过,匹配上之后,且isEnd字段为1,则说明敏感词匹配成功。

代码地址
敏感词库我就不放了,自己按需找一个就好了。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.luyixian.cn/news_show_859775.aspx

如若内容造成侵权/违法违规/事实不符,请联系dt猫网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

TP5加支付宝手机网站支付配置

** TP5加支付宝手机网站支付配置 ** 调用支付宝接口的第一天: 之前申请审核手机网站弄了好久,不过审核还挺快的,一天内就审核好了,提交审核必须要有一个测试页面,测试页面中要有货名、单价、重量、合计,…

PHP支付宝手机网站支付notify异步通知

$config array (//应用ID,您的APPID。app_id > "",//商户私钥,您的原始格式RSA私钥merchant_private_key > "",//异步通知地址notify_url > "",//同步跳转return_url > "",//编码格式charset > "UTF-…

vue使用prerender-spa-plugin预渲染进行seo优化

前言 单页应用(SPA)是最近流行的一种应用模式,它支持在同一页面下通过哈希(hash)或html5的history api实现不刷新式切换视图,既实现了动态路由的变化,也实现了历史记录的保持,然而&a…

ASP.NET MVC网站部署在阿里云服务器(WindowsServers2012+IIS6.0环境)

在部署网站之前,购买阿里ESC服务器之后,咱们需要部署IIS6.0的网站的服务,如果已经弄好的话可以跳过,没弄好的话,可以借鉴一下我的上一篇文章阿里云windows server 2012 配置asp.net的IIS服务,希望对你IIS的…

在外网通过服务器公网IP访问IIS发布ASP.NET网站

在把网站部署在服务器的IIS上以后,我就开始浏览我的网站了。如果不会部署,可以看我ASP.NET MVC网站部署在阿里云服务器(WindowsServers2012IIS6.0环境)。 在我的预想中当然是一帆风顺了,这种情况在理想中总是丰满的&a…

码农如何快速打造一个有设计感的网站 How to Make Your Site Look Half-Decent in Half an Hour

像我这样的程序员来说经常被“设计”这个词吓到,因为我是一名程序员而不是设计师,我拥有的是计算机学位证,另外我对 Comic Sans 字体并不介意。(注:Comic Sans 字体是 Win95 附带的一种漫画字体,设计行业极…

爬虫xx网站论坛的帖子源码分享

import re import time from urllib import parse import urllib import requests def updatepostinfo(startid,endid): for num in range(int(startid),int(endid)1): time.sleep(2) print(num) posturl"http:网站/detailnew.php?id&…

某淘客网站的爬虫数据并写入到excel文件中的源码

def hdktest(url,userid): try: pcresurllib.request.urlopen(url) pcrespcres.read().decode() return pcres #异常处理 except urllib.error.HTTPError as reason: taskinfohdktask.objects.get(hdktask_linkuseriduserid) …

使用django实现某淘客网站采集功能

原来设计的效果如下 后来根据需求又改了一版效果如下 源码分享&#xff1a; {% load customtag %} <!DOCTYPE html> <html lang"zh-CN"> <head> <meta http-equiv"Content-Type" content"text/html; charsetUTF-8"&…

DEDECMS风水织梦模板带手机站,DEDECMS风水网站

模板介绍&#xff1a; 织梦最新内核开发的模板&#xff0c;该模板属于风水行业&#xff0c;企业通用&#xff0c;企业管理&#xff0c;企业咨询等企业均可以使用该模板&#xff0c;页面简洁简单&#xff0c;容易管理&#xff0c;附带测试数据&#xff01; 模板特点&#xff1a…

ecshop商城自定义URL链接SEO优化排名_ecshop商城自定义URL静态html

简介&#xff1a; ecshop商城优化提高网站排名重要三步缺一不可&#xff1a;ecshop自定义URL链接静态URL,ecshop自定义title标题&#xff0c;ecshop自动内链接。很多ecshop商城站长对商城创建以后感觉就完事了&#xff0c;好像并不在乎网站排名和收录&#xff0c;如果一个商城创…

给ECSHOP每个商品自己设置URL名称地址提高SEO优化插件

插件简介&#xff1a; ecshop商品自定义url和标题&#xff0c;这个是很多人都追求的一个功能。为了让ecshop更加加强SEO优化。我们就不得不对ecshop url进行自定义。本插件适合任何摸板以包括最新ecshop4.1插件内附带有详细安装说明&#xff0c;自己完全可以安装。插件代码不加…

[SEO优化必备]ECSHOP商城全站自定义TITLE标题插件

插件简介 ECSHOP自定义TITLE标题插件 ECSHOP自定义TITLE标题插件演示地址看本插件浏览器上面标题和商品标题显示不一样就明白了&#xff01; ECSHOP商城全站自定义TITLE标题ECSHOP插件&#xff1a;包含 商品页&#xff0c;商品分类页&#xff0c;商品品牌&#xff0c;文章页 &a…

实现ECSHOP商品自定义URL链接地址插件【提高SEO优化必备】

插件说明&#xff1a;本插件给ECSHOP每个商品自定义URL名称地址提高SEO优化插件 功能特色&#xff1a; ECSHOP虽然支持伪静态&#xff0c;但是伪静态的规则稍有死板。如果ECSHOP每个商品都能自定义URL&#xff0c;那对SEO将很有帮助。本店提供的这个"ECSHOP所有商品自定…

2022最新可用网页百度分享按钮安装教程【网站添加百度分享按钮代码】

简介&#xff1a; 2022最新可用百度分享是一个提供网页地址收藏、分享及发送的WEB2.0按钮工具&#xff0c;借助百度分享按钮&#xff0c;网站的浏览者可以方便的分享内容到人人网、开心网、QQ空间、新浪微博等一系列SNS站点。 网站主可以在百度分享网站中获得分享按钮JS代码&a…

ECSHOP优化外链插件【ecshop优化seo插件】提高ECSHOP商城优化,商品页,文章外链优化插件,SEO插件

参考各大电商一些相关经验&#xff0c;把ecshop文章商品内容里的外链加上跳转页面提示&#xff0c;感觉非常使用实用而且对seo优化提升还不错&#xff0c;那么 ECShop 外链默认都是直接跳转的&#xff0c;没有这方面的插件&#xff0c;所以ECSHOP插件网就做了一个类似的插件&am…

ECSHOP网站日志,ECSHOP维护工具,ecshop错误查看,ECSHOP管理员日志,ECSHOP管理员操作记录

插件简介 对于ECSHOP开发者来说&#xff0c;一旦某个产品投入使用&#xff0c;应该立即将display_errors选项关闭&#xff0c;以免因为这些错误所透露的路径、数据库连接、数据表等信息而遭到黑客攻击。但是&#xff0c;任何一个产品在投入使用后&#xff0c;都难免会有错误出现…

ecshop商城SEO优化自动内链接插件,ecshop自动内链接提高搜索引擎排名收录,ECSHOP自动内链插件,ECSHOP商城优化插件,seo优化插件

ecshop商城网站内链优化有什么作用&#xff1f;内链优化技巧&#xff01; 在网站优化中&#xff0c;有一种优化叫做“内链优化”&#xff0c;顾名思义就是对网站站内的链接进行优化&#xff0c;内链优化是SEO站内优化至关重要的的一环&#xff0c;也正是基于这种认识&#xff0…

ecshop网站导航,html导航分类,分类导航,html分类式导航栏,html分类导航页面插件【有利于网站排名seo优化】

网站导航给优化带来的好处 一个靠谱的网站&#xff0c;它必然在各方面对细节都是非常的在意的&#xff0c;而且对于细节的优化也是把控的很到位。而且许多不够老练的优化师往往会忽视一些优化操作&#xff0c;例如说网站导航栏的优化。对此小编就在这里给大家着重说说网站导航对…

ECSHOP商城SEO优化商城更新内容后将页面链接自动推送给百度

ECSHOP商城SEO优化篇:商品新增加内容或者更新内容以后如何快速让搜索引擎收录?这时候就要用到自动推送功能让搜索引擎知道新增加内容了。ECSHOP商城做好需要SEO优化其中优化之一就是将网站新内容通过自动推送给百度搜索引擎&#xff0c;站长只需安装推送插件&#xff0c;在新发…