• Lucene.Net3.0.3+盘古分词器学习使用


    一、Lucene.Net介绍

      Lucene.net是Lucene的.net移植版本,是一个开源的全文检索引擎开发包,即它不是一个完整的全文检索引擎,而是一个全文检索引擎的架构,提供了完整的查询引擎和索引引擎。开发人员可以基于Lucene.net实现全文检索的功能。   

      Lucene.net是Apache软件基金会赞助的开源项目,基于Apache License协议。   

      Lucene.net并不是一个爬行搜索引擎,也不会自动地索引内容。我们得先将要索引的文档中的文本抽取出来,然后再将其加到Lucene.net索引中。标准的步骤是先初始化一个Analyzer、打开一个IndexWriter、然后再将文档一个接一个地加进去。一旦完成这些步骤,索引就可以在关闭前得到优化,同时所做的改变也会生效。这个过程可能比开发者习惯的方式更加手工化一些,但却在数据的索引上给予你更多的灵活性。

    二、盘古分词器                                 

    盘古分词是一个中英文分词组件。作者eaglet 曾经开发过KTDictSeg 中文分词组件,拥有大量用户。作者基于之前分词组件的开发经验,结合最新的开发技术重新编写了盘古分词组件。主要有以下功能:

    1、中文未登陆词识别

    2、词频优先

    3、一元分词,多元分词

    4、中文人名分词

    5、繁体中文分词

    6、英文分词

    7、用户自定义规则(字典管理,动态加载字典,关键词高亮)

    ......

    三、安装

    四、代码分析

    1.初始化盘古分词的xml引用路径

            /// <summary>
            /// 初始化盘古分词的xml引用路径
            /// </summary>
            /// <param name="PanGuXmlPath"></param>
            public static void InitPanGuXmlPath(string PanGuXmlPath)
            {
                //定义盘古分词的xml引用路径
                PanGu.Segment.Init(PanGuXmlPath);
            }    

    2.创建索引

            /// <summary>
            /// 创建索引
            /// </summary>
            /// <param name="IndexDic">目录地址</param>
            /// <param name="isCreate">是否重新创建</param>
            public static void CreateIndex(string IndexDic, bool isCreate)
            {
                try
                {
                    //创建索引目录
                    if (!System.IO.Directory.Exists(IndexDic))
                    {
                        System.IO.Directory.CreateDirectory(IndexDic);
                    }
                    FSDirectory directory = FSDirectory.Open(new DirectoryInfo(IndexDic), new NativeFSLockFactory());
                    //IndexReader:对索引库进行读取的类
                    bool isExist = IndexReader.IndexExists(directory);
                    //是否存在索引库文件夹以及索引库特征文件
                    if (isExist)
                    {
                        //如果索引目录被锁定(比如索引过程中程序异常退出或另一进程在操作索引库),则解锁
                        //Q:存在问题 如果一个用户正在对索引库写操作 此时是上锁的 而另一个用户过来操作时 将锁解开了 于是产生冲突 --解决方法后续
                        if (IndexWriter.IsLocked(directory))
                        {
                            IndexWriter.Unlock(directory);
                        }
                    }
                    //IndexWriter第三个参数:true指重新创建索引,false指从当前索引追加....此处为新建索引所以为true
                    IndexWriter writer = new IndexWriter(directory, new PanGuAnalyzer(), isCreate, Lucene.Net.Index.IndexWriter.MaxFieldLength.LIMITED);
                    for (int i = 1; i < 150; i++)
                    {
                        //这里是测试数据
                        AddIndex(writer, "我的标题" + i, i + "标题内容是飞大师傅是地方十大飞啊的飞是 安抚爱上地方 爱上地方" + i, DateTime.Now.AddDays(i).ToString("yyyy-MM-dd"));
                        AddIndex(writer, "射雕英雄传作者金庸" + i, i + "我是欧阳锋" + i, DateTime.Now.AddDays(i).ToString("yyyy-MM-dd"));
                        AddIndex(writer, "天龙八部2" + i, i + "慕容废墟,上官静儿,打撒飞艾丝凡爱上,虚竹" + i, DateTime.Now.AddDays(i).ToString("yyyy-MM-dd"));
                        AddIndex(writer, "倚天屠龙记2" + i, i + "张无忌机" + i, DateTime.Now.AddDays(i).ToString("yyyy-MM-dd"));
                        AddIndex(writer, "三国演义" + i, i + "刘备,张飞,关羽" + i, DateTime.Now.AddDays(i).ToString("yyyy-MM-dd"));
                    }
                    writer.Optimize();
                    writer.Dispose();
                }
                catch (Exception ex)
                {
    
                    throw;
                }
            }
    private static void AddIndex(IndexWriter writer, string title, string content, string date)
            {
                try
                {
                    Document doc = new Document();
                    doc.Add(new Field("Title", title, Field.Store.YES, Field.Index.NOT_ANALYZED));//存储且索引
                    doc.Add(new Field("Content", content, Field.Store.YES, Field.Index.ANALYZED));//存储且索引
                    doc.Add(new Field("AddTime", date, Field.Store.YES, Field.Index.NOT_ANALYZED));//存储且索引
                    writer.AddDocument(doc);
                }
                catch (FileNotFoundException fnfe)
                {
                    throw fnfe;
                }
                catch (Exception ex)
                {
                    throw ex;
                }
            }

    索引器的构造函数参数说明:

    IndexDic是索引存放目录

    PanGuAnalyzer是盘古解析器(由于默认的解析器解析能力不强,所以替换为这个)

    IsCreate是索引创建方式(true:重新新建索引,false:从旧的索引执行追加)

    Lucene.Net.Index.IndexWriter.MaxFieldLength.LIMITED是文件长度是否限制

    3.索引生成的文件

    4.根据关键字搜索

    lucene的搜索相当强大,它提供了很多辅助查询类,每个类都继承自Query类,各自完成一种特殊的查询,你可以像搭积木一样将它们任意组合使用,完成一些复杂操 作;另外lucene还提供了Sort类对结果进行排序,提供了Filter类对查询条件进行限制。你或许会不自觉地拿它跟SQL语句进行比 较:“lucene能执行and、or、order by、where、like ‘%xx%’操作吗?”回答是:“当然没问题!”

         /// <summary>
            /// 从索引搜索结果
            /// </summary>
            public static List<Article> SearchIndex(string content, string IndexDic)
            {
                Dictionary<string, string> dic = new Dictionary<string, string>();
                try
                {
                    FSDirectory directory = FSDirectory.Open(new DirectoryInfo(IndexDic), new NoLockFactory());
                    IndexReader reader = IndexReader.Open(directory, true);
                    IndexSearcher search = new IndexSearcher(reader);
                    string[] fields = { "Content" };
    
                    //创建查询
                    PerFieldAnalyzerWrapper wrapper = new PerFieldAnalyzerWrapper(new PanGuAnalyzer());
                    wrapper.AddAnalyzer("Content", new PanGuAnalyzer());
                    QueryParser parser = new MultiFieldQueryParser(Lucene.Net.Util.Version.LUCENE_30, fields, wrapper);
                    Query query = parser.Parse(content);
                    TopScoreDocCollector collector = TopScoreDocCollector.Create(10, true);//10--查询条数
    
                    search.Search(query, collector);
                    var hits = collector.TopDocs().ScoreDocs;
    
                    int numTotalHits = collector.TotalHits;
                    List<Article> list = new List<Article>();
                    for (int i = 0; i < hits.Length; i++)
                    {
                        var hit = hits[i];
                        Document doc = search.Doc(hit.Doc);
                        Article model = new Article()
                        {
                            Title = doc.Get("Title").ToString(),
                            Content = doc.Get("Content").ToString(),
                            AddTime = doc.Get("AddTime").ToString()
                        };
                        list.Add(model);
                        //list.Add(SetHighlighter(dicKeywords, model));
                    }
                    return list;
                }
                catch (Exception ex)
                {
                    throw;
                }
            }

    介绍各种Query

    TermQuery: 首先介绍最基本的查询,如果你想执行一个这样的查询:在content字段中查询包含‘刘备的document”,那么你可以用TermQuery

    BooleanQuery :如果你想这么查询:在content字段中包含”刘备“并且在title字段包含”三国“的document”,那么你可以建立两个TermQuery并把它们用BooleanQuery连接起来:

    WildcardQuery :如果你想对某单词进行通配符查询,你可以用WildcardQuery,通配符包括’?’匹配一个任意字符和’*’匹配零个或多个任意字符,例如你搜索’三国*’,你可能找到’三国演义’或者’三国志’

    PhraseQuery :你可能对中日关系比较感兴趣,想查找‘中’和‘日’挨得比较近(5个字的距离内)的文章,超过这个距离的不予考虑,

    PrefixQuery :如果你想搜以‘中’开头的词语,你可以用PrefixQuery:

    FuzzyQuery :FuzzyQuery用来搜索相似的term,使用Levenshtein算法。

    RangeQuery: 另一个常用的Query是RangeQuery,你也许想搜索时间域从20060101到20060130之间的document,你可以用RangeQuery

  • 相关阅读:
    OpenCV和PHP的人脸识别技术
    Nginx下防CC和DDOS攻击
    Centos 6.0 yum 更新源
    linux(centos) 常用命令
    在 Nginx 中配置 Zend Framework
    nginx虚拟主机配置实例
    mysql精简语句集
    nginx rewrite 参数和例子
    nginx 和 subversion
    ZendFramework,php编码规范
  • 原文地址:https://www.cnblogs.com/xuwendong/p/6832111.html
Copyright © 2020-2023  润新知