• <ins id="pjuwb"></ins>
    <blockquote id="pjuwb"><pre id="pjuwb"></pre></blockquote>
    <noscript id="pjuwb"></noscript>
          <sup id="pjuwb"><pre id="pjuwb"></pre></sup>
            <dd id="pjuwb"></dd>
            <abbr id="pjuwb"></abbr>
            隨筆 - 17  文章 - 48  trackbacks - 0
            <2011年1月>
            2627282930311
            2345678
            9101112131415
            16171819202122
            23242526272829
            303112345

            常用鏈接

            留言簿(3)

            隨筆檔案

            搜索

            •  

            最新評論

            閱讀排行榜

            評論排行榜

            實現正則表達式的想法很早就有,各種原因導致沒有做,最近花了點時間先實現了幾個簡單的正則語法,分別是concatenation、alternation和closure,其他語法及metacharacter等有時間了有想法了之后再擴展。

             

            這三種基本的語法分別是對應這樣的:

            concatenation: abc    表示匹配字符串abc

            alternation: abc|def   表示匹配字符串abc或者def

            closure: a*               表示匹配零個到多個a構成的字符串

             

            我們知道正則表達式最終需要轉換成自動機才能用來匹配字符串,我實現的正則通過如下幾個步驟把正則表達式轉換成自動機:

            正則表達式->Parse成AST->生成邊(字符)集合->生成NFA->NFA subset construction->轉換成DFA->DFA minimization

            最后用DFA minimization之后構造的自動機來匹配字符串。

             

            正則語法的分析

            一個正則表達式寫出來,要讓這個正則表達式匹配字符串等操作之前,我們先需要從正則表達式中提取需要的信息并在正則語法錯誤的時候提示錯誤,這個過程自然少不了parser。一個parser通常是從一個lexer里面獲取一個token,而正則表達式的token都是字符,那么lexer不需要做任何的分詞操作,只需要簡單的把字符返回給parser即可。

            那三種基本的正則語法對應的BNF為:

            re ::= alter
            re_base ::= char | char_range | '(' re ')'
            alter ::= alter_base alter_end
            alter_base ::= concat
            alter_end ::= '|' alter_base alter_end | epsilon
            concat ::= concat_base concat_end
            concat_base ::= re_base | closure
            concat_end ::= concat_base concat_end | epsilon
            closure ::= re_base '*'

            這個parser分析了正則表達式之后產生AST,AST的node類型為:

            class ASTNode
            {
            public:
                ACCEPT_VISITOR() = 0;
                virtual ~ASTNode() { }
            };
             
            class CharNode : public ASTNode
            {
            public:
                explicit CharNode(int c) : c_(c) { }
             
                ACCEPT_VISITOR();
             
                int c_;
            };
             
            class CharRangeNode : public ASTNode
            {
            public:
                struct Range
                {
                    int first_;
                    int last_;

                    explicit Range(int first = 0, int last = 0)
                        : first_(first), last_(last)
                    {
                    }
                };

                CharRangeNode() { }

                void AddRange(int first, int last)
                {
                    ranges_.push_back(Range(first, last));
                }
             
                void AddChar(int c)
                {
                    chars_.push_back(c);
                }
             
                ACCEPT_VISITOR();
             
                std::vector<Range> ranges_;
                std::vector<int> chars_;
            };
             
            class ConcatenationNode : public ASTNode
            {
            public:
                void AddNode(std::unique_ptr<ASTNode> node)
                {
                    nodes_.push_back(std::move(node));
                }
             
                ACCEPT_VISITOR();
             
                std::vector<std::unique_ptr<ASTNode>> nodes_;
            };
             
            class AlternationNode : public ASTNode
            {
            public:
                void AddNode(std::unique_ptr<ASTNode> node)
                {
                    nodes_.push_back(std::move(node));
                }
             
                ACCEPT_VISITOR();
             
                std::vector<std::unique_ptr<ASTNode>> nodes_;
            };
             
            class ClosureNode : public ASTNode
            {
            public:
                explicit ClosureNode(std::unique_ptr<ASTNode> node)
                    : node_(std::move(node))
            {
                }
             
                ACCEPT_VISITOR();
             
                std::unique_ptr<ASTNode> node_;
            };

            其中ASTNode作為AST的基類,并提供接口實現Visitor模式訪問ASTNode類型。

             

            字符(邊)集的構造

            AST構造好了之后,需要把AST轉換成NFA。語法中有[a-zA-Z0-9]這種字符區間表示法,我們可以用最簡單原始的方法轉換,就是把區間中的每個字符都轉化成相應的一條邊(NFA中的邊),這樣一來會導致字符區間越大,對應邊的數量會越多,使得對應的NFA也越大。因此,我們需要構造區間字符集合來減少邊的數量。

            比如正則表達式是:a[x-z]|[a-z]*e

            那么我們希望對應的字符集合是這樣:[a-a] [b-d] [e-e] [f-w] [x-z]

            這需要構造一個字符集,每次插入一個區間的時候,把新插入的區間與已存在的區間進行分割,初始時已存在的區間集為空,那么正則表達式a[x-z]|[a-z]*e的劃分步驟如下:

            已存在區間集合{},插入[a-a],得到{[a-a]}

            已存在區間集合{[a-a]},插入[x-z],得到{[a-a], [x-z]}

            已存在區間集合{[a-a], [x-z]},插入[a-z],得到{[a-a], [b-w], [x-z]}

            已存在區間集合{[a-a], [b-w], [x-z]},插入[e-e],得到{[a-a], [b-d], [e-e], [f-w], [x-z]}

            這個區間構造完成了之后,還需要在后面轉換成NFA邊的時候,根據字符區間查詢出在這個集合中,由哪幾個區間構成,比如:

            查詢區間[a-a],得到[a-a]

            查詢區間[x-z],得到[x-z]

            查詢區間[a-z],得到區間[a-a] [b-d] [e-e] [f-w] [x-z]

            在轉換成NFA時,集合中的每個區間都對應一條邊,這樣相對于每個字符對應一條邊,邊的數量不會太多。

            有了這么一個集合構造的類之后,把正則的AST中的字符信息提取出來構造出這么個集合即可,這樣只需要寫個visitor就完成了:

            class EdgeSetConstructorVisitor : public Visitor
            {
            public:
                explicit EdgeSetConstructorVisitor(EdgeSet *edge_set)
                    : edge_set_(edge_set)
                {
                }
             
                EdgeSetConstructorVisitor(const EdgeSetConstructorVisitor &) = delete;
                void operator = (const EdgeSetConstructorVisitor &) = delete;
             
                VISIT_NODE(CharNode);
                VISIT_NODE(CharRangeNode);
                VISIT_NODE(ConcatenationNode);
                VISIT_NODE(AlternationNode);
                VISIT_NODE(ClosureNode);

            private:
                EdgeSet *edge_set_;
            };

            邊集合構造完成之后,下一步就是生成NFA了。

            posted on 2013-07-05 13:30 airtrack 閱讀(4420) 評論(3)  編輯 收藏 引用

            FeedBack:
            # re: 正則表達式實現(一) 2013-07-05 23:31 陳梓瀚(vczh)
            # re: 正則表達式實現(一) 2013-07-06 01:34 airtrack
            @陳梓瀚(vczh)
            哈哈,早知道陳祖寫過正則引擎的系列文章,一直沒看,是想在我自己思考之后如果遇到問題的時候再看,啊哈哈。  回復  更多評論
              
            # re: 正則表達式實現(一) 2013-07-06 20:13 溪流
            學習了  回復  更多評論
              
            亚洲欧美伊人久久综合一区二区| 伊人久久精品无码av一区| 丰满少妇高潮惨叫久久久| 久久99热只有频精品8| 久久精品成人免费网站| 久久精品国产福利国产琪琪| 三级韩国一区久久二区综合| 久久婷婷五月综合成人D啪| 亚洲国产另类久久久精品黑人| 国产精品福利一区二区久久| 久久久久九国产精品| 久久亚洲私人国产精品vA| 日本精品久久久中文字幕| 久久男人中文字幕资源站| 久久精品国产亚洲av麻豆小说| 久久亚洲精品无码播放| 久久久www免费人成精品| 91亚洲国产成人久久精品网址| 中文字幕精品久久久久人妻| 久久不射电影网| 久久人人爽人人爽人人爽 | 久久精品成人欧美大片| 无码人妻少妇久久中文字幕蜜桃| 国产精品99久久久久久人| 亚洲精品美女久久久久99小说| 久久久久久久综合日本亚洲| 久久天天躁狠狠躁夜夜2020一| 国内精品久久久久久久久| 99国产欧美精品久久久蜜芽| 精产国品久久一二三产区区别| 狠狠色伊人久久精品综合网| 国产99精品久久| AAA级久久久精品无码片| 日日躁夜夜躁狠狠久久AV| 久久热这里只有精品在线观看| 国产激情久久久久影院小草| 欧美精品一区二区精品久久| 国内精品久久久久影院免费| 俺来也俺去啦久久综合网| 久久精品人人做人人爽电影蜜月| 久久久久久伊人高潮影院|