• <ins id="pjuwb"></ins>
    <blockquote id="pjuwb"><pre id="pjuwb"></pre></blockquote>
    <noscript id="pjuwb"></noscript>
          <sup id="pjuwb"><pre id="pjuwb"></pre></sup>
            <dd id="pjuwb"></dd>
            <abbr id="pjuwb"></abbr>
            隨筆 - 17  文章 - 48  trackbacks - 0
            <2025年6月>
            25262728293031
            1234567
            891011121314
            15161718192021
            22232425262728
            293012345

            常用鏈接

            留言簿(3)

            隨筆檔案

            搜索

            •  

            最新評論

            閱讀排行榜

            評論排行榜

            實現正則表達式的想法很早就有,各種原因導致沒有做,最近花了點時間先實現了幾個簡單的正則語法,分別是concatenation、alternation和closure,其他語法及metacharacter等有時間了有想法了之后再擴展。

             

            這三種基本的語法分別是對應這樣的:

            concatenation: abc    表示匹配字符串abc

            alternation: abc|def   表示匹配字符串abc或者def

            closure: a*               表示匹配零個到多個a構成的字符串

             

            我們知道正則表達式最終需要轉換成自動機才能用來匹配字符串,我實現的正則通過如下幾個步驟把正則表達式轉換成自動機:

            正則表達式->Parse成AST->生成邊(字符)集合->生成NFA->NFA subset construction->轉換成DFA->DFA minimization

            最后用DFA minimization之后構造的自動機來匹配字符串。

             

            正則語法的分析

            一個正則表達式寫出來,要讓這個正則表達式匹配字符串等操作之前,我們先需要從正則表達式中提取需要的信息并在正則語法錯誤的時候提示錯誤,這個過程自然少不了parser。一個parser通常是從一個lexer里面獲取一個token,而正則表達式的token都是字符,那么lexer不需要做任何的分詞操作,只需要簡單的把字符返回給parser即可。

            那三種基本的正則語法對應的BNF為:

            re ::= alter
            re_base ::= char | char_range | '(' re ')'
            alter ::= alter_base alter_end
            alter_base ::= concat
            alter_end ::= '|' alter_base alter_end | epsilon
            concat ::= concat_base concat_end
            concat_base ::= re_base | closure
            concat_end ::= concat_base concat_end | epsilon
            closure ::= re_base '*'

            這個parser分析了正則表達式之后產生AST,AST的node類型為:

            class ASTNode
            {
            public:
                ACCEPT_VISITOR() = 0;
                virtual ~ASTNode() { }
            };
             
            class CharNode : public ASTNode
            {
            public:
                explicit CharNode(int c) : c_(c) { }
             
                ACCEPT_VISITOR();
             
                int c_;
            };
             
            class CharRangeNode : public ASTNode
            {
            public:
                struct Range
                {
                    int first_;
                    int last_;

                    explicit Range(int first = 0, int last = 0)
                        : first_(first), last_(last)
                    {
                    }
                };

                CharRangeNode() { }

                void AddRange(int first, int last)
                {
                    ranges_.push_back(Range(first, last));
                }
             
                void AddChar(int c)
                {
                    chars_.push_back(c);
                }
             
                ACCEPT_VISITOR();
             
                std::vector<Range> ranges_;
                std::vector<int> chars_;
            };
             
            class ConcatenationNode : public ASTNode
            {
            public:
                void AddNode(std::unique_ptr<ASTNode> node)
                {
                    nodes_.push_back(std::move(node));
                }
             
                ACCEPT_VISITOR();
             
                std::vector<std::unique_ptr<ASTNode>> nodes_;
            };
             
            class AlternationNode : public ASTNode
            {
            public:
                void AddNode(std::unique_ptr<ASTNode> node)
                {
                    nodes_.push_back(std::move(node));
                }
             
                ACCEPT_VISITOR();
             
                std::vector<std::unique_ptr<ASTNode>> nodes_;
            };
             
            class ClosureNode : public ASTNode
            {
            public:
                explicit ClosureNode(std::unique_ptr<ASTNode> node)
                    : node_(std::move(node))
            {
                }
             
                ACCEPT_VISITOR();
             
                std::unique_ptr<ASTNode> node_;
            };

            其中ASTNode作為AST的基類,并提供接口實現Visitor模式訪問ASTNode類型。

             

            字符(邊)集的構造

            AST構造好了之后,需要把AST轉換成NFA。語法中有[a-zA-Z0-9]這種字符區間表示法,我們可以用最簡單原始的方法轉換,就是把區間中的每個字符都轉化成相應的一條邊(NFA中的邊),這樣一來會導致字符區間越大,對應邊的數量會越多,使得對應的NFA也越大。因此,我們需要構造區間字符集合來減少邊的數量。

            比如正則表達式是:a[x-z]|[a-z]*e

            那么我們希望對應的字符集合是這樣:[a-a] [b-d] [e-e] [f-w] [x-z]

            這需要構造一個字符集,每次插入一個區間的時候,把新插入的區間與已存在的區間進行分割,初始時已存在的區間集為空,那么正則表達式a[x-z]|[a-z]*e的劃分步驟如下:

            已存在區間集合{},插入[a-a],得到{[a-a]}

            已存在區間集合{[a-a]},插入[x-z],得到{[a-a], [x-z]}

            已存在區間集合{[a-a], [x-z]},插入[a-z],得到{[a-a], [b-w], [x-z]}

            已存在區間集合{[a-a], [b-w], [x-z]},插入[e-e],得到{[a-a], [b-d], [e-e], [f-w], [x-z]}

            這個區間構造完成了之后,還需要在后面轉換成NFA邊的時候,根據字符區間查詢出在這個集合中,由哪幾個區間構成,比如:

            查詢區間[a-a],得到[a-a]

            查詢區間[x-z],得到[x-z]

            查詢區間[a-z],得到區間[a-a] [b-d] [e-e] [f-w] [x-z]

            在轉換成NFA時,集合中的每個區間都對應一條邊,這樣相對于每個字符對應一條邊,邊的數量不會太多。

            有了這么一個集合構造的類之后,把正則的AST中的字符信息提取出來構造出這么個集合即可,這樣只需要寫個visitor就完成了:

            class EdgeSetConstructorVisitor : public Visitor
            {
            public:
                explicit EdgeSetConstructorVisitor(EdgeSet *edge_set)
                    : edge_set_(edge_set)
                {
                }
             
                EdgeSetConstructorVisitor(const EdgeSetConstructorVisitor &) = delete;
                void operator = (const EdgeSetConstructorVisitor &) = delete;
             
                VISIT_NODE(CharNode);
                VISIT_NODE(CharRangeNode);
                VISIT_NODE(ConcatenationNode);
                VISIT_NODE(AlternationNode);
                VISIT_NODE(ClosureNode);

            private:
                EdgeSet *edge_set_;
            };

            邊集合構造完成之后,下一步就是生成NFA了。

            posted on 2013-07-05 13:30 airtrack 閱讀(4420) 評論(3)  編輯 收藏 引用

            FeedBack:
            # re: 正則表達式實現(一) 2013-07-05 23:31 陳梓瀚(vczh)
            # re: 正則表達式實現(一) 2013-07-06 01:34 airtrack
            @陳梓瀚(vczh)
            哈哈,早知道陳祖寫過正則引擎的系列文章,一直沒看,是想在我自己思考之后如果遇到問題的時候再看,啊哈哈。  回復  更多評論
              
            # re: 正則表達式實現(一) 2013-07-06 20:13 溪流
            學習了  回復  更多評論
              
            亚洲国产成人久久综合一| 7777精品伊人久久久大香线蕉| 怡红院日本一道日本久久| 伊人久久综在合线亚洲2019 | 久久精品亚洲男人的天堂| 久久综合伊人77777| 热re99久久精品国99热| 狠狠精品久久久无码中文字幕 | 97久久超碰国产精品旧版| 66精品综合久久久久久久| 久久精品aⅴ无码中文字字幕不卡| 无码国内精品久久人妻蜜桃| A级毛片无码久久精品免费| 精品国产日韩久久亚洲| 热99re久久国超精品首页| 久久亚洲精品国产亚洲老地址| 久久精品一区二区国产| 久久久久久精品成人免费图片| 51久久夜色精品国产| 久久精品蜜芽亚洲国产AV| 久久人人爽人人爽人人爽| 久久久久女教师免费一区| 精品久久久久久久| 国产亚洲色婷婷久久99精品| 久久无码国产专区精品| 日韩va亚洲va欧美va久久| 久久精品亚洲乱码伦伦中文| 国内精品久久久久| 国产91色综合久久免费分享| 久久天天躁狠狠躁夜夜网站| 亚洲香蕉网久久综合影视 | 久久香蕉综合色一综合色88| 99久久无色码中文字幕人妻| 久久精品国产精品亚洲| 成人亚洲欧美久久久久| 91久久精品视频| 品成人欧美大片久久国产欧美| 91精品国产高清91久久久久久| 久久精品天天中文字幕人妻| 久久精品国产精品亚洲毛片| 精品久久8x国产免费观看|