青青草原综合久久大伊人导航_色综合久久天天综合_日日噜噜夜夜狠狠久久丁香五月_热久久这里只有精品

chenglong7997

字符串相似度算法介紹(整理)(轉)

最近在做這方面的應用,把我找到的資料貼出來,有需要的人可以參考參考。
1.編輯距離(Levenshtein Distance)
編輯距離就是用來計算從原串(s)轉換到目標串(t)所需要的最少的插入,刪除和替換
的數目,在NLP中應用比較廣泛,如一些評測方法中就用到了(wer,mWer等),同時也常用來計算你對原文本所作的改動數。編輯距離的算法是首先由俄國科學家Levenshtein提出的,故又叫Levenshtein Distance。
Levenshtein Distance算法可以看作動態規劃。它的思路就是從兩個字符串的左邊開始比較,記錄已經比較過的子串相似度(實際上叫做距離),然后進一步得到下一個 字符位置時的相似度。 用下面的例子: GUMBO和GAMBOL。當算到矩陣D[3,3]位置時,也就是當比較到GUM和GAM時,要從已經比較過的3對子串GU-GAM, GUM-GA和GU-GA之中選一個差別最小的來當它的值. 所以要從左上到右下構造矩陣。
編輯距離的偽算法:
整數 Levenshtein距離(字符 str1[1..lenStr1], 字符 str2[1..lenStr2])
   宣告 int d[0..lenStr1, 0..lenStr2]
   宣告 int i, j, cost
 
   對于 i 等于 由 0 至 lenStr1
       d[i, 0] := i
   對于 j 等于 由 0 至 lenStr2
       d[0, j] := j
   對于 i 等于 由 1 至 lenStr1
       對于 j 等于 由 1 至 lenStr2
           若 str1[i] = str2[j] 則 cost := 0
                                否則 cost := 1
           d[i, j] := 最小值(
                                d[i-1, j  ] + 1,     // 刪除
                                d[i  , j-1] + 1,     // 插入
                                d[i-1, j-1] + cost   // 替換
                            )
返回 d[lenStr1, lenStr2]

double Minimum(double a, double b, double c) 

 double mi; 
 
 mi = a; 
 if (b < mi) { 
  mi = b; 
 } 
 if (c < mi) { 
  mi = c; 
 } 
 return mi; 
}


int* GetCellPointer(int *pOrigin, int col, int row, int nCols) 

 return pOrigin + col + (row * (nCols + 1)); 
}

int GetAt(int *pOrigin, int col, int row, int nCols) 

 int *pCell; 
 
 pCell = GetCellPointer (pOrigin, col, row, nCols); 
 return *pCell; 
}

void PutAt(int *pOrigin, int col, int row, int nCols, double x) 

 int *pCell; 
 pCell = GetCellPointer (pOrigin, col, row, nCols); 
 *pCell = x; 
}

//編輯距離
LD(const char *s, const char *t)
{
 int *d; // pointer to matrix
 int n; // length of s
 int m; // length of t
 int i; // iterates through s
 int j; // iterates through t
 char s_i1; // ith character of s
 char s_i2; // ith character of s
 char t_j1; // jth character of t
 char t_j2; // jth character of t
 int *cost; // cost代價矩陣
 int result; // result
 int cell; // contents of target cell
 int above; // contents of cell immediately above
 int left; // contents of cell immediately to left
 int diag; // contents of cell immediately above and to left
 int sz; // number of cells in matrix

 // Step 1

 n = strlen (s);
 m = strlen (t);
 if (n == 0) 
 {
  return m;
 }
 if (m == 0) 
 {
  return n;
 }
 sz = (n+1) * (m+1) * sizeof (int);
 d = (int *) malloc (sz);
 cost = (int *) malloc (sz);

 // Step 2

 for (i = 0; i <= n; i++) 
 {
  PutAt (d, i, 0, n, i);
 }

 for (j = 0; j <= m; j++)
 {
  PutAt (d, 0, j, n, j);
 }
 for (int g=0;g<=m;g++)//把代價距離矩陣全部初始化為同一個值,以后可根據此值判斷相應的方格是否被賦過值
 {
  for(int h=0;h<=n;h++)
  {
   PutAt(cost,h,g,n,2);
  }
 }
 // Step 3

 for (i = 1; i <= n; i++) 
 {

  s_i1 = s[i-1];
  s_i2 = s[i];
  bool sbd=false;
  bool tbd=false;
  if(s_i1>=' '&&s_i1<='@'||s_i1>='A'&&s_i1<='~' )
  {//s為標點符號或其他非中文符號和數字
  sbd=true;
  }
  // Step 4

  for (j = 1; j <= m; j++) 
  {

   tbd=false;
   t_j1 = t[j-1];
   t_j2 = t[j];
   // Step 5
   if(t_j1>=' '&&t_j1<='@'||t_j1>='A'&&t_j1<='~' )
   {//t也為標點符號
    tbd=true;
   }
   if(!sbd)
   {//s為漢字
    if(!tbd)
    {//t也為漢字
     if (s_i1 == t_j1&&s_i2 == t_j2) 
     {
      bool tt=false;
      int temp=GetAt(cost,i,j,n);
      if(temp==2)
      {
       PutAt(cost,i,j,n,0);
       tt=true;
      }
      if(tt)
      {//因為st全市漢字,所以把代價矩陣他相鄰的未賦過值的三個格賦值
       int temp1=GetAt(cost,i+1,j,n);
       if(temp1==2)
       {
        PutAt(cost,i+1,j,n,0);
       }
       int temp2=GetAt(cost,i,j+1,n);
       if(temp2==2)
       {
        PutAt(cost,i,j+1,n,0);
       }
       int temp3=GetAt(cost,i+1,j+1,n);
       if(temp3==2)
       {
        PutAt(cost,i+1,j+1,n,0);
       }
      }
     }
     else 
     {
      bool tt=false;
      int temp=GetAt(cost,i,j,n);
      if(temp==2)
      {
       PutAt(cost,i,j,n,1);
       tt=true;
      }
      if(tt)
      {
       int temp1=GetAt(cost,i+1,j,n);
       if(temp1==2)
       {
        PutAt(cost,i+1,j,n,1);
       }
       int temp2=GetAt(cost,i,j+1,n);
       if(temp2==2)
       {
        PutAt(cost,i,j+1,n,1);
       }
       int temp3=GetAt(cost,i+1,j+1,n);
       if(temp3==2)
       {
        PutAt(cost,i+1,j+1,n,1);
       }
      }
     }
    }
    else
    {//t為符號
     bool tt=false;
     int temp=GetAt(cost,i,j,n);
     if(temp==2)
     {
      PutAt(cost,i,j,n,1);
      tt=true;
     }
     if(tt)
     {
      int temp1=GetAt(cost,i+1,j,n);
      if(temp1==2)
      {
       PutAt(cost,i+1,j,n,1);
      }
     }
    
    }

   }
   else
   {//s為符號
    if(!tbd)
    {//t為漢字 
     bool tt=false;
     int temp=GetAt(cost,i,j,n);
     if(temp==2)
     {
      PutAt(cost,i,j,n,1);
      tt=true;
     }
     if(tt)
     {
      int temp1=GetAt(cost,i,j+1,n);
      if(temp1==2)
      {
       PutAt(cost,i,j+1,n,1);
      }
     }
    }
    else
    {
     if(s_i1==t_j1)
     {
      int temp=GetAt(cost,i,j,n);
      if(temp==2)
      {
       PutAt(cost,i,j,n,0);
      }
     }
     else
     {
      int temp=GetAt(cost,i,j,n);
      if(temp==2)
      {
       PutAt(cost,i,j,n,1);
      }
     }
    }

   }

    // Step 6

   above = GetAt (d,i-1,j, n);
   left = GetAt (d,i, j-1, n);
   diag = GetAt (d, i-1,j-1, n);
   int curcost=GetAt(cost,i,j,n);
   cell = Minimum (above + 1, left + 1, diag + curcost);
   PutAt (d, i, j, n, cell);
  }
 }

  // Step 7

  result = GetAt (d, n, m, n);
  free (d);
  return result;

}

2.最長公共子串 (LCS)
LCS問題就是求兩個字符串最長公共子串的問題。解法就是用一個矩陣來記錄兩個字符
串中所有位置的兩個字符之間的匹配情況,若是匹配則為1,否則為0。然后求出對角線最長的1序列,其對應的位置就是最長匹配子串的位置.
下面是字符串21232523311324和字符串312123223445的匹配矩陣,前者為X方向的,
后者為Y方向的。不難找到,紅色部分是最長的匹配子串。通過查找位置我們得到最長的匹配子串為:21232
    0 0 0 1 0 0 0 1 1 0 0 1 0 0 0
  0 1 0 0 0 0 0 0 0 1 1 0 0 0 0
  1 0 1 0 1 0 1 0 0 0 0 0 1 0 0
  0 1 0 0 0 0 0 0 0 1 1 0 0 0 0
  1 0 1 0 1 0 1 0 0 0 0 0 1 0 0
  0 0 0 1 0 0 0 1 1 0 0 1 0 0 0
  1 0 1 0 1 0 1 0 0 0 0 0 1 0 0
  1 0 1 0 1 0 1 0 0 0 0 0 1 0 0
  0 0 0 1 0 0 0 1 1 0 0 1 0 0 0
  0 0 0 0 0 0 0 0 0 0 0 0 0 1 0
  0 0 0 0 0 0 0 0 0 0 0 0 0 1 0
  0 0 0 0 0 1 0 0 0 0 0 0 0 0 0 
  0 0 0 0 0 0 0 0 0 0 0 0 0 0 0
但是在0和1的矩陣中找最長的1對角線序列又要花去一定的時間。通過改進矩陣的生成方式和設置標記變量,可以省去這部分時間。下面是新的矩陣生成方式:
    0 0 0 1 0 0 0 1 1 0 0 1 0 0 0
  0 1 0 0 0 0 0 0 0 2 1 0 0 0 0
  1 0 2 0 1 0 1 0 0 0 0 0 1 0 0
  0 2 0 0 0 0 0 0 0 1 1 0 0 0 0
  1 0 3 0 1 0 1 0 0 0 0 0 1 0 0
  0 0 0 4 0 0 0 2 1 0 0 1 0 0 0
  1 0 1 0 5 0 1 0 0 0 0 0 2 0 0
  1 0 1 0 1 0 1 0 0 0 0 0 1 0 0
  0 0 0 2 0 0 0 2 1 0 0 1 0 0 0
  0 0 0 0 0 0 0 0 0 0 0 0 0 1 0
  0 0 0 0 0 0 0 0 0 0 0 0 0 1 0
  0 0 0 0 0 1 0 0 0 0 0 0 0 0 0
  0 0 0 0 0 0 0 0 0 0 0 0 0 0 0
當 字符匹配的時候,我們并不是簡單的給相應元素賦上1,而是賦上其左上角元素的值加一。我們用兩個標記變量來標記矩陣中值最大的元素的位置,在矩陣生成的過 程中來判斷當前生成的元素的值是不是最大的,據此來改變標記變量的值,那么到矩陣完成的時候,最長匹配子串的位置和長度就已經出來了。

//最長公共子串
char* LCS(char*left,char* right){
 int lenLeft,lenRight;
 lenLeft = strlen(left);
 lenRight = strlen(right);
 int *c = new int[lenRight];
 int start,end,len;
 end = len = 0;
 for(int i = 0; i < lenLeft; i++){
  for(int j = lenRight-1; j >= 0; j--){
   if(left[i] == right[j]){
    if(i == 0 || j == 0)
     c[j] = 1;
    else
     c[j] = c[j-1]+1;
   }
   else
    c[j] = 0;
   if(c[j] > len){
    len = c[j];
    end = j;
   }
  }
 }
 char *p = new char[len+1];
 start = end - len + 1;
 for(i = start; i <= end; i++)
  p[i - start] = right[i];
 p[len] = '/0';
 return p;
}
3. 余弦定理 (向量空間算法)
余弦定理古老而廣泛的數學概念,在各個學科及實踐中都得到了大量的應用,這里簡單的介紹下其在判斷兩個字符串相似度的應用。
在余弦定理中基本的公式為:

假如字符串s1與s2,比較兩個字符串的相似度,sim(s1,s2),假設s1,s2中含有n個不同的字符,其分別為c1,c2,...cn,判 斷字符串的相似度轉換為兩個字符串對應的向量v1,v2之間夾角大小的判斷,余弦值越大其向量之間的夾角越小,s1與S2的相似度越大。
向量空間算法的介紹:
在 向量空間模型中,文本泛指各種機器可讀的記錄。用D(Document)表示,特征項(Term,用t表示)是指出現在文檔D中且能夠代表該文檔內容的基 本語言單位,主要是由詞或者短語構成,文本可以用特征項集表示為D(T1,T2,…,Tn),其中Tk是特征項,1<=k<=N。例如一篇文 檔中有a、b、c、d四個特征項,那么這篇文檔就可以表示為D(a,b,c,d)。對含有n個特征項的文本而言,通常會給每個特征項賦予一定的權重表示其 重要程度。即D=D(T1,W1;T2,W2;…,Tn,Wn),簡記為D=D(W1,W2,…,Wn),我們把它叫做文本D的向量表示。其中Wk是Tk 的權重,1<=k<=N。在上面那個例子中,假設a、b、c、d的權重分別為30,20,20,10,那么該文本的向量表示為 D(30,20,20,10)。在向量空間模型中,兩個文本D1和D2之間的內容相關度Sim(D1,D2)常用向量之間夾角的余弦值表示,公式為:  

 
其中,W1k、W2k分別表示文本D1和D2第K個特征項的權值,1<=k<=N。我們可以利用類似的方法來計算兩個字符串的相關度。    
這個算法網上沒找到,雖然我寫過,但是沒什么通用性,就不貼出來。很簡單的,有興趣的可以自己寫一個。

posted on 2012-04-01 07:52 Snape 閱讀(651) 評論(0)  編輯 收藏 引用 所屬分類: C++ 轉載

導航

<2012年6月>
272829303112
3456789
10111213141516
17181920212223
24252627282930
1234567

統計

常用鏈接

留言簿

隨筆分類

隨筆檔案

文章分類

文章檔案

my

搜索

最新評論

閱讀排行榜

評論排行榜

青青草原综合久久大伊人导航_色综合久久天天综合_日日噜噜夜夜狠狠久久丁香五月_热久久这里只有精品
  • <ins id="pjuwb"></ins>
    <blockquote id="pjuwb"><pre id="pjuwb"></pre></blockquote>
    <noscript id="pjuwb"></noscript>
          <sup id="pjuwb"><pre id="pjuwb"></pre></sup>
            <dd id="pjuwb"></dd>
            <abbr id="pjuwb"></abbr>
            欧美国产欧美亚洲国产日韩mv天天看完整 | 亚洲激情一区二区三区| 欧美精品 日韩| 女生裸体视频一区二区三区| 六月丁香综合| 欧美日韩福利| 国产精品劲爆视频| 国产农村妇女精品一区二区| 一区二区三区久久网| 亚洲免费高清| 亚洲一区二区在线| 久久久中精品2020中文| 美女性感视频久久久| 欧美韩国在线| 国产日韩精品一区二区浪潮av| 国产一区二区精品久久99| 亚洲电影免费观看高清完整版| 亚洲人成77777在线观看网| 在线亚洲欧美视频| 久久xxxx精品视频| 亚洲第一福利视频| 亚洲人成久久| 久久精品av麻豆的观看方式| 欧美全黄视频| 国产主播喷水一区二区| 99精品国产99久久久久久福利| 久久本道综合色狠狠五月| 亚洲国产精品久久久久婷婷老年| 日韩视频二区| 美女视频黄a大片欧美| 国产精品家庭影院| 亚洲精品一品区二品区三品区| 欧美在线高清视频| 亚洲麻豆视频| 欧美14一18处毛片| 国模私拍视频一区| 亚洲欧美日韩在线不卡| 亚洲欧洲另类国产综合| 久久九九精品| 国产亚洲精品久久飘花| 亚洲午夜精品| 亚洲精品久久久久久久久久久久久 | 欧美一区三区三区高中清蜜桃| 久久人人超碰| 亚洲字幕一区二区| 欧美日韩激情小视频| 91久久久在线| 猛男gaygay欧美视频| 亚洲欧美日韩精品久久久久| 欧美日韩精品一区| 99国产精品视频免费观看| 欧美va日韩va| 久久综合国产精品| 在线成人免费视频| 另类综合日韩欧美亚洲| 久久成人久久爱| 狠狠噜噜久久| 久久综合久久久久88| 久久成人亚洲| 精品盗摄一区二区三区| 久久噜噜噜精品国产亚洲综合| 午夜久久福利| 经典三级久久| 亚洲精品色婷婷福利天堂| 蜜桃av噜噜一区二区三区| 久久精品亚洲热| 亚洲国产导航| 91久久在线播放| 欧美日韩精品三区| 亚洲自拍16p| 亚洲免费小视频| 国产久一道中文一区| 久久精品男女| 久久一区激情| 一本大道久久a久久精品综合| 亚洲毛片一区| 国产欧美日韩精品专区| 久久婷婷久久| 欧美国产日韩一区二区在线观看| 亚洲欧美国产精品桃花| 国产伦精品免费视频| 久热精品在线| 欧美日本国产在线| 亚洲欧美www| 久久久久国产精品一区三寸| 亚洲欧洲中文日韩久久av乱码| 亚洲免费不卡| 一区二区自拍| 一区二区高清在线观看| 韩国女主播一区| 日韩视频中文字幕| 黄色亚洲精品| 正在播放欧美一区| 尤物九九久久国产精品的分类| 亚洲欧洲日韩在线| 国产日韩精品在线观看| 亚洲国产第一页| 国产欧美一区二区精品忘忧草| 欧美高清在线一区二区| 国产精品久久久久久模特 | 蜜臀av国产精品久久久久| 榴莲视频成人在线观看| 亚洲欧美日韩另类精品一区二区三区 | 欧美精品久久久久久久免费观看 | 一本色道久久综合亚洲精品婷婷| 亚洲一区国产| 亚洲欧洲综合另类在线| 亚洲欧美伊人| 亚洲性感美女99在线| 久久综合一区二区| 久久精品国产99精品国产亚洲性色| 欧美激情a∨在线视频播放| 欧美中文在线观看| 国产精品v欧美精品v日本精品动漫| 美国成人毛片| 国产亚洲精品aa午夜观看| 日韩一级二级三级| 亚洲精品社区| 欧美wwwwww| 亚洲电影有码| 校园春色国产精品| 亚洲一区在线播放| 欧美精品一区二区高清在线观看| 久久天天狠狠| 国产一区99| 欧美亚洲尤物久久| 午夜在线精品偷拍| 国产精品高潮在线| 一区二区欧美亚洲| 中文在线资源观看视频网站免费不卡| 久久免费观看视频| 久久亚洲午夜电影| 国内精品久久久久影院优| 亚洲制服av| 欧美一区三区二区在线观看| 国产精品亚洲综合一区在线观看 | 亚洲欧美一区二区视频| 欧美一区二区成人| 国产日本欧美在线观看| 亚洲在线免费观看| 欧美一区二区日韩| 国产精品永久免费观看| 亚洲一级在线| 久久久久久噜噜噜久久久精品| 国产区二精品视| 久久都是精品| 欧美成人午夜激情| 99精品国产99久久久久久福利| 欧美日韩在线免费观看| 一区二区三区视频免费在线观看| 亚洲一区免费在线观看| 国产欧美午夜| 久久综合给合| 在线一区免费观看| 久久激情五月婷婷| 在线日韩日本国产亚洲| 欧美黄色网络| 亚洲午夜91| 蜜臀91精品一区二区三区| 日韩视频在线观看免费| 国产精品久久久久久久久久ktv| 亚洲免费伊人电影在线观看av| 久久久久久久综合| 91久久精品国产91性色| 欧美偷拍另类| 欧美在线观看天堂一区二区三区| 免费成人性网站| 亚洲四色影视在线观看| 国内精品久久久久久久果冻传媒| 欧美激情1区| 欧美一区二区三区在线看| 欧美韩日一区| 欧美一区二区日韩一区二区| 亚洲激情网站| 国产亚洲精品久久久久婷婷瑜伽| 欧美大尺度在线观看| 亚洲欧美怡红院| 亚洲美女在线看| 老司机精品导航| 亚洲欧美日韩系列| 亚洲精品乱码久久久久久蜜桃麻豆| 国产精品第2页| 欧美成人综合| 久久国产精品一区二区三区四区| 日韩网站在线观看| 麻豆免费精品视频| 欧美一区二区三区免费视| 亚洲精品欧美精品| 好看的av在线不卡观看| 国产精品免费在线| 国产精品99久久久久久www| 国产色综合久久| 欧美三日本三级三级在线播放| 久久久久久久久久久久久女国产乱 | 国内精品免费午夜毛片| 欧美视频在线观看一区| 免费观看成人鲁鲁鲁鲁鲁视频| 欧美亚洲色图校园春色| 亚洲色无码播放| 亚洲精品在线免费观看视频|