青青草原综合久久大伊人导航_色综合久久天天综合_日日噜噜夜夜狠狠久久丁香五月_热久久这里只有精品

posts - 7,  comments - 64,  trackbacks - 0

我現(xiàn)在需要統(tǒng)計一篇文章中的單詞數(shù)量,并排序輸出。
格式

單詞1 500
單詞2 499
單詞3 300
.....
...
..
.

現(xiàn)在的思路是
第一步:先將單詞讀入到map<string,size_t> ssmap;當(dāng)中;這樣每次掃描到一個新單詞后都可以++ssmap[str];來統(tǒng)計單詞數(shù);
第二步:將map中的內(nèi)容拷貝到vector<pair<string*,size_t> > vec;當(dāng)中,之后對vec用sort進行排序。(之所以要用string*是因為不希望發(fā)生string的拷貝構(gòu)造,以免浪費時間)。
第三步:將vec輸出。

試驗了一下上述方法可以正確執(zhí)行。
但我想應(yīng)該有更快的方法,請各位賜教一下!


呵呵,謝謝大家這么積極。

字符串長度沒有限制,這個從一個分詞程序?qū)ξ恼逻M行分詞處理以后的結(jié)果。單詞可能是“的,了”這種單個字,也可能是“中華人民共和國”這種字符串。還有可能遇到像“\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\\...(n個)”這種比較變態(tài)的符號。

posted on 2009-09-03 16:05 HIT@ME 閱讀(2026) 評論(16)  編輯 收藏 引用

FeedBack:
# re: 有沒有更快的辦法來統(tǒng)計一篇文章中的詞組數(shù)量并排序輸出(挑戰(zhàn)速度)![未登錄]
2009-09-03 16:20 | foxriver
map查找已經(jīng)足夠快了。你看看是不是單詞多,排序浪費了太多的時間。可以修改成radix sort, 加快速度。不過可能會有點難度,你要把string轉(zhuǎn)換成int,還用到多重排序。

個人測試大規(guī)模數(shù)據(jù),速度還能接受。貼點逼人的簡陋代碼,僅供參考,核心算法見:http://www.codercorner.com/RadixSortRevisited.htm

class vector_string : public vector<string>
{
public:
vector_string()
{
}
~vector_string()
{
}

public:
void sort(vector<int>* r_offsetset = 0)
{
vector<string> swaplist;
swaplist.resize(_Num);

vector<uint> sorttable1;
vector<uint> sorttable2;
vector<uint> sorttable3;

sorttable1.resize(_Num);
sorttable2.resize(_Num);
sorttable3.resize(_Num);

int i;
for (i=0;i<_Num;i++)
{
const string& str = _First[i];
uint b;
int n;

b = 0;
for (n=0;n<4 && n<str.size();n++)
{
if (n == 0) b |= (str[n] << 24) & 0xff000000;
if (n == 1) b |= (str[n] << 16) & 0x00ff0000;
if (n == 2) b |= (str[n] << 8) & 0x0000ff00;
if (n == 3) b |= (str[n]) & 0x000000ff;
}
sorttable1[i] = b;

b = 0;
for (n=4;n<8 && n<str.size();n++)
{
if (n == 4) b |= (str[n] << 24) & 0xff000000;
if (n == 5) b |= (str[n] << 16) & 0x00ff0000;
if (n == 6) b |= (str[n] << 8) & 0x0000ff00;
if (n == 7) b |= (str[n]) & 0x000000ff;
}
sorttable2[i] = b;

b = 0;
for (n=8;n<12 && n<str.size();n++)
{
if (n == 8) b |= (str[n] << 24) & 0xff000000;
if (n == 9) b |= (str[n] << 16) & 0x00ff0000;
if (n == 10) b |= (str[n] << 8) & 0x0000ff00;
if (n == 11) b |= (str[n]) & 0x000000ff;
}
sorttable3[i] = b;
}

radixsort_t radix;
uint* sorted = radix.Sort((uint*)&sorttable3[0], sorttable3.size(), false).Sort((uint*)&sorttable2[0], sorttable2.size(), false).Sort((uint*)&sorttable1[0], sorttable1.size(), false).GetIndices();

resort(sorted, 0, _Num, swaplist);
if (r_offsetset) r_offsetset->resort(sorted, 0, _Num);

// ------- 2 ------
vector<uint> swaptable;
swaptable.resize(_Num);

for (i=0;i<_Num;i++) swaptable[i] = sorttable1[i];
for (i=0;i<_Num;i++) sorttable1[i] = swaptable[sorted[i]];

for (i=0;i<_Num;i++) swaptable[i] = sorttable2[i];
for (i=0;i<_Num;i++) sorttable2[i] = swaptable[sorted[i]];

for (i=0;i<_Num;i++) swaptable[i] = sorttable3[i];
for (i=0;i<_Num;i++) sorttable3[i] = swaptable[sorted[i]];

// 測試 程序 文字 1
// 測試 程序 文字
// 測試 程序 文比
uint tab1 = 0xFFFFFFFF;
uint tab2 = 0xFFFFFFFF;
uint tab3 = 0xFFFFFFFF;

int samecount = 0;
for (i=0;i<_Num;i++)
{
if (tab1 == sorttable1[i] && tab2 == sorttable2[i] && tab3 == sorttable3[i])
{
samecount++;
continue;
}

if (samecount)
{
int start = i - samecount-1;
int total = samecount + 1;

bool exactsame = true;
for (int n=start+1;n<start+total;n++)
{
if (_First[n-1] != _First[n])
{
exactsame = false;
break;
}
}

if (exactsame == false)
{
quicksort_t::sort((int*)sorted, _First+start, total, _cmp);
resort(sorted, start, total, swaplist);
if (r_offsetset) r_offsetset->resort(sorted, start, total);
}
}

tab1 = sorttable1[i];
tab2 = sorttable2[i];
tab3 = sorttable3[i];
samecount = 0;
}

if (samecount)
{
int start = i - samecount-1;
int total = samecount + 1;

quicksort_t::sort((int*)sorted, _First+start, total, _cmp);
resort(sorted, start, total, swaplist);
if (r_offsetset) r_offsetset->resort(sorted, start, total);
}
}

protected:
void resort(const uint* r_sorted, int r_offset, int r_num, vector<string>& r_swaplist)
{
int i;
for (i=0;i<r_num;i++) r_swaplist[i].swap(_First[r_sorted[i]+r_offset]);
for (i=0;i<r_num;i++) _First[i+r_offset].swap(r_swaplist[i]);
}
};

  回復(fù)  更多評論
  
# re: 有沒有更快的辦法來統(tǒng)計一篇文章中的詞組數(shù)量并排序輸出(挑戰(zhàn)速度)![未登錄]
2009-09-03 16:32 | foxriver
如果你用的是標(biāo)準(zhǔn)的new,stl的string會頻繁調(diào)用也耗費不少時間。可以改用id software的那個idHeap,官網(wǎng)quake4 sdk里就有,速度號稱是vc版本的N倍。

當(dāng)然,前提必須是單線程。  回復(fù)  更多評論
  
# re: 有沒有更快的辦法來統(tǒng)計一篇文章中的詞組數(shù)量并排序輸出(挑戰(zhàn)速度)!
2009-09-03 16:38 | Vincent
今年的astar就有一道牽扯到這個的題目.
樓主的做法應(yīng)該就是利用hash表統(tǒng)計吧..
我提出另外一個做法用trie樹..  回復(fù)  更多評論
  
# re: 有沒有更快的辦法來統(tǒng)計一篇文章中的詞組數(shù)量并排序輸出(挑戰(zhàn)速度)![未登錄]
2009-09-03 16:42 | foxriver
樓主應(yīng)該不是hash表,是rt樹,不過兩者速度也差不多了,沒什么可優(yōu)化的地方。hash只有在數(shù)據(jù)相當(dāng)大的情況下(>1000萬條),才會有明顯優(yōu)勢。  回復(fù)  更多評論
  
# re: 有沒有更快的辦法來統(tǒng)計一篇文章中的詞組數(shù)量并排序輸出(挑戰(zhàn)速度)!
2009-09-03 16:46 | Vincent
哦..呵呵..我不太清楚rt樹是什么..
而且樓主說的這個還是太籠統(tǒng)..
比如單詞字符串的長度上限等等.
不同的條件下不同的方法有著不同的效率..

hash的話,就想到一個比較出名的elfhash..  回復(fù)  更多評論
  
# re: 有沒有更快的辦法來統(tǒng)計一篇文章中的詞組數(shù)量并排序輸出(挑戰(zhàn)速度)![未登錄]
2009-09-03 16:46 | foxriver
暈死,打錯字了,是RB-TREE.  回復(fù)  更多評論
  
# re: 有沒有更快的辦法來統(tǒng)計一篇文章中的詞組數(shù)量并排序輸出(挑戰(zhàn)速度)!
2009-09-03 16:48 | Vincent
紅黑樹啊..
呵呵...個人覺得只要能設(shè)計出合理的hash還是hash更快些吧..  回復(fù)  更多評論
  
# re: 有沒有更快的辦法來統(tǒng)計一篇文章中的詞組數(shù)量并排序輸出(挑戰(zhàn)速度)![未登錄]
2009-09-03 16:49 | foxriver
我喜歡用BKDR Hash Function,簡單方便,散布率對本人而言,已經(jīng)相當(dāng)滿意了。  回復(fù)  更多評論
  
# re: 有沒有更快的辦法來統(tǒng)計一篇文章中的詞組數(shù)量并排序輸出(挑戰(zhàn)速度)!
2009-09-03 16:51 | Vincent
慚愧啊..事實上我只會寫elfhash...  回復(fù)  更多評論
  
# re: 有沒有更快的辦法來統(tǒng)計一篇文章中的詞組數(shù)量并排序輸出(挑戰(zhàn)速度)![未登錄]
2009-09-03 16:53 | foxriver
"個人覺得只要能設(shè)計出合理的hash還是hash更快些吧", 嚴(yán)重同意!不過對于樓主來說,寫一個hash查找來替換std::map挺費時間的,內(nèi)存管理上弄不好的話,效率和穩(wěn)定性會下降,說不定還沒人家stl的快,所以不是很推薦呢。  回復(fù)  更多評論
  
# re: 有沒有更快的辦法來統(tǒng)計一篇文章中的詞組數(shù)量并排序輸出(挑戰(zhàn)速度)!
2009-09-03 16:56 | Vincent
^_^stl王道  回復(fù)  更多評論
  
# re: 有沒有更快的辦法來統(tǒng)計一篇文章中的詞組數(shù)量并排序輸出(挑戰(zhàn)速度)!
2009-09-03 23:00 | wcdj
用Unix or Linux下的使用程序 sort wc 是相當(dāng)?shù)目?nbsp; 回復(fù)  更多評論
  
# re: 有沒有更快的辦法來統(tǒng)計一篇文章中的詞組數(shù)量并排序輸出(挑戰(zhàn)速度)![未登錄]
2009-09-03 23:26 | dskit
map的底層用紅黑樹實現(xiàn),
可以用trie樹,但是有中文,還有其他符號,好像就不好處理了  回復(fù)  更多評論
  
# re: 有沒有更快的辦法來統(tǒng)計一篇文章中的詞組數(shù)量并排序輸出(挑戰(zhàn)速度)!
2009-09-03 23:46 | gbb
這個不是標(biāo)準(zhǔn)的mapreduce樣例么?  回復(fù)  更多評論
  
# re: 有沒有更快的辦法來統(tǒng)計一篇文章中的詞組數(shù)量并排序輸出(挑戰(zhàn)速度)!
2009-09-04 14:30 | 凡客誠品
不錯哦  回復(fù)  更多評論
  
# re: 有沒有更快的辦法來統(tǒng)計一篇文章中的詞組數(shù)量并排序輸出(挑戰(zhàn)速度)!
2009-09-06 23:19 | 唐風(fēng)
std::map
本身不就是排序的嗎?為什么還要倒到vector里排?不解  回復(fù)  更多評論
  

只有注冊用戶登錄后才能發(fā)表評論。
網(wǎng)站導(dǎo)航: 博客園   IT新聞   BlogJava   博問   Chat2DB   管理


<2009年9月>
303112345
6789101112
13141516171819
20212223242526
27282930123
45678910

常用鏈接

留言簿(5)

隨筆檔案

test

搜索

  •  

最新評論

閱讀排行榜

評論排行榜

青青草原综合久久大伊人导航_色综合久久天天综合_日日噜噜夜夜狠狠久久丁香五月_热久久这里只有精品
  • <ins id="pjuwb"></ins>
    <blockquote id="pjuwb"><pre id="pjuwb"></pre></blockquote>
    <noscript id="pjuwb"></noscript>
          <sup id="pjuwb"><pre id="pjuwb"></pre></sup>
            <dd id="pjuwb"></dd>
            <abbr id="pjuwb"></abbr>
            国产精品一区二区在线观看| 夜夜嗨av一区二区三区四区 | 国产精品久久久久久影视| 先锋影音国产精品| 亚洲成人在线免费| 浪潮色综合久久天堂| 亚洲精品久久久蜜桃| 欧美在线观看视频| 亚洲精品在线视频| 欧美jizzhd精品欧美巨大免费| 亚洲一区二区毛片| 亚洲三级免费电影| 狠狠色丁香久久婷婷综合丁香 | 亚洲激情不卡| 国产精品视频成人| 欧美精品在欧美一区二区少妇| 免费成人小视频| 亚洲女同精品视频| 日韩视频免费观看| 亚洲第一精品久久忘忧草社区| 国产亚洲欧美激情| 国产一区二区日韩精品| 久热国产精品视频| 久久综合伊人77777尤物| 性欧美18~19sex高清播放| 中文一区字幕| 亚洲一卡二卡三卡四卡五卡| 亚洲婷婷综合色高清在线| 亚洲电影免费观看高清| 欧美成人资源网| 美女免费视频一区| 久久精品综合一区| 麻豆freexxxx性91精品| 久久米奇亚洲| 久久综合久久综合这里只有精品 | 一区一区视频| 一区二区三区在线视频观看| 狠狠色伊人亚洲综合网站色| 国产一区二区久久久| 久久久久久亚洲精品杨幂换脸| 亚洲人成毛片在线播放| 国产日韩专区在线| 日韩亚洲成人av在线| 欧美激情精品久久久久久久变态 | 亚洲国产成人在线视频| 亚洲国产导航| 亚洲免费中文| 欧美亚洲自偷自偷| 男人的天堂亚洲| 亚洲人成高清| 欧美专区日韩专区| 欧美视频二区| 国产一区二区三区丝袜 | 欧美一级黄色录像| 亚洲激情视频网| 亚洲欧洲一区二区三区| 中文精品视频| 亚洲欧美日韩电影| 久久精品91| 欧美成人福利视频| 亚洲人成在线播放| 亚洲一区二区三区四区五区黄 | 伊人久久综合| 夜夜嗨av一区二区三区四区 | 亚洲日本黄色| 日韩视频永久免费观看| 亚洲影院色在线观看免费| 欧美亚洲一级片| 亚洲一区二区在| 91久久在线播放| 亚洲一区二区三区涩| 噜噜噜躁狠狠躁狠狠精品视频| 欧美日韩一区二区三区视频| 国产综合自拍| 午夜视频在线观看一区二区| 妖精成人www高清在线观看| 国产在线精品成人一区二区三区| 国产亚洲午夜| 欧美日韩国产成人高清视频| 国产亚洲激情在线| 亚洲视频欧美视频| 鲁鲁狠狠狠7777一区二区| 亚洲精品之草原avav久久| 欧美一区二区网站| 久久av老司机精品网站导航| 欧美日韩亚洲视频一区| 亚洲欧洲一区二区天堂久久 | 久久久青草青青国产亚洲免观| 亚洲综合激情| 欧美第一黄网免费网站| 午夜精品成人在线视频| 欧美电影免费观看高清| 国产精品成人一区二区三区夜夜夜| 国产自产女人91一区在线观看| 国产自产2019最新不卡| 亚洲在线视频| 一区二区三区偷拍| 欧美激情一区二区久久久| 在线观看日韩精品| 另类亚洲自拍| 久久超碰97人人做人人爱| 午夜久久久久久| 国产噜噜噜噜噜久久久久久久久| 亚洲女同同性videoxma| 亚洲与欧洲av电影| 国产精品无人区| 小黄鸭精品aⅴ导航网站入口| 亚洲尤物精选| 亚洲精品欧洲| 欧美日韩高清在线| 一区二区三区波多野结衣在线观看| 91久久国产综合久久蜜月精品| 亚洲在线一区二区三区| 欧美三级在线视频| 亚洲一区久久久| 亚洲一区精品电影| 国产欧美日韩在线视频| 欧美有码在线观看视频| 久久精品国产99| 亚洲国产精品成人综合色在线婷婷| 久热re这里精品视频在线6| 久久亚洲欧美| 99综合在线| 亚洲第一福利视频| 欧美日韩在线视频首页| 久久狠狠婷婷| 欧美激情欧美狂野欧美精品| 国产精品99久久久久久有的能看| 99国产精品久久久久久久成人热| 久久香蕉国产线看观看网| 亚洲国产婷婷香蕉久久久久久| 在线精品福利| 欧美日韩亚洲一区二区三区在线观看| 狠狠色丁香久久婷婷综合丁香| 久久久国产一区二区| 国产精品美女久久久久久2018| 一区二区三区欧美在线| 亚洲香蕉伊综合在人在线视看| 欧美精品久久一区二区| 亚洲国产综合视频在线观看| 亚洲国产精品激情在线观看| 久久久久久久91| 牛人盗摄一区二区三区视频| 在线免费观看日韩欧美| 女女同性精品视频| 亚洲精品永久免费精品| 中文av一区特黄| 国产精品高潮呻吟视频| 亚洲中字黄色| 久久久久久亚洲综合影院红桃| 国产一区二区三区久久悠悠色av| 午夜视频在线观看一区| 欧美中文在线观看| 国产亚洲一区二区精品| 久久久久久久精| 亚洲国产欧美日韩| 亚洲视频国产视频| 国产精品亚洲不卡a| 久久精品视频va| 欧美激情欧美激情在线五月| 日韩系列在线| 国产精品美女久久久久久久| 欧美亚洲综合网| 欧美高清一区二区| 亚洲视频在线视频| 国产日本欧美视频| 欧美成人精品福利| 亚洲欧美999| 欧美大香线蕉线伊人久久国产精品| 99ri日韩精品视频| 国产欧美在线视频| 欧美高清在线一区| 亚洲欧美在线网| 亚洲韩国精品一区| 午夜日韩激情| 亚洲理伦电影| 国产午夜久久久久| 欧美另类极品videosbest最新版本| 亚洲欧美国产不卡| 91久久国产综合久久| 久久久xxx| 亚洲一级网站| 尤物在线精品| 国产精品男人爽免费视频1| 免费人成网站在线观看欧美高清 | 亚洲一二三区视频在线观看| 免费在线观看一区二区| 亚洲一区二区三区在线看 | 日韩一级免费| 国内外成人免费激情在线视频网站 | 99在线精品观看| 欧美承认网站| 久久久蜜臀国产一区二区| 亚洲综合社区| 一本色道久久88亚洲综合88| 136国产福利精品导航网址| 欧美性开放视频| 久久精品91久久香蕉加勒比| 久久久人成影片一区二区三区| 欧美在线电影|