《電子技術應用》
您所在的位置:首頁 > 嵌入式技術 > 設計應用 > 基于機器學習的網絡媒體熱點話題 預測方法研究與實現
基于機器學習的網絡媒體熱點話題 預測方法研究與實現
2014年微型機與應用第15期
梁 野1,2,郭寧寧1,李碧萩1,李 超2,邢春曉2
1.北京外國語大學 計算機系2.清華大學 信息技術研究院
摘要: 針對目前互聯網“富信息化”現象,提出了基于機器學習的網絡熱點話題預測的思想。該思想通過總結能盡量準確描述熱點話題的一組特征,得到每篇新聞各自的特征向量,并針對大量近期已知是否熱門的隨機新聞樣本內容進行聚類處理。基于健壯精準的分類算法,利用支持向量機將向量映射到高維空間達到分類目的。在機器學習過程中,采用大量試驗的方法修改并完善特征向量的組成、度量及權重,最終達到準確作出熱點話題預測的目的。
Abstract:
Key words :

  摘  要: 針對目前互聯網“富信息化”現象,提出了基于機器學習的網絡熱點話題預測的思想。該思想通過總結能盡量準確描述熱點話題的一組特征,得到每篇新聞各自的特征向量,并針對大量近期已知是否熱門的隨機新聞樣本內容進行聚類處理。基于健壯精準的分類算法,利用支持向量機將向量映射到高維空間達到分類目的。在機器學習過程中,采用大量試驗的方法修改并完善特征向量的組成、度量及權重,最終達到準確作出熱點話題預測的目的。

  關鍵詞: 機器學習;網絡媒體;熱點話題;特征向量;分詞;預測

  互聯網信息發布的便利性使得大眾每天面對爆炸性增長的信息沖擊,大量文本及文本信息在豐富大眾生活的同時,也給用戶帶來了困擾。人們在獲取固定信息的同時,往往希望獲取特定領域的流行信息。為滿足人們的這種需求,互聯網新聞給出了相應的對策,如訂閱熱門話題、熱門新聞上首頁等措施。這些雖然在一定程度上解決了上述需求,但熱門信息的排序仍然需要人工手動添加完成,從時間成本和人工成本上來說都十分浪費,并且用戶也無法及時得到最新的熱門資訊。

  為此,本文提出了基于機器學習的網絡熱點話題預測方法,該方法可以有效地滿足互聯網用戶的上述需求,并幫助新聞工作者有效減少工作量。利用機器學習帶來的便利性,不僅可以快速分類出熱門新聞話題,并且可以做到按熱門排序,這樣既能方便用戶快速聚焦社會生活中的熱門話題,同時也能幫助網頁新聞工作者大量減少因為排序而帶來的簡單重復的工作量。

1 國內外發展現狀

  在國際上,熱門話題的發掘工作層出不窮。彭菲菲等人針對信息冗余等現象提出了資源整合方法,對熱點話題發現的關鍵技術做了一些改進[1];王巍等人針對Chen Kuan新聞報道側重點的變化提出了基于多中心模型的熱點話題發現算法[2];賴錦輝等人針對微博中孤立點較多的現象提出了消除孤立點的微博熱點話題發現方法,消除孤立點再用CURE算法聚類,效果較好,但僅針對特征明顯的微博進行研究[3];黃蕉平等人基于微博進行了負面新聞的早期預測研究工作,由于微博特有的轉發量、點贊數等多維度為其研究成果在其他領域的應用帶來了一定的局限性。除了以上學術界的相關工作研究,商業領域也存在許多熱點話題資訊系統,比如常用的谷歌手機軟件Google Currents2.0在最近的更新中就特別加入了Breaking Stories版塊。總結以上研究成果,國內外仍沒有很好的熱點話題預測研究,有的側重點在挖掘而不在預測,有的著眼于預測卻不具有很好的擴展性。

  本文提出一種實用性廣、可預測性強的熱點話題預測方法,總結出一組能盡量準確描述熱點話題特征,得到每篇新聞各自的特征向量,然后基于這組特征對大量近期隨機已知是否熱門的樣本新聞文本內容進行聚類處理,利用支持向量機對數據進行分類。由于機器學習是一個需要反復修改的過程,該方法的另一個研究重點就是在大量試驗中修改并完善特征向量的組成、度量以及權重,最終希望能達到準確作出熱點話題分類即預測的目的。

2 基于機器學習的熱點話題預測方法


001.jpg


  根據互聯網數據挖掘技術和已有的新聞話題預測模型,得到圖1所示的整體設計結構圖。該結構圖主要由數據挖掘器、特征提取器以及分類器3部分構成。

  從第三步訓練結果→支持→測試結果→反饋→特征提取器可以看出,該步驟是一個不斷循環的過程,目的在于根據測試結果不斷調整特征值,直到達到滿意的效果。

  由于步驟模塊化,該結構設計可應對多種不同需求的話題預測,支持不同新聞網站、不同類別下新聞預測以及熱點或非熱點的新聞話題預測。

  2.1 數據挖掘問題

  本節以CNN國際新聞網站為例,闡述新聞挖掘提取過程。該新聞網站每天有上萬條新聞,如何準確挖掘及提取4個關鍵屬性是數據挖掘器需要解決的主要問題。設計思路是將網站上的無數條鏈接看做一個樹狀結構,CNN主頁URL即為該樹狀結構的父節點。首先對每一層進行廣度優先遍歷,將獲取到的新聞鏈接存入隊列中,接著進行深度優先遍歷,直到獲取到數量足夠多的新聞為止。該方法的優點是挖掘到的新聞不會重復。針對每一個新聞鏈接,首先利用httpclient客戶端編程工具包提取網頁源代碼,通過HTML解析技術分別將新聞標題、作者、發布時間和正文4項要素提取出來,每提取一篇新聞即將4要素存入連接好的數據庫中,該表的格式設計如表1所示。

003.jpg

  2.2 特征提取問題

  2.2.1 關鍵詞模式匹配技術簡介

  模式(Schema)是指按照某種結構組織起來的多個元素的集合,模式匹配是指將兩個模式作為輸入,計算模式元素之間語義上的對應關系的過程[4]。本文中特征向量中的兩個元素——知名度和敏感度,需要計算新聞文章中出現的名人數或敏感詞的個數,為了實現這一計算,故選用模式匹配技術。由于熱點話題的特點,在新聞話題預測中不需要找出具體匹配位置。

  2.2.2 特征提取

  (1)知名度。建立名人庫[5],匹配新聞,若出現詞庫中人名則該特征記為1,否則記為0。

  famous=0(初始值)(1)

  (2)敏感度。建立敏感詞詞庫(如explosion,death等),新聞標題及內容中出現的敏感詞次數記為a,敏感詞庫總次數為b,定義敏感度為a/b(0-1)。

  Sensitivity=a/b(2)

  (3)文本長度。新聞正文長度過長或過短都會影響其熱度,首先設定該長度閾值為500,該值根據實驗測試結果不斷調整。

  Length=500(初始值)(3)

  (4)時效性。當前時間與發表時間求差,差值x以24為閾值。

  YGAR1RZAJG687@PKBB2BDPU.png

  (5)生動性。統計一篇新聞的形容詞個數m占整篇新聞詞數n的比例(0~1),比例高者權重高,新聞話題熱度更高。

  Vivid=m/n(5)

  2.3 分類器問題

  2.3.1支持向量機技術簡介

  支持向量機(Support Vector Machine)是Cortes和Vapnik于1995年首先提出的,它的原理是尋找一個最優的分類超平面,在保證精度的同時能夠使平面兩側的空白做到最大化,所以理論上來說支持向量機可以實現線性數據的最優分類[6]。上文提到的特征向量就是一組可分的線性數據,故選用支持向量機技術。

  2.3.2 機器學習技術簡介

  機器學習ML(Machine Learning)就是讓機器來模擬人類的學習功能,是一門研究怎樣用機器來模擬或實現人類學習活動的學科,要使計算機具有某種學習能力,就需要為其建立相應的學習系統。本文背景下的學習系統基本模型如圖2所示。

002.jpg

  其中,新聞信息為互聯網中實時更新的新聞內容;關鍵詞提取是將新聞內容等要素加工為知識的過程;知識庫則是用來存儲上一環節得到的知識;執行環節是利用知識庫中的知識完成分類的過程,并且把信息反饋給學習環節(關鍵詞提取),達到良性學習的目的。

  2.3.3 分類器原理

  將上節提取出的特征集拿出90%作為特征訓練集放入分類器中進行分類學習,分類器得到分類標準后將剩下的10%特征集用于測試訓練集,檢測分類標準的準確度及可信性。將結果反饋到特征提取器中,并不斷進行特征及權重的調整[7]。最終達到分類出熱點新聞和非熱點新聞的目的,即熱點新聞話題預測的目的。

  在當今信息爆炸的時代背景下,預測熱點新聞話題的工作具有十分重要的實際意義。根據目前已有的大量相關工作,提出由數據挖掘器、特征提取器和分類器3部分組成的熱點新聞話題預測模型,該模型通過機器學習的手段不斷進行特征及權重的調整,從而達到預測熱點話題的目的。這項工作的研究成果,不僅能引導用戶去關注社會和生活中的焦點話題,同時也能幫助網絡新聞工作者降低繁重重復的工作量,因此,它具有較為廣泛的適用性,并能創造一定的經濟效益和社會效益。

  參考文獻

  [1] 彭菲菲.網絡熱點話題發現的關鍵技術研究[D].北京:中國礦業大學(北京),2012.

  [2] 王巍,楊武,齊海鳳.基于多中心模型的網絡熱點話題發現算法[J].南京理工大學學報(自然科學版),2009,33(4):422-426.

  [3] 賴錦輝,梁松.一種消除孤立點的微博熱點話題發現方法[J].計算機應用與軟件,2014(1):105-137,139.

  [4] RAHM E, BERNSTEIN P A. A survey of approaches to automatic schema matching[J]. The VLDB Journal, 2001, 10(4): 334-350.

  [5] 馬子恩.熱點事件新聞語料庫的研制及詞匯研究[D].南京:南京師范大學,2012.

  [6] LI S, ZHAO J, SONG Z, et al. Study on topic tracking system based on SVM[C]. 2011 Fourth International Sym-

  posium on Knowledge Acquisition and Modeling(KAM), IEEE, 2011: 83-87.

  [7] ZHENG Y, LU R. An adaptive topic tracking method based on feedback stories[C]. International Symposium on Information Technology in Medicine and Education, 2012(2):1021-1025.


此內容為AET網站原創,未經授權禁止轉載。
亚洲一区二区欧美_亚洲丝袜一区_99re亚洲国产精品_日韩亚洲一区二区
亚洲第一页在线| 欧美一区二区三区男人的天堂| 国产精品mm| 欧美护士18xxxxhd| 看片网站欧美日韩| 久久九九精品| 久久精品亚洲乱码伦伦中文 | 久久精品一二三区| 欧美诱惑福利视频| 欧美在线观看一区二区| 午夜在线精品偷拍| 亚洲欧美国内爽妇网| 亚洲在线一区| 午夜日韩av| 小黄鸭精品aⅴ导航网站入口| 亚洲免费网址| 欧美一区在线直播| 久久岛国电影| 久久久久免费观看| 老司机午夜精品视频在线观看| 久久人人爽人人爽| 另类综合日韩欧美亚洲| 蜜臀av性久久久久蜜臀aⅴ| 欧美99久久| 欧美乱人伦中文字幕在线| 欧美片在线播放| 欧美日本精品一区二区三区| 欧美日韩亚洲天堂| 国产精品福利久久久| 国产日韩综合| 久久综合色综合88| 久久日韩粉嫩一区二区三区| 免费不卡在线观看av| 欧美激情1区| 欧美另类女人| 国产精品伦子伦免费视频| 国产欧美日韩精品a在线观看| 国产日韩亚洲欧美综合| 一区免费观看| 亚洲麻豆国产自偷在线| 亚洲一区二区三区精品视频| 午夜一级久久| 亚洲国产婷婷香蕉久久久久久99| 亚洲精品一区二区三区av| 99国产精品久久久久久久成人热| 亚洲一区不卡| 久久国产精彩视频| 暖暖成人免费视频| 国产精品theporn88| 国产亚洲成av人片在线观看桃| 精品av久久707| 99精品国产在热久久下载| 亚洲综合三区| 亚洲激情中文1区| 亚洲社区在线观看| 久久精品日产第一区二区| 欧美成人网在线| 国产精品久久久久久久久久免费| 精品91视频| 亚洲婷婷在线| 亚洲日韩欧美视频| 亚洲欧美成人综合| 美女诱惑一区| 国产精品成人aaaaa网站| 国模私拍一区二区三区| 亚洲三级免费| 欧美一区二区三区在线| 99综合视频| 久久久成人网| 欧美午夜久久| 激情久久婷婷| 亚洲欧美日韩精品综合在线观看| 亚洲日韩欧美视频一区| 午夜精品久久久久| 欧美国产视频一区二区| 国产热re99久久6国产精品| 亚洲欧洲精品一区| 欧美在线日韩精品| 亚洲在线成人精品| 欧美激情在线播放| 国内精品免费在线观看| 亚洲视频图片小说| 亚洲人成高清| 久久精品视频一| 国产精品成人一区| 亚洲国产精品成人精品| 欧美一二三区精品| 亚洲一区二区黄色| 欧美精品在线极品| 黑人操亚洲美女惩罚| 亚洲图片欧洲图片av| 日韩一级大片| 久久综合国产精品台湾中文娱乐网| 国产精品视频导航| 一区二区三区国产在线| 日韩视频在线免费观看| 久久野战av| 国产一区二区三区久久悠悠色av| 一本久道综合久久精品| 亚洲精品在线免费| 麻豆精品传媒视频| 狠狠色狠狠色综合系列| 欧美在线不卡视频| 欧美在线一级va免费观看| 国产精品mm| 一区二区三区免费网站| 99在线热播精品免费| 欧美成人午夜影院| 韩国美女久久| 欧美在线free| 久久精品中文| 国产一区成人| 午夜在线观看欧美| 亚洲欧美在线另类| 国产精品免费网站| 艳女tv在线观看国产一区| 99精品免费网| 欧美精品手机在线| 亚洲欧洲精品成人久久奇米网| 亚洲日本va午夜在线电影| 蜜桃久久精品一区二区| 影音先锋一区| 亚洲人成在线观看| 欧美国产日韩亚洲一区| 亚洲日本久久| 一区二区三区成人精品| 欧美日本中文字幕| 日韩视频第一页| 亚洲自拍偷拍麻豆| 国产精品人成在线观看免费| 亚洲一区二区在线播放| 午夜天堂精品久久久久| 国产目拍亚洲精品99久久精品 | 亚洲视频axxx| 亚洲欧美在线一区二区| 国产精品无码永久免费888| 亚洲欧美一区二区视频| 久久久久在线观看| 揄拍成人国产精品视频| 亚洲乱码精品一二三四区日韩在线| 欧美精品久久久久久久免费观看 | 久久国产精品99国产| 久久一本综合频道| 亚洲国产精品一区在线观看不卡| 日韩一级视频免费观看在线| 欧美日韩p片| 在线视频精品一| 性久久久久久| 激情综合电影网| 99视频精品全国免费| 国产精品成人国产乱一区| 午夜精彩视频在线观看不卡| 久久综合网络一区二区| 亚洲精品国产精品国自产在线| 亚洲深爱激情| 国产日韩精品一区二区三区在线| 久久激五月天综合精品| 欧美精品国产一区| 一区二区国产日产| 久久成人资源| 亚洲黑丝在线| 午夜精品久久久久久久99水蜜桃 | 久久精品女人| 欧美绝品在线观看成人午夜影视| 亚洲一级在线观看| 久久久久久久久久久久久女国产乱| 在线观看日韩av先锋影音电影院| 日韩一级精品视频在线观看| 国产精品一二三四| 亚洲国产精品一区二区第四页av| 欧美日韩精品免费观看视一区二区| 亚洲欧美伊人| 欧美超级免费视 在线| 亚洲美女诱惑| 久久久久国产精品一区二区| 亚洲激情在线观看| 欧美一区二区三区在线视频| 亚洲国产天堂久久国产91| 亚洲在线日韩| 亚洲成人自拍视频| 欧美亚洲一区| 在线成人h网| 亚洲欧美精品伊人久久| 影音先锋亚洲精品| 亚洲欧美在线免费观看| 亚洲高清在线观看一区| 欧美亚洲免费| 日韩一级在线观看| 美女久久一区| 亚洲一区二区三区视频播放| 免费国产一区二区| 亚洲欧美精品伊人久久| 欧美激情中文字幕在线| 欧美在线观看视频| 国产精品久久久免费| 亚洲日本黄色| 国产一区二区三区高清播放| 亚洲午夜精品一区二区| 亚洲国产欧美国产综合一区| 久久精品国产一区二区电影|