分布式聚類算法研究與應用.pdf

1、隨著信息技術的進步,數字圖書館的社會價值日益凸顯,數字圖書館的建設受到了眾多國家機構的高度重視。如何在現有資源的基礎之上挖掘數字圖書中的信息,改進基于內容的數字圖書檢索是數字圖書館研究的一個重要方面。
　　 本文主要研究了分布式聚類技術及在數字圖書館中的應用。
　　 數據規(guī)模同益增長的今天,大規(guī)模數據處理非常有挑戰(zhàn)性。許多并行算法已被提出,如基于MapReduce的分布式K-means聚類算法、分布式譜聚類算法等。近鄰傳

2、播AP聚類能克服K-means聚類算法的局限性,但是對海量數據的處理性能不高。為了有效實現海量數據聚類,利用相似度稀疏化以及層次采樣的方法,我們提出了兩個基于AP聚類改進的并行算法。在層次采樣的方法中先將數據點隨機劃分為規(guī)模相近的子集,并行地用AP聚類采樣各子集,然后融合各子集的采樣數據再次進行AP聚類,最終用產生的聚類代表為所有數據點指派聚類中心。在人工合成數據、人臉圖像數據、IRIS數據等數據集上的實驗表明,該算法對數據規(guī)模有很好的

3、適應性,在保持AP聚類效果的同時可有效縮減聚類時間。
　　 在研究了Hadoop中基于MapReduce的布式計算技術后,本文利用層次采樣的方法設計了基于MapReduce的分布式AP聚類算法--DisAP,并驗證了DisAP對數據規(guī)模的適應性。DisAP已應用到數字圖書館大規(guī)模數據挖掘與分析之中,我們設計了針對中草藥數字圖書的多媒體信息檢索框架。該框架首先利用圖像處理、特征抽取、關鍵詞提取等技術分析數字圖書的內容,然后利用爬蟲