程序師世界是廣大編程愛好者互助、分享、學習的平台,程序師世界有你更精彩!
首頁
編程語言
C語言|JAVA編程
Python編程
網頁編程
ASP編程|PHP編程
JSP編程
數據庫知識
MYSQL數據庫|SqlServer數據庫
Oracle數據庫|DB2數據庫
 程式師世界 >> 編程語言 >> JAVA編程 >> JAVA綜合教程 >> Java讀取Level-1行情dbf文件極致優化(1),level-1dbf

Java讀取Level-1行情dbf文件極致優化(1),level-1dbf

編輯:JAVA綜合教程

Java讀取Level-1行情dbf文件極致優化(1),level-1dbf


最近架構一個項目,實現行情的接入和分發,需要達到極致的低時延特性,這對於證券系統是非常重要的。接入的行情源是可以配置,既可以是Level-1,也可以是Level-2或其他第三方的源。雖然Level-1行情沒有Level-2快,但是作為系統支持的行情源,我們還是需要優化它,使得從文件讀取,到用戶通過socket收到行情,端到端的時延盡可能的低。本文主要介紹對level-1行情dbf文件讀取的極致優化方案。相信對其他的dbf文件讀取應該也有借鑒意義。

 

Level-1行情是由行情小站,定時每隔幾秒把dbf文件(上海是show2003.dbf,深圳是sjshq.dbf)更新一遍,用新的行情替換掉舊的。我們的目標就是,在新文件完成更新後,在最短時間內將文件讀取到內存,把每一行轉化為對象,把每個列轉化為對應的數據類型。

 

我們一共采用了6種優化方式。

 

優化一:采用內存硬盤(RamDisk)

內存硬盤可以極大地提高文件的讀寫速度,level-1行情的讀寫是應用內存硬盤的絕好情況:

1,我們可以把行情小站的行情文件地址配置在內存硬盤上。這樣可以加速行情小站寫文件的速度。

2,本系統再從內存硬盤讀取,又可以加快讀取速度。

3,內存硬盤掉電後會丟失文件,這裡我們基本不在乎這個缺點,因為行情文件本來就是臨時的,如果有持久化的需要,大部分內存硬盤也支持持久化的功能。

 

Windows上有很多虛擬內存硬盤的軟件(本系統部署在windows服務器上,因為行情小站是在windows上的)。性能還是有差別的,我主要基於以下這篇文章《12 RAM Disk Software Benchmarked for Fastest Read and Write Speed》,自己再做了一點點測試,選擇了Bond Disc這個軟件。其地址是http://www.bonddisc.com/,使用挺簡單的,這裡就不詳細介紹了。

 

測試下來,采用RamDisk讀取並沒有比從普通的硬盤讀取快很多,可能是因為行情dbf文件本身就很小,只有1~2M,並且我們采用NIO形式的文件讀取本身就比較快。但是使用RamDisk還是很有意義的 --

1,由於行情小站直接把dbf文件寫入內存硬盤,可以加速不少。

2,如果在硬盤繁忙時,由於硬盤是串行的,采用內存硬盤在這種情況下可以避免瓶頸,保持穩定的讀取低時延。

 

優化二:采用JNotify,用通知替代輪詢

由於行情小站會不斷的更新行情dbf文件,我們的系統需要探測到一旦行情文件被更新,就立即讀取。傳統的策略是不斷輪詢行情文件的狀態,如果發現行情文件的最後修改日期(或者再加上文件大小)改變時,就認為文件被更新。但是這種方式既低效,時延又高且不穩定。假設即使把輪詢時間設置為10ms一次(這意味著1秒鐘就要輪詢100次), 平均時延也要5ms。

 

我們可以用通知來替代輪詢。這裡我們采用JNotify庫,這個庫的下載地址是:

http://jnotify.sourceforge.net/

JNotify庫支持Windows,Linux和MacOS,允許我們監視一個文件夾,當這個文件夾下的文件被增刪改時,發起回調通知。代碼示例如下:

public void addWatcher(String hangqingFolder, String hangqingFile) throws Exception {

        // watch mask, specify events you care about,
        // or JNotify.FILE_ANY for all events.
        int mask = // JNotify.FILE_CREATED |
                    // JNotify.FILE_DELETED |
                JNotify.FILE_MODIFIED; // 我們只需要注冊修改事件
        // JNotify.FILE_RENAMED;

        // watch subtree?
        boolean watchSubtree = false;

        // add actual watch

        watchId = JNotify.addWatch(hangqingFolder, mask, watchSubtree, new JNotifyListener() {

            public void fileRenamed(int wd, String rootPath, String oldName, String newName) {
                // do nothing.
            }

            public void fileModified(int wd, String rootPath, String name) {

                if (!hangqingFile.equalsIgnoreCase(name)) //如果是修改的其他文件,則忽略
                    return;
                
                readHangqingFile(hangqingFolder + File.separator + hangqingFile);

            }

            public void fileDeleted(int wd, String rootPath, String name) {
                // do nothing
            }

            public void fileCreated(int wd, String rootPath, String name) {
                // do nothing
            }
        });
    }

 

以上代碼:

1,我們只要監視文件修改,因此只要設置mask = JNotify.FILE_MODIFIED

2,不需要遞歸地監視子目錄,設置watchSubtree = false

3,由於監視的是文件夾,而不是文件,在fileModified方法中,我們要判斷修改的是不是我們關心的文件(即行情文件),如果不是,則忽略。如果是,就調用readHangqingFile開始讀取。

 

JNotify是基於操作系統API實現的,即使用JNI實現的,因此除了jar文件,還包含.dll文件和.so文件。用eclipse開發時,我們需要指定這些本地庫的目錄,如下圖所示:

 

部署時,需要將本地庫放在執行根目錄下,或者用-Djava.library.path=/native/library/path 指定本地庫的位置。

 

采用JNotify,用(基於操作系統的)通知而不是輪詢,可以非常快地發現文件被更新,根據測試時間<1ms (我覺得應該遠小於1ms,但是由於文件修改時間單位是毫秒,沒辦法更精確的測量)。

 

待續。。。

 

Binhua Liu原創文章,轉載請注明原地址http://www.cnblogs.com/Binhua-Liu/p/5609396.html

  1. 上一頁:
  2. 下一頁:
Copyright © 程式師世界 All Rights Reserved