<menu id="guoca"></menu>
<nav id="guoca"></nav><xmp id="guoca">
  • <xmp id="guoca">
  • <nav id="guoca"><code id="guoca"></code></nav>
  • <nav id="guoca"><code id="guoca"></code></nav>

    RedisJSON 橫空出世

    VSole2021-12-21 16:18:23

    近期官網給出了RedisJson(RedisSearch)的性能測試報告,可謂碾壓其他NoSQL,下面是核心的報告內容,先上結論:

    • 對于隔離寫入(isolated writes),RedisJSON 比 MongoDB 快 5.4 倍,比 ElasticSearch 快 200 倍以上。
    • 對于隔離讀取(isolated reads),RedisJSON 比 MongoDB 快 12.7 倍,比 ElasticSearch 快 500 倍以上。

    在混合工作負載場景中,實時更新不會影響 RedisJSON 的搜索和讀取性能,而 ElasticSearch 會受到影響。以下是具體的數據:

    • RedisJSON* 支持的操作數/秒比 MongoDB 高約 50 倍,比 ElasticSearch 高 7 倍/秒。
    • RedisJSON* 的延遲比 MongoDB 低約 90 倍,比 ElasticSearch 低 23.7 倍。

    此外,RedisJSON 的讀取、寫入和負載搜索延遲在更高的百分位數中遠比 ElasticSearch 和 MongoDB 穩定。當增加寫入比率時,RedisJSON 還能處理越來越高的整體吞吐量,而當寫入比率增加時,ElasticSearch 會降低它可以處理的整體吞吐量。

    查詢引擎

    如前所述,reresearch和RedisJSON的開發非常強調性能。對于每一個版本,我們都想確保開發者可以體驗到穩定和產品。為此,我們我們給出了一些分析工具、探測器來進行性能分析。

    并且,我們每次發行新版本時時,也在不斷的提升性能。特別是對于reresearch來說,2.2版本在加載和查詢性能上都比2.0快了1.7倍,同時還改進了吞吐量和數據加載的延遲。

    1.加載優化

    接下來的兩個圖顯示了運行紐約市出租車基準測試的運行結果。該基準測試測量了吞吐量和加載耗時等基礎數據。


    從這些圖表中可以看出,每一個reresearch的新版本都有一個實質性的性能改進。

    2.全文搜索優化

    為了評估搜索性能,我們索引了590萬篇維基百科摘要。然后我們運行一個全文搜索查詢面板,得到的結果如下圖所示


    從上面的圖可以看出,通過從v2.0遷移到v2.2,同樣的數據,在寫、讀、搜索(延遲圖)方面都有了大幅度的改進,從而提高了運行Search和JSON的可實現吞吐量。

    和其他框架的對比

    為了評估RedisJSON的性能,我們決定將它與MongoDB和ElasticSearch進行比較。為了方便對比,我們會從文檔存儲、本地可用、云中可用、專業支持和提供可伸縮性、性能等方面進行全方位的對比。

    我們使用了完善的YCSB標準來進行測試對比,它能夠基于常見的工作負載來評估不同的產品,測量延遲、吞吐量曲線直到飽和。除了CRUD YCSB操作之外,我們還添加了一個兩個字的搜索操作,專門幫助開發人員、系統架構師和DevOps從業者找到適合他們用例的最佳搜索引擎。

    1. 基準測試

    此次測試,我們使用了如下的一些軟件環境:

    • MongoDB v5.0.3
    • ElasticSearch 7.15
    • RedisJSON (RediSearch 2.2+RedisJSON 2.0)

    此次是在Amazon Web Services 實例上運行基準測試,這三種解決方案都是分布式數據庫,并且最常用于生產中的分布式方式。這就是為什么所有產品都使用相同的通用 m5d.8xlarge VM 和本地 SSD,并且每個設置由四個 VM 組成:一個客戶端 + 三個數據庫服務器。基準測試客戶端和數據庫服務器都在處于最佳網絡條件下的單獨 m5d.8xlarge 實例上運行,將實例緊密地打包在一個可用區內,實現穩態分析所需的低延遲和穩定的網絡性能。

    測試是在三節點集群上執行的,部署細節如下:

    • MongoDB 5.0.3:三成員副本集(Primary-Secondary-Secondary)。副本用于增加讀取容量并允許更低的延遲讀取。為了支持對字符串內容的文本搜索查詢,在搜索字段上創建了一個文本索引。
    • ElasticSearch 7.15:15 個分片設置,啟用查詢緩存,并為 2 個基于 NVMe 的本地 SSD 提供 RAID 0 陣列,以實現更高級別的文件系統相關彈性操作性能。這 15 個分片為我們為 Elastic 所做的所有分片變體提供了可實現的最佳性能結果。
    • RedisJSON*:RediSearch 2.2 and RedisJSON 2.0: OSS Redis Cluster v6.2.6,有27個分片,均勻分布在三個節點上,加載了RediSearch 2.2和RedisJSON 2.0 OSS模塊。

    除了這個主要的基準/性能分析場景之外,我們還在網絡、內存、CPU 和 I/O 上運行基準基準測試,以了解底層網絡和虛擬機特性。在整個基準測試集期間,網絡性能保持在帶寬和 PPS 的測量限制以下,以產生穩定穩定的超低延遲網絡傳輸(每個數據包 p99 < 100micros)。

    接下來,我們將從提供單獨的操作性能 [100% 寫入] 和 [100% 讀取] 開始,并以一組混合工作負載結束以模擬現實工作中的應用程序場景。

    2. 100% 寫入基準

    如下圖所示,該基準測試表明,RedisJSON* 的攝取速度比 ElasticSearch 快 8.8 倍,比 MongoDB 快 1.8 倍,同時保持每個操作的亞毫秒級延遲。值得注意的是,99% 的 Redis 請求在不到 1.5 毫秒的時間內完成。

    此外,RedisJSON* 是我們測試過的唯一一種在每次寫入時自動更新其索引的解決方案。這意味著任何后續的搜索查詢都會找到更新的文檔。ElasticSearch 沒有這種細粒度的容量;它將攝取的文檔放在一個內部隊列中,并且該隊列由服務器(不受客戶端控制)每 N 個文檔或每 M 秒刷新一次。他們稱這種方法為近實時 (NRT)。Apache Lucene 庫(它實現了 ElasticSearch 的全文功能)旨在快速搜索,但索引過程復雜且繁重。如這些 WRITE 基準測試圖表所示,由于這種“設計”限制,ElasticSearch 付出了巨大的代價。

    結合延遲和吞吐量改進,RedisJSON* 比 Mongodb 快 5.4 倍,比 ElasticSearch 快 200 倍以上,用于隔離寫入。



    3. 100% 讀取基準

    與寫類似,我們可以觀察到 Redis 在讀取方面表現最佳,允許讀取比 ElasticSearch 多 15.8 倍,比 MongoDB 多 2.8 倍,同時在整個延遲范圍內保持亞毫秒級延遲,如下表所示。

    在結合延遲和吞吐量改進時,RedisJSON* 比 MongoDB 快 12.7 倍,比 ElasticSearch 快 500 倍以上,用于隔離讀取。


    4. 混合讀/寫/搜索基準

    實際應用程序工作負載幾乎總是讀取、寫入和搜索查詢的混合。因此,在接近飽和時了解由此產生的混合工作負載吞吐量曲線更為重要。

    作為起點,我們考慮了 65% 搜索和 35% 讀取的場景,這代表了一個常見的現實世界場景,在該場景中,我們執行的搜索/查詢比直接讀取更多。65% 搜索、35% 讀取和 0% 更新的初始組合也導致 ElasticSearch 和 RedisJSON* 的吞吐量相等。盡管如此,YCSB 工作負載允許您指定搜索/讀取/更新之間的比率以滿足您的要求。

    “搜索性能”可以指不同類型的搜索,例如“匹配查詢搜索”、“分面搜索”、“模糊搜索”等等。我們所做的最初向 YCSB 增加的搜索工作負載僅專注于“匹配查詢搜索”,模仿分頁的兩詞查詢匹配,按數字字段排序。“匹配查詢搜索”是任何啟用搜索功能的供應商進行搜索分析的起點,因此,每個支持 YCSB 的數據庫/驅動程序都應該能夠在其基準驅動程序上輕松啟用此功能。

    在每個測試變體中,我們添加了 10% 的寫入,以按相同的比例混合和減少搜索和讀取百分比。這些測試變體的目標是了解每個產品如何處理數據的實時更新,我們認為這是事實上的架構目標,即寫入立即提交到索引,讀取始終是最新的。


    正如您在圖表中所看到的,在 RedisJSON* 上不斷更新數據和增加寫入比例不會影響讀取或搜索性能并提高整體吞吐量。對數據產生的更新越多,對 ElasticSearch 性能的影響就越大,最終導致讀取和搜索速度變慢。

    ElasticSearch 可實現的 ops/sec 從 0% 更新到 50% 的演變,我們注意到它在 0% 更新基準上以 10k Ops/sec 開始,并受到嚴重影響,減少了 5 倍的 ops/sec,在50% 更新率基準。

    與我們在上述單個操作基準中觀察到的類似,MongoDB 搜索性能比 RedisJSON* 和 ElasticSearch 慢兩個數量級,MongoDB 的最大總吞吐量為 424 ops/sec,而 RedisJSON* 為 16K 最大 ops/sec。

    最后,對于混合工作負載,RedisJSON* 支持的操作數/秒比 MongoDB 高 50.8 倍,比 ElasticSearch 高 7 倍。如果我們將分析集中在混合工作負載期間的每種操作類型的延遲上,與 MongoDB 相比,RedisJSON* 可將延遲降低多達 91 倍,與 ElasticSearch 相比,延遲降低 23.7 倍。

    5. 完整延遲分析

    與測量每個解決方案飽和之前產生的吞吐量曲線類似,在所有解決方案通用的可持續負載下進行完整的延遲分析也很重要。這將使您能夠了解對于所有已發布操作在延遲方面最穩定的解決方案是什么,以及哪種解決方案不易受到應用程序邏輯引發的延遲峰值的影響(例如,彈性查詢緩存未命中)。如果您想更深入地了解我們為什么要這樣做,Gil Tene 提供了延遲測量注意事項的深入概述。

    • 查看上一節的吞吐量圖表,并關注 10% 更新基準以包含所有三個操作,我們做了兩種不同的可持續負載變化:
    • 250 ops/sec:比較 MongoDB、ElasticSearch 和 RedisJSON*,低于 MongoDB 的壓力率。
    • 6000 ops/sec:比較 ElasticSearch 和 RedisJSON*,低于 ElasticSearch 壓力率。

    1 MongoDB 與 ElasticSearch 與 RedisJSON* 的延遲分析

    在下面的第一張圖片中,展示了從 p0 到 p9999 的百分位數,很明顯,在每次搜索時,MongoDB 的表現都遠遠優于 Elastic 和 RedisJSON*。此外,關注 ElasticSearch 與 RedisJSON*,很明顯,ElasticSearch 容易受到較高延遲的影響,這很可能是由垃圾收集 (GC) 觸發器或搜索查詢緩存未命中引起的。

    RedisJSON* 的 p99 低于 2.61 毫秒,而 ElasticSearch p999 搜索達到 10.28 毫秒。

    在下面的讀取和更新圖表中,我們可以看到 RedisJSON* 在所有延遲范圍內表現最佳,其次是 MongoDB 和 ElasticSearch。

    RedisJSON* 是在所有分析的延遲百分位數上保持亞毫秒級延遲的唯一解決方案。在 p99,RedisJSON* 的延遲為 0.23 毫秒,其次是 MongoDB 的 5.01 毫秒和 ElasticSearch 的 10.49 毫秒。

    在寫入時,MongoDB 和 RedisJSON* 即使在 p99 時也能保持亞毫秒級的延遲。另一方面,ElasticSearch 顯示出高尾延遲(> 10 毫秒),這很可能與導致 ElasticSearch 搜索峰值的原因 (GC) 相同。

    2. ElasticSearch 與 RedisJSON 的延遲分析

    僅關注 ElasticSearch 和 RedisJSON*,在保持 6K ops/sec 的可持續負載的同時,我們可以觀察到 Elastic 和 RedisJSON* 的讀取和更新模式與以 250 ops/sec 進行的分析保持一致。RedisJSON* 是更穩定的解決方案,其 p99 讀取時間為 3 毫秒,而 Elastic 的 p99 讀取時間為 162 毫秒。

    在更新時,RedisJSON* 保留了 3 毫秒的 p99,而 ElasticSearch 則保留了 167 毫秒的 p99。

    專注于搜索操作,ElasticSearch 和 RedisJSON* 以個位數 p50 延遲開始(p50 RedisJSON* 為 1.13 毫秒,而 ElasticSearch 的 p50 為 2.79 毫秒),其中 ElasticSearch 付出了 GC 觸發和查詢緩存未命中的代價在較高的百分位數上,在 >= p90 百分位數上清晰可見。

    RedisJSON* 將 p99 保持在 33 毫秒以下,而 ElasticSearch 上的 p99 百分位數為 163 毫秒,高出 5 倍。

    mongodbelasticsearch
    本作品采用《CC 協議》,轉載必須注明作者和本文鏈接
    WhatWeb可識別Web技術,包括指紋識別、內容管理系統(CMS)、博客平臺、統計/分析包、JavaScript庫、Web服務器和嵌入式設備。WhatWeb有超過1800個插件,每個插件都能識別不同的東西。WhatWeb還標識版本號,電子郵件地址,帳戶ID,Web框架模塊,SQL錯誤等。
    模糊測試探索者之路
    2021-07-03 16:58:01
    模糊測試探索者姜宇:由于分布式系統固有的復雜性,保障分布式系統安全充滿挑戰;模糊測試是具有良好擴展性、適用性以及高準確率的漏洞挖掘技術;模糊測試在分布式系統上的應用還存在局限性;解決高效模糊測試三大關鍵挑戰為國產數據庫軟件安全保駕護航。
    RedisJSON 橫空出世
    2021-12-21 16:18:23
    近期官網給出了RedisJson(RedisSearch)的性能測試報告,可謂碾壓其他NoSQL,下面是核心的報告內容,先上結論: 對于隔離寫入(isolated writes),RedisJSON 比 MongoDB 快 5.4 倍,比 ElasticSearch 快 200 倍以上。 對于隔離讀取(isolated reads),RedisJSON 比 MongoDB 快 12.7 倍,比
    直到去年,網絡犯罪分子還只是以個人和組織的計算機為目標,使用勒索軟件并扣押它們以獲取贖金,但隨后他們開始以全球范圍內未受保護的在線數據庫和服務器為目標,以獲取贖金。盡管MongoDB在互聯網上公開了超過47800臺服務器,暴露了25TB的數據,但Hadoop總共只有4487臺服務器,但暴露的數據量要高得多,超過5000TB。“
    在首次報告Meow攻擊后的一個多星期后,受影響的數據庫數量急劇增加。上周四,安全研究人員估計已經擦除1000多個數據庫,主要是ElasticSearchMongoDB。根據Shodan在ElasticSearch中搜索meow索引的結果,截至周四,共有5,983個被黑數據庫。7月27日,ElasticSearch在Twitter上提到該問題,并敦促用戶部署適當的安全設置來防止攻擊。該公司與一名道德黑客合作,該黑客對ElasticSearchMongoDB庫進行了整整一年的掃描,以尋找在公共互聯網上暴露的不受保護的數據庫。
    根據網絡安全保險公司Coalition最新發布的網絡威脅指數報告,預計2023年平均每月將有1900個危險漏洞披露,比2022年增長13%,其中高危漏洞270個、嚴重高危漏洞155個。報告稱,這是因為Redis易于使用和擴展。CESS系統的核心是能夠為安全研究人員提供兩個關鍵信息:漏洞利用的可用性和漏洞利用的可能性。
    內網滲透合集(一)
    2023-01-28 09:31:07
    dmesg | grep Linuxls /boot | grep vmlinuz正在運行的服務ps auxps -eftopcat /etc/service哪些服務具有root權限ps aux | grep rootps -ef | grep root安裝了哪些程序,版本,以及正在運行的ls -alh /usr/bin/ls -alh /sbin/dpkg -lrpm -qals -alh /var/cache/apt/archivesOls -alh /var/cache/yum/服務的配置文件cat /etc/syslog.conf?cat /etc/apache2/apache2.confcat /etc/my.confcat /etc/httpd/conf/httpd.confcat /opt/lampp/etc/httpd.confls -aRl /etc/ | awk '$1 ~ /^.*r.*/工作計劃crontab -lls -alh /var/spool/cronls -al /etc/ | grep cronls -al /etc/cron*cat /etc/cron*cat /etc/at.allowcat /etc/at.denycat /etc/cron.allowcat /etc/cron.denycat /etc/crontabcat /etc/anacrontabcat /var/spool/cron/crontabs/root網絡配置cat /etc/resolv.confcat /etc/sysconfig/networkcat /etc/networksiptables -Lhostnamednsdomainname其他用戶主機與系統的通信?
    這篇文章主要收集一些常見的未授權訪問漏洞。未授權訪問漏洞可以理解為需要安全配置或權限認證的地址、授權頁面存在缺陷導致其他用戶可以直接訪問從而引發重要權限可被操作、數據庫或網站目錄等敏感信息泄露。
    VSole
    網絡安全專家
      亚洲 欧美 自拍 唯美 另类