hdfs HDFS イレイジャーコーディングの性能について
Hadoop 3.x でサポートされたHDFS Erasure Coding (HDFS-EC)ですが、HDFSに利用するストレージの容量を節約することができるため、大量データを持っている方には魅力的です。
一方、原則的に複数ラック...
kernel023
hdfs Kudu Kuduのパフォーマンスが60倍早くなった!?
週末にKuduの生みの親、Toddが以下のようなツイートをしていました。(XiaomiじゃなくAlipayからのパッチのようです）
YCSBというNoSQLでよく利用されるベンチマークで、Kuduのパフォーマンスが〜60...
impala HuluでImpala
MPPのクエリエンジンであるApache Impalaは、CSVなどのテキストフォーマットも扱えますが、高速な処理を行う場合はParquetを使用することが多いです。（あるいはApache Kuduを利用することも可能）
Hulu ...
cloudera ClouderaのHadoop管理者向けトレーニング ver UP
ClouderaのHadoop管理者向けトレーニングがアップデートされました。
この内容を4日間でやるのは時間が足りないぐらいですが、管理者に必要な要素が満載です。
テキストは700ページ超え！
...
その他 「データ指向アプリケーションデザインガイド」日本語版！
オライリーさんから表記の書籍が出版されます。
「Designing Data‑Intensive Applications」の翻訳本です。原書は非常に良い本ですし、翻訳も玉川さんなので、はっきり言って「買い」かと。
なお、発売は7/...
CDH6 Cloudera Enterprise 6.2 リリース
Cloudera Enterprise 6.2 released!
先週末に Cloudera Enterprise 6.2 がリリースされました。
ほとんどリリースノートを見た範囲のみですが、個人的に興味深いアップデートを一覧して...
hdfs HDFSのワーカーのタイムアウト時間 10分30秒
備忘録がてら貼っておく。
NameNodeとDataNodeのタイムアウト時間
HDFSでは、DataNodeが定期的にNameNodeにハートビート通信を行なっています。DataNodeからのハートビートが一定時間途絶えると、Name...
impala Impala 3.2 がリリースされました
本日 Apache Impala 3.2 がリリースされました。
新機能
今回は大きな機能追加はないようですが、テクニカルプレビューの Automatic Metadata Sync using Hive Met...
HBase HBase 2.x でのテーブルエクスポート
HBaseのエクスポート機能
HBase にはバックアップを取る方法がいくつか存在しますが、その一つにテーブルをファイル（SequenceFile 形式）にエクスポートする機能があります。この機能を用いてテーブルをバックアップしておき、イ...
入門 書籍情報: Architecting Modern Data Platforms: A Guide to Enterprise Hadoop at Scale 1st Edition
新年明けましておめでとうございます。
新年早々にClouderaとHortonworksが合併というニュースがありましたが、引き続き頑張りますので今年もよろしくお願いいたします。
さて、年末に何冊か技術書を積読リストに入れていた...