CDH CDHとApache Sparkのバージョンの関係
以前「cdh-release-history」というCDHと主要コンポーネントの対応付けをまとめました。
今年はApache Spark 1.xと2.x が、CDH5.xとCDH6.xのバージョンにそれぞれどのように対応されているかに...
CDH5
CDH 
CDH5 Apache SparkでApache Kuduを利用する
Apache Kudu 1.3
最近Apache Kuduのリードとライトの流れについてのブログが公開され、昨日は日本語でもウェビナーが開催されたりと盛り上がってきた「分散ストレージエンジン」のApache Kuduですが、SQLでのアクセ...
CDH5 Cloudera 5.11リリース
Cloudera 5.11が出たので久しぶりの更新です。
Hadoopも11年目を迎え、日本でも幅広い業種で使われるようになりました。数年前と比較すると圧倒的に使いやすくなっているので、過去に評価してそのままになっている方、既存の基盤で困っ...
CDH5 Hadoop3.0の新機能！DataNodeディスク間バランサーを試す
DataNodeディスク間バランサー
昨日紹介したHDFSの再バランスは、DataNode間でディスク使用量を平準化するための機能でした。一方で、DataNodeが複数のディスクを持っている場合、それぞれのディスクの使用量のバランスが崩れて...
CDH5 HDFSの再バランス
HDFSには、DataNode間でディスク使用量の再バランスを行う balaner 機能があります。また、Hadoop3.xで導入される予定の、DataNode内のディスク間のリバランス機能（Disk Balancer）もあります。（この機...
CDH5 hdfs dfs で利用できるサブコマンド（３）
hdfs dfs コマンドで利用できるサブコマンドの一覧、その３です。
注: チートシートを作り直しました。こちらのページをご覧ください。 2020/6/19
CDH5 hdfs dfs で利用できるサブコマンド（２）
hdfs dfs コマンドで利用できるサブコマンドの一覧、その２です。
注: チートシートを作り直しました。こちらのページをご覧ください。 2020/6/19
CDH5 hdfs dfs で利用できるサブコマンド（１）
hdfs dfs コマンドで利用できるサブコマンドはHadoopのバージョンの向上とともに増えています。使ったことがないコマンドもあるので、実際にコマンドを実行して結果を見てみました。コマンドが多いので３回に分けて掲載します。
注: 情報...
CDH5 Cloudera Enterprise 5.8 リリース！
本日 Cloudera Enterprise 5.8 (CDH 5.8, Cloudera Manager 5.8)がリリースされました！リリースノートはこちら。
今回のバージョンではCloudera Navigator Optimizer...
CDH5 セキュアなHadoopクラスタ：Cloudera ManagerでのKerberos化
前回はCloudera Managerを使ってCloudera Quickstart VMを利用できるようにしました。今回はKerberosを使用してセキュアなクラスタ化を行います。
セキュア化の背景
Hadoopのメリットの一つはデータを...