decode17

Transcript

1. Copyright©2017 NTT corp. All Rights Reserved. 分散並列処理の基本と 分散並列処理系の最近の動向について 小沢健史 NTT

   Software Innovation Center 2017/5/24

2. 2 Copyright©2017 NTT corp. All Rights Reserved. •小沢 健史(Ozawa Tsuyoshi)

   •Apache Hadoop Committer/PMC •Hadoop 徹底入門第2版 Chapter 22(YARN) •gihyo.jp “Hadoopはどのように動くのか” Hadoop，Tez，YARN 自己紹介

3. 3 Copyright©2017 NTT corp. All Rights Reserved. 分析で Excel・DB を

   使っている方

4. 4 Copyright©2017 NTT corp. All Rights Reserved. •処理するデータがどんどん増える… •HDD からデータの読み込み

   → データ量に応じて時間がかかってしまう 困ったことはありませんか？ 100MB 100GB 100TB 1秒 1000秒 (=約16分) 読み込みで1000000秒! (=約11日)

5. 5 Copyright©2017 NTT corp. All Rights Reserved. •処理するデータがどんどん増える… •HDD からデータの読み込み

   → データ量に応じて時間がかかってしまう 困ったことはありませんか？ 100MB 100GB 100TB 1秒 10000秒 (=1分半) 読み込みで1000000秒! (=約11日) そこで並列処理！

6. 6 Copyright©2017 NTT corp. All Rights Reserved. •計算資源を並べることで速く処理すること •例 •HDD

   を10個並べる 並列処理 (Parallel processing) 100 MB/sec x 10個 = 最大1GB/sec

7. 7 Copyright©2017 NTT corp. All Rights Reserved. 並列処理の注意どころ (1) 並列処理の効果は処理依存

   •ディスクI/Oの割合が 99% 99 1

8. 8 Copyright©2017 NTT corp. All Rights Reserved. 並列処理の注意どころ (1) 並列処理の効果は処理依存

   •ディスクI/Oの割合が 99% 99 1 1 1 99倍 効果:50倍

9. 9 Copyright©2017 NTT corp. All Rights Reserved. 並列処理の注意どころ (1) 並列処理の効果は処理依存

   •ディスクI/Oの割合が 99% 99 1 1 1 効果:50倍 99倍 •ディスクI/Oの割合が 50% 50 50 0.5 99倍 50

10. 10 Copyright©2017 NTT corp. All Rights Reserved. 並列処理の注意どころ (1) 並列処理の効果は処理依存

    •ディスクI/Oの割合が 99% 99 1 1 1 99倍 •ディスクI/Oの割合が 50% 50 50 0.5 効果:約2倍 99倍 50 効果:50倍

11. 11 Copyright©2017 NTT corp. All Rights Reserved. 並列処理の注意どころ (2) 拡張性の限界

    •値段的限界 L4 L8 L16 L32 $0.5 $1 $2 $4 https://azure.microsoft.com/en- us/pricing/details/virtual-machines/windows/

12. 12 Copyright©2017 NTT corp. All Rights Reserved. 並列処理の注意どころ (2) 拡張性の限界

    •値段的限界 •物理的限界 一台の計算機に足せる ドライブ数に限界 L4 L8 L16 L32 $0.5 $1 $2 $4 https://azure.microsoft.com/en- us/pricing/details/virtual-machines/windows/

13. 13 Copyright©2017 NTT corp. All Rights Reserved. •故障確率が向上 •1日に1%の確率で1つのHDDが壊れると仮定 •64個ドライブのある計算機の場合，

    1日に1つ以上ドライブが壊れる確率は 約48%=1 – (0.99 ** 64) 並列処理の注意どころ (3)

14. 14 Copyright©2017 NTT corp. All Rights Reserved. •性能向上率はワークロード次第 •拡張性に限界 •故障確率が向上

    並列処理の注意どころ まとめ

15. 15 Copyright©2017 NTT corp. All Rights Reserved. •性能向上率はワークロード次第 •拡張性に限界 •故障確率が向上

    並列処理の注意どころ まとめ 並列処理の特性

16. 16 Copyright©2017 NTT corp. All Rights Reserved. •性能向上率はワークロード次第 •拡張性に限界 •故障確率が向上

    並列処理の注意どころ まとめ

17. 17 Copyright©2017 NTT corp. All Rights Reserved. •性能向上率はワークロード次第 •拡張性に限界 •故障確率が向上

    並列処理の注意どころ まとめ そこで分散処理！

18. 18 Copyright©2017 NTT corp. All Rights Reserved. •複数の計算機をまたがって処理すること •目的は処理の高速化に限らない 分散処理

    (Distributed processing)

19. 19 Copyright©2017 NTT corp. All Rights Reserved. •複数の計算機をまたがって処理すること •目的は処理の高速化に限らない •例

    •異なる計算機2台に同じ計算をさせる → 故障しなかった方を採用 分散処理 (Distributed processing) 計算機1 計算機2 依頼主 投入

20. 20 Copyright©2017 NTT corp. All Rights Reserved. •複数の計算機をまたがって処理すること •目的は処理の高速化に限らない •例

    •異なる計算機2台に同じ計算をさせる → 故障しなかった方を採用 分散処理 (Distributed processing) 計算機1 計算機2 故障 依頼主

21. 21 Copyright©2017 NTT corp. All Rights Reserved. •複数の計算機をまたがって処理すること •目的は処理の高速化に限らない •例

    •異なる計算機2台に同じ計算をさせる → 故障しなかった方を採用 分散処理 (Distributed processing) 計算機1 計算機2 無事回答! 依頼主

22. 22 Copyright©2017 NTT corp. All Rights Reserved. •データのコピーを複数持つ •目的 •データへアクセスできる確率を向上させるため

    •処理が無事に終わる確率を向上させるため 分散処理でよく行われること

23. 23 Copyright©2017 NTT corp. All Rights Reserved. •データのコピーを複数持つ •目的 •データへアクセスできる確率を向上させるため

    •処理が無事に終わる確率を向上させるため 分散処理でよく行われること 計算機1 計算機2 書き手 保存しといて データ

24. 24 Copyright©2017 NTT corp. All Rights Reserved. •データのコピーを複数持つ •目的 •データへアクセスできる確率を向上させるため

    •処理が無事に終わる確率を向上させるため 分散処理でよく行われること 計算機1 計算機2 書き手 コピー データ データ

25. 25 Copyright©2017 NTT corp. All Rights Reserved. •データのコピーを複数持つ •目的 •データへアクセスできる確率を向上させるため

    •処理が無事に終わる確率を向上させるため 分散処理でよく行われること 計算機1 計算機2 データ データ

26. 26 Copyright©2017 NTT corp. All Rights Reserved. •データのコピーを複数持つ •目的 •データへアクセスできる確率を向上させるため

    •処理が無事に終わる確率を向上させるため 分散処理でよく行われること 計算機1 計算機2 データ データ 故障

27. 27 Copyright©2017 NTT corp. All Rights Reserved. •データのコピーを複数持つ •目的 •データへアクセスできる確率を向上させるため

    •処理が無事に終わる確率を向上させるため 分散処理でよく行われること 計算機1 計算機2 データ データ 読み手 読みたい

28. 28 Copyright©2017 NTT corp. All Rights Reserved. •データのコピーを複数持つ •目的 •データへアクセスできる確率を向上させるため

    •処理が無事に終わる確率を向上させるため 分散処理でよく行われること 計算機1 計算機2 データ データ 読み手 成功！ データ

29. 29 Copyright©2017 NTT corp. All Rights Reserved. 分散処理の注意どころ (1) 分散のためにオーバヘッドが発生

    •1台にコピー •2台にコピー 通信量増大 書き手 計算機 書き手 計算機1 計算機2

30. 30 Copyright©2017 NTT corp. All Rights Reserved. •故障時のエラーハンドリング 分散処理の注意どころ (2)

    書き手 計算機1 計算機2 データ

31. 31 Copyright©2017 NTT corp. All Rights Reserved. •故障時のエラーハンドリング 分散処理の注意どころ (2)

    書き手 計算機1 計算機2 データ 書込要求

32. 32 Copyright©2017 NTT corp. All Rights Reserved. •故障時のエラーハンドリング 分散処理の注意どころ (2)

    書き手 計算機1 計算機2 データ 書込応答 応答なし

33. 33 Copyright©2017 NTT corp. All Rights Reserved. •故障時のエラーハンドリング 分散処理の注意どころ (2)

    書き手 計算機1 計算機2 データ 過負荷で 書き込みに失敗

34. 34 Copyright©2017 NTT corp. All Rights Reserved. •故障時のエラーハンドリング 分散処理の注意どころ (2)

    計算機1 計算機2 データ

35. 35 Copyright©2017 NTT corp. All Rights Reserved. •故障時のエラーハンドリング 分散処理の注意どころ (2)

    計算機1 計算機2 データ 読み手

36. 36 Copyright©2017 NTT corp. All Rights Reserved. •故障時のエラーハンドリング 分散処理の注意どころ (2)

    計算機1 計算機2 データ 読み手 過負荷で アクセスできず 読込要求

37. 37 Copyright©2017 NTT corp. All Rights Reserved. •故障時のエラーハンドリング 分散処理の注意どころ (2)

    計算機1 計算機2 データ 読み手 過負荷で アクセスできず データがないように 見える！

38. 38 Copyright©2017 NTT corp. All Rights Reserved. •故障時のエラーハンドリング 分散処理の注意どころ (2)

    計算機1 計算機2 データ 読み手 過負荷で アクセスできず データがないように 見える！ 自分でケアするのは大変

39. 39 Copyright©2017 NTT corp. All Rights Reserved. •故障時のエラーハンドリング 分散処理の注意どころ (2)

    計算機1 計算機2 データ 読み手 過負荷で アクセスできず データがないように 見える！ とても大変！

40. 40 Copyright©2017 NTT corp. All Rights Reserved. •故障時のエラーハンドリング 分散処理の注意どころ (2)

    計算機1 計算機2 データ 読み手 過負荷で アクセスできず データがないように 見える！ そこで 並列分散処理 基盤

41. 41 Copyright©2017 NTT corp. All Rights Reserved. 並列処理と分散処理を組み合わせた処理基盤 → 高速に，故障を意識せずに使える！

    並列分散処理基盤

42. 42 Copyright©2017 NTT corp. All Rights Reserved. •データを溜めるファイルシステム データを処理する処理系 •Spark/MapReduce

    + HDFS など •データベース •SQL Server・Amazon Redshift など 最近の並列分散処理基盤 の組み合わせ

43. 43 Copyright©2017 NTT corp. All Rights Reserved. なぜFSとDBは分かれているか？

44. 44 Copyright©2017 NTT corp. All Rights Reserved. なぜFSとDBは分かれているか？ 大量のデータを永続的に格納する手段としては，(中略) OS

    により提供されるファイルがある． しかし，ファイルシステムには(中略)問題点があり，こ れらがデータベースの開発の動機となっている． データベースシステム・北川博之著 p.2-p.3 より抜粋

45. 45 Copyright©2017 NTT corp. All Rights Reserved. なぜFSとDBは分かれているか？ 大量のデータを永続的に格納する手段としては，(中略) OS

    により提供されるファイルがある． しかし，ファイルシステムには(中略)問題点があり，こ れらがデータベースの開発の動機となっている． データベースシステム・北川博之著 p.2-p.3 より抜粋 思想から異なる

46. Copyright©2017 NTT corp. All Rights Reserved. ファイルシステムベース の並列分散処理基盤

47. 47 Copyright©2017 NTT corp. All Rights Reserved. •処理系を柔軟に変更可能 ファイルシステムベースの処理系の利点 ファイルシステム

    処理系1 処理系2

48. 48 Copyright©2017 NTT corp. All Rights Reserved. •処理系を柔軟に変更可能 Hadoop エコシステムで起きていること

    FileSystem API Spark HDFS MapReduce

49. 49 Copyright©2017 NTT corp. All Rights Reserved. •処理系を柔軟に変更可能 Hadoop エコシステムで起きていること

    FileSystem API Spark HDFS MapReduce

50. 50 Copyright©2017 NTT corp. All Rights Reserved. •処理系を柔軟に変更可能 Hadoop エコシステムで起きていること

    FileSystem API Spark HDFS MapReduce Azure Data Lake Store Amazon S3

51. 51 Copyright©2017 NTT corp. All Rights Reserved. •処理系を柔軟に変更可能 •ファイルシステムの実装が変更可能に →

    クラウドとの相性良い Hadoop エコシステムで起きていること FileSystem API Spark HDFS MapReduce Azure Data Lake Store Amazon S3

52. 52 Copyright©2017 NTT corp. All Rights Reserved. •処理系とファイルシステムが疎結合 →最適化度合いが限定的 ファイルシステムベースの処理系の欠点

    FileSystem API Spark HDFS MapReduce Azure Data Lake Store Amazon S3

53. 53 Copyright©2017 NTT corp. All Rights Reserved. •処理系とファイルシステムが疎結合 →最適化度合いが限定的 ファイルシステムベースの処理系の欠点

    FileSystem API Spark HDFS MapReduce Azure Data Lake Store Amazon S3

54. 54 Copyright©2017 NTT corp. All Rights Reserved. •処理系とファイルシステムが疎結合 →最適化度合いが限定的 ファイルシステムベースの処理系の欠点

    FileSystem API Spark HDFS MapReduce Azure Data Lake Store Amazon S3 最適化のために やりとりできる 情報が 限られる

55. Copyright©2017 NTT corp. All Rights Reserved. 代表的な処理系 MapReduce と Spark

56. 56 Copyright©2017 NTT corp. All Rights Reserved. •データを分散ファイルシステムから読む MapReduce FileSystem

    API HDFS MapReduce Azure Data Lake Store Amazon S3 読出

57. 57 Copyright©2017 NTT corp. All Rights Reserved. •データを分散ファイルシステムから読む •ユーザが指定した処理をする MapReduce

    FileSystem API HDFS MapReduce Azure Data Lake Store Amazon S3 処理

58. 58 Copyright©2017 NTT corp. All Rights Reserved. •データを分散ファイルシステムから読む •ユーザが指定した処理をする •分散ファイルシステムに結果を書き出し

    MapReduce FileSystem API HDFS MapReduce Azure Data Lake Store Amazon S3 書出

59. 59 Copyright©2017 NTT corp. All Rights Reserved. •基本は同じ Spark FileSystem

    API HDFS Azure Data Lake Store Amazon S3 Spark 読出

60. 60 Copyright©2017 NTT corp. All Rights Reserved. •基本は同じ Spark FileSystem

    API HDFS Azure Data Lake Store Amazon S3 Spark 処理

61. 61 Copyright©2017 NTT corp. All Rights Reserved. •基本は同じ •毎回も書き出さずに，Spark の世界の中で

    最適化されたデータ形式で保持が可能 Spark FileSystem API HDFS Azure Data Lake Store Amazon S3 Spark 結果 保持

62. 62 Copyright©2017 NTT corp. All Rights Reserved. •基本は同じ •毎回も書き出さずに，Spark の世界の中で

    最適化されたデータ形式で保持が可能 •最終的には書出 Spark FileSystem API HDFS Azure Data Lake Store Amazon S3 Spark 書出

63. Copyright©2017 NTT corp. All Rights Reserved. データベース

64. 64 Copyright©2017 NTT corp. All Rights Reserved. •データ処理とデータ保持部が密結合 データベース 保持部

    処理部 データベース

65. 65 Copyright©2017 NTT corp. All Rights Reserved. •密結合により，最適化がしやすい •プログラミングしやすい特性(ACID)をもつ データベースの利点

    保持部 処理部 データベース

66. 66 Copyright©2017 NTT corp. All Rights Reserved. •スキーマ(型情報)を予め定義し、それを 並列処理のヒント情報として利用 •分析用DBの場合、列数がかなり多い傾向(30以上)

    分析用データベースの概要

67. 67 Copyright©2017 NTT corp. All Rights Reserved. •スキーマ(型情報)を予め定義し、それを 並列処理のヒント情報として利用 •分析用DBの場合、列数がかなり多い傾向(30以上)

    →列方向にデータを分割 必要な列のみにアクセス 分析用データベースの概要

68. 68 Copyright©2017 NTT corp. All Rights Reserved. •スキーマ(型情報)を予め定義し、それを 並列処理のヒント情報として利用 •分析用DBの場合、列数がかなり多い傾向(30以上)

    →列方向にデータを分割 必要な列のみにアクセス 分析用データベースの概要 userId username project … 1 Tsuyoshi Hadoop … 2 Neo Azure … … … … …

69. 69 Copyright©2017 NTT corp. All Rights Reserved. •スキーマ(型情報)を予め定義し、それを 並列処理のヒント情報として利用 •分析用DBの場合、列数がかなり多い傾向(30以上)

    →列方向にデータを分割 必要な列のみにアクセス 分析用データベースの概要 userId username project … 1 Tsuyoshi Hadoop … 2 Neo Azure … … … … … 計算機1

70. 70 Copyright©2017 NTT corp. All Rights Reserved. •スキーマ(型情報)を予め定義し、それを 並列処理のヒント情報として利用 •分析用DBの場合、列数がかなり多い傾向(30以上)

    →列方向にデータを分割 必要な列のみにアクセス 分析用データベースの概要 userId username project … 1 Tsuyoshi Hadoop … 2 Neo Azure … … … … … 計算機1 計算機2

71. 71 Copyright©2017 NTT corp. All Rights Reserved. •スキーマ変更をする際にはシステムが しばらく停止しうる →

    データの移動を伴うため 分析用データベースの注意どころ

72. 72 Copyright©2017 NTT corp. All Rights Reserved. •スキーマが激しく変化する •クエリの変化が激しい →

    MapReduce や Spark など ファイルシステムベースの処理系 •スキーマ変化がまれ •性能要求が非常に高い •クエリがある程度決まっている → データベース FSベース処理系/データベースの使い分け

73. 73 Copyright©2017 NTT corp. All Rights Reserved. •NTT DATA の例

    MapReduce/データベースの使い分け 秒 分 時間 日 Big Data Processing 応 答 時 間 Size Online Processing GB TB PB Online Batch Processing データ ベース 分析データベース Hadoop/ Spark Query & Search Processing Enterprise Batch Processing

74. Copyright©2017 NTT corp. All Rights Reserved. 最近の動向

75. 75 Copyright©2017 NTT corp. All Rights Reserved. •処理速度に対する要求の多様化 •ミドルウェアの増加からくるデータ同期の複雑化 最近の動向

    : Hadoop への不満からくる改善

76. 76 Copyright©2017 NTT corp. All Rights Reserved. •処理速度に対する要求の多様化 →特化した処理系が出てきた •ミドルウェアの増加からくるデータ同期の複雑化

    → ハブを担うミドルウェアが出てきた 最近の動向 : Hadoop への不満からくる改善

77. 77 Copyright©2017 NTT corp. All Rights Reserved. •超巨大なバッチ処理が「安定して動けば良い」 処理速度に対する要求の多様化

78. 78 Copyright©2017 NTT corp. All Rights Reserved. •超巨大なバッチ処理が「安定して動けば良い」 → もっと色々やりたい！

    処理速度に対する要求の多様化

79. 79 Copyright©2017 NTT corp. All Rights Reserved. •速く結果を受け取って，試行錯誤やアクションの 回数を増やしたい 処理速度に対する要求の多様化

    インタラクティブ クエリ系 • Apache Impala • Presto • Hive(LLAP)

80. 80 Copyright©2017 NTT corp. All Rights Reserved. •深層学習を高速に動作させたい 処理速度に対する要求の多様化 インタラクティブ

    クエリ系 • Apache Impala • Presto • Hive(LLAP) 深層学習特化 • TensorFlow • MXNet • CNTK • Chainer

81. 81 Copyright©2017 NTT corp. All Rights Reserved. •バッチではなく，ストリーミング処理を 高速に動作させたい 処理速度に対する要求の多様化

    インタラクティブ クエリ系 • Apache Impala • Presto • Hive(LLAP) 深層学習特化 • TensorFlow • MXNet • CNTK • Chainer ストリーミング 処理系 • Apache Storm • Spark Streaming

82. 82 Copyright©2017 NTT corp. All Rights Reserved. •ワークロードによる使い分けが普通に 処理速度に対する要求の多様化 インタラクティブ

    クエリ系 • Apache Impala • Presto • Hive(LLAP) 深層学習特化 • TensorFlow • MXNet • CNTK • Chainer ストリーミング 処理系 • Apache Storm • Spark Streaming

83. 83 Copyright©2017 NTT corp. All Rights Reserved. •ワークロードによる使い分けが普通に 処理速度に対する要求の多様化 インタラクティブ

    クエリ系 • Apache Impala • Presto • Hive(LLAP) 深層学習特化 • TensorFlow • MXNet • CNTK ストリーミング 処理系 • Apache Storm • Spark Streaming データ同期が 大変に…

84. 84 Copyright©2017 NTT corp. All Rights Reserved. •実際の運用の中で，処理系やサービスの間で データの同期を複雑に行う必要 ミドルウェアの増加に伴う同期複雑化

    推薦エンジン 分析DB Hadoop 検索エンジン

85. 85 Copyright©2017 NTT corp. All Rights Reserved. •実際の運用の中で，処理系やサービスの間で データの同期を複雑に行う必要 ミドルウェアの増加に伴う同期複雑化

    推薦エンジン 分析DB Hadoop メール通知

86. 86 Copyright©2017 NTT corp. All Rights Reserved. •実際の運用の中で，処理系やサービスの間で データの同期を複雑に行う必要 ミドルウェアの増加に伴う同期複雑化

    推薦エンジン 分析DB Hadoop メール通知 そこで Apache Kafka

87. 87 Copyright©2017 NTT corp. All Rights Reserved. •データの「ハブ」の役割 •分散並列の特性を上手く利用し ボトルネックにならないよう設計されている

    Apache Kafka 推薦エンジン 分析DB Hadoop メール通知 Apache Kafka

88. 88 Copyright©2017 NTT corp. All Rights Reserved. •並列処理 •分散処理 •MapReduce系統の処理の特徴

    •データベースの特徴 •最近の動向 まとめ

89. 89 Copyright©2017 NTT corp. All Rights Reserved. •並列処理 •分散処理 •MapReduce系統の処理の特徴

    •データベースの特徴 •最近の動向 まとめ

90. 90 Copyright©2017 NTT corp. All Rights Reserved. •並列処理 •分散処理 •MapReduce系統の処理の特徴

    •データベースの特徴 •最近の動向 まとめ さいごに

91. 91 Copyright©2017 NTT corp. All Rights Reserved. •並列処理 •分散処理 •MapReduce系統の処理の特徴

    •データベースの特徴 •最近の動向 まとめ 分散並列処理が身近に なってきた

92. 92 Copyright©2017 NTT corp. All Rights Reserved. •並列処理 •分散処理 •MapReduce系統の処理の特徴

    •データベースの特徴 •最近の動向 まとめ 何が何でも 分散処理？

93. 93 Copyright©2017 NTT corp. All Rights Reserved. •並列処理 •分散処理 •MapReduce系統の処理の特徴

    •データベースの特徴 •最近の動向 まとめ 何が何でも 分散処理？

94. 94 Copyright©2017 NTT corp. All Rights Reserved. •並列処理 •分散処理 •MapReduce系統の処理の特徴

    •データベースの特徴 •最近の動向 まとめ 効果が出るかは 問題次第

95. 95 Copyright©2017 NTT corp. All Rights Reserved. •並列処理 •分散処理 •MapReduce系統の処理の特徴

    •データベースの特徴 •最近の動向 まとめ 上手く使いこなして ビジネスの役に 立ててください

96. 96 Copyright©2017 NTT corp. All Rights Reserved. •並列処理 •分散処理 •MapReduce系統の処理の特徴

    •データベースの特徴 •最近の動向 まとめ エンジニアの みなさまの力量に かかっています！