Apache Beam

Apache Beamは、ETL、バッチおよびストリーム処理を含むデータ処理パイプライン(英語版)を定義・実行するためのオープンソースの統合プログラミングモデルである。提供されているSDKの1つを使用してBeam Pipelinesと呼ばれるデータ処理パイプラインを定義し、Apache Flink(英語版)、Apache Samza(英語版)、Apache Spark、Google Cloud Dataflow(英語版)などのBeamがサポートするRunner(分散処理バックエンド)の1つを使用してパイプラインを実行する。

Apache Beam
Apache Beam
作者 Google
開発元 Apache Software Foundation
初版 2016年6月15日 (7年前) (2016-06-15)
リポジトリ Beam Repository
プログラミング
言語
Java, Python, Go
対応OS クロスプラットフォーム
ライセンス Apache License 2.0
公式サイト beam.apache.org
テンプレートを表示

歴史

Apache Beamは、Dataflowモデルの論文の実装の1つである。Dataflowモデルは、Googleでの分散処理の抽象化、特にFlumeJavaとMillwheelに関する過去の成果に基づいて設計されている。

2014年、Googleは、DataflowモデルのオープンSDK実装と、Dataflowをローカル(非分散)およびGoogle Cloud Platformサービス上で実行する環境をリリースした。

2016年、GoogleはコアSDK、ローカルランナーの実装、およびGoogle Cloud Platformのデータサービスにアクセスするための一連のIO(データコネクタ)をApache SoftwareFoundationに寄贈した。他の企業やコミュニティのメンバーは、既存の分散実行プラットフォームのRunnerや、Beam Runnerを既存のデータベース、Key-Valueストア、メッセージシステムと統合するための新しいIOをコントリビュートしている。さらに、Beamモデルに加えて特定のドメインのニーズをサポートするための新しいDSLが提案されている[要出典]

関連項目

  • Apache Software Foundationプロジェクトの一覧英語版

出典

Tags:

Apache SparkExtract/Transform/Loaden:Apache Flinken:Apache Samzaen:Google Cloud Dataflowen:Pipeline (software)オープンソースソフトウェアストリーム・プロセッシングソフトウェア開発キットバッチ処理分散コンピューティング

🔥 Trending searches on Wiki 日本語:

鈴木ヒロミツメジャーリーグベースボール津田健次郎上田麗奈鈴木保奈美當真あみ響け! ユーフォニアムイギリス大森元貴石川さゆり無職転生 〜異世界行ったら本気だす〜米津玄師約束 〜16年目の真実〜満島ひかり中島歩味方良介岩瀬仁紀SLベンフィカ黒羽快斗神田沙也加長嶋茂雄松本幸四郎 (10代目)この素晴らしい世界に祝福を!スター・ウォーズの日小島奈津子Hide中村蒼マッシュル-MASHLE-西野七瀬グレープカンパニー山田楓喜はたらく細胞Da-iCEあの唐十郎T・Pぼんウィキペディア日本語版上白石萌歌フレディ・フリーマン上川周作自殺・自決・自害した日本の著名人物一覧ゴジラvsコング長嶋亜希子全裸監督篠塚和典DJ松永梅原裕一郎玉置玲央ダンジョン飯志田未来ハリー・ポッターシリーズ上川隆也仲村トオル京口紘人岡本綾鈴木史朗石田ひかりファーストサマーウイカ清原果耶馬瓜エブリンスター・ウォーズシリーズ滝藤賢一葛西潤郷ひろみ井川意高一ノ瀬ワタル一青窈吉川尚輝豊田圭史岸谷香野球界の永久欠番藤浪晋太郎スーパー戦隊シリーズアドルフ・ヒトラー渡辺翔東京タワー (小説)高山みなみ中村雅俊🡆 More