タグ

関連タグで絞り込む (1)

タグの絞り込みを解除

yahooとhadoopに関するyokochieのブックマーク (8)

  • Yahoo HadoopからスピンアウトしたHortonworksが計画を発表

    Spring BootによるAPIバックエンド構築実践ガイド 第2版 何千人もの開発者が、InfoQのミニブック「Practical Guide to Building an API Back End with Spring Boot」から、Spring Bootを使ったREST API構築の基礎を学んだ。このでは、出版時に新しくリリースされたバージョンである Spring Boot 2 を使用している。しかし、Spring Boot3が最近リリースされ、重要な変...

    Yahoo HadoopからスピンアウトしたHortonworksが計画を発表
  • オープンソースカンファレンスにてHadoopセミナーを行います

    ヤフー株式会社は、2023年10月1日にLINEヤフー株式会社になりました。LINEヤフー株式会社の新しいブログはこちらです。LINEヤフー Tech Blog こんにちは。広報スタッフの楢崎です。 9月10日、11日の2日間「オープンソースカンファレンス2010 Tokyo/Fall」が明星大学・日野キャンパスにて開催されます。オープンソースに関する最新情報を、オープンソースコミュニティや企業・団体によるセミナーや展示で提供するオープンソースの文化祭です。 カンファレンスでは、2日間で90コマ以上のセミナーが開催されますが、Yahoo! JAPANもHadoopについて講演させていただくことになりました。 Yahoo! JAPANによるセミナーの詳細は以下の通りです。 2010-09-10 (金) 16時15分~17時 Hadoop~Yahoo! JAPANの活用について~ 講師:角田

    オープンソースカンファレンスにてHadoopセミナーを行います
  • Hadoop Hack Night Vol. 2 … 技術評論社

    たくさんのお申し込みありがとうございました。 お申し込み期間:7月21日(水)~7月28日(水) 7月25日(日) 23時59分 お申し込みが早くも100名を超えたため,予定を切り上げて 25日23時59分で終了いたします。 お申し込み後,抽選となります。 プログラム 18:30 開場 19:00~19:05 オープニング 19:05~19:35 [オープニングセッション(30分)]Yahoo! JAPANにおけるHadoop利用について(仮) 講演者: 吉田 一星 氏,古宮 陽明 氏(ヤフー株式会社) 19:35~20:05 [メインセッション(30分)]新たな情報インフラとしてのHadoopの活用(仮) Hadoopがいま注目されている背景には,Hadoopが備えている「スケール・アウト性」「スループット重視」「ロバスト性」という特徴が,情報爆発時代に必要とされている新たなインフラとし

  • Hadoopを使いこなす(3)

    ヤフー株式会社は、2023年10月1日にLINEヤフー株式会社になりました。LINEヤフー株式会社の新しいブログはこちらです。LINEヤフー Tech Blog こんにちは、R&D統括部の吉田です。 前回と前々回の記事では、Hadoopのカスタマイズポイントを解説しました。 単純な問題に対しては、map関数とreduce関数の組み合わせだけでも、処理を行うことができますが、ある程度複雑な問題に対しては、今までに解説したカスタマイズポイントの活用が重要になるという話でした。 今回は実際のサービスの事例を紹介し、カスタマイズポイントがどう活用されているか紹介したいと思います。 ABYSS ABYSSの事例を紹介しましょう。 ABYSSとは、検索サービスを簡単に構築できる社内プラットフォームのことで、詳しくは以下のTechBlog記事で紹介しています。先日無事に社内リリースされました。 新検索

    Hadoopを使いこなす(3)
  • Open TechTalk「Hadoop Hack Night」レポート

    ヤフー株式会社は、2023年10月1日にLINEヤフー株式会社になりました。LINEヤフー株式会社の新しいブログはこちらです。LINEヤフー Tech Blog こんにちは、TechBlog担当の井野です。 3月8日に開催されたOpen TechTalk「Hadoop Hack Night」についてのレポートをお届けいたします。イベントは、思った以上に多くの方にご応募いただき抽選とさせていただきました。当日は、当選された100名の方々にお集まりいただきました。ありがとうございました。 さて、イベントですが、大きく分けて三部構成でお送りいたしましたので、各々ご紹介いたします。イベントのTwitterハッシュタグ『#hadoophn』も活発にやり取りされておりました。 イベントの詳細は、技術評論社さんの「gihyo.jp」にも掲載されておりますので、 あわせてご覧ください。 Hadoop

    Open TechTalk「Hadoop Hack Night」レポート
  • Hadoopを使いこなす(2)

    ヤフー株式会社は、2023年10月1日にLINEヤフー株式会社になりました。LINEヤフー株式会社の新しいブログはこちらです。LINEヤフー Tech Blog こんにちは、 前回のHadoopの記事 に引き続き、MapReduceのカスタマイズポイントを解説していきます。 前回の記事の図や、表などを参照しながら読み進めていただければと思います。 MapperやReducerの流れの制御 Mapperの実行の流れは、デフォルトでは、初期化処理を行った後、map関数を繰り返し実行し、終了処理を行うようになっていますが、この流れ自体を制御することができます。 古いAPIでは、MapRunnerを通じてこの流れを制御できますが、0.20.0からの新しいAPIでは単純にMapperクラスのrun関数をオーバーライドすることで、行えます。 デフォルトのrun関数は以下の通りです。 public vo

    Hadoopを使いこなす(2)
  • Hadoop Hack Night … 技術評論社

    現在,米国Yahoo! Hadoopチームにてアーキテクトを務めるOwen O’Malleyが3月に来日いたします。それに合わせてHadoopの紹介,米国Yahoo!での活用事例などご紹介するセミナーを開催いたします。当日は参加者の方々とのトークセッションを設け,Hadoopコミュニティに所属しているOwen氏との交流の場も提供いたします。 イベントのTwitterハッシュタグは『#hadoophn』です。 なお,当日の模様は以下のURLでUstream中継を予定しております。 http://www.ustream.tv/channel/hadoophn ネットワーク回線の都合により,3G回線での中継となることが予想されます。安定した配信ができない可能性がありますので,会場までお越しいただくことをおすすめいたします。 「Hadoop Hack Night」に申し込む お申し込み期間:2月

  • Hadoopを使いこなす(1)

    まず、 1 の入力ファイルを分割する方法は、InputFormatクラスの、getSplits関数を上書きすることで、カスタマイズできます。 また、 3 のInputSplitから、KeyとValueを抽出する処理も、InputFormatクラスを通じてカスタマイズできます。 InputFormatのgetRecordReader関数を通じて、RecordReaderクラスを生成するのですが、これに任意のRecordReaderクラスを指定すればOKです。 2 のMap処理ですが、ユーザが指定したMapperクラスの処理を実行します。 Mapperクラスは、MapRunnerクラスを通じて、初期化処理、map関数を繰り返す過程、終了処理といった一連の流れを実行します。 MapRunnerクラスをカスタマイズすれば、こうした流れを制御することができます。 0.20.0からの新しいMapRed

    Hadoopを使いこなす(1)
  • 1