BPStudy#25「パフォーマンスとスケーラビリティのためのデータベースアーキテクチャ」 Twitter・ハッシュタグbpstudyのまとめ

私は旅行に行っていたため参加出来なかったのですが、
gihyoの方がust配信をしてくださったため、
旅先でも話を聞くことができました。
ありがとうございました&お疲れ様でした。
id:kazuhooku の話がとても素晴らしかったので聞けて良かったです。


資料と動画はじきに公開されるでしょうし、
まとめもいくつかあるようです。
(BPStudy #25 雑メモ - すぎゃーんメモ,http://mitsukuni.org/bpstudy_25.txt)


Twitterでのこのセッション絡みの発言もなかなか熱かったので、
今回はハッシュタグbpstudyの検索結果をまとめるとします。
まとめにはgist:194212 · GitHubのscriptを使用しました。

k_taka Hey #bpstudy test ;) (bp-study live > http://ustre.am/6r8D)
key3 明日は #bpstudy か。お初な人ばかりのはずなので楽しそう。
conceal_rs 今日の #bpstudy は結構ぎりぎりになりそうな感じ.迷わなければいいのだが
monjudoh BPStudyはここでUstしますよっと #bpstudy -> bp-study on USTREAM: . All http://www.ustream.tv/channel/bp-study
yuroyoro BPStudyなう #bpstudy
yuroyoro おー今回からustありか! RT @monjudoh: BPStudyはここでUstしますよっと #bpstudy -> bp-study on USTREAM: . All http://bit.ly/34sQU
gihyojp 本日の19時からの #bpstudy (http://bit.ly/5LPWC http://www.ustream.tv/channel/bp-study ^KT
PinkSweets RT @monjudoh: BPStudyはここでUstしますよっと #bpstudy -> bp-study on USTREAM: . All http://www.ustream.tv/channel/bp-study
key3 電源の近所に陣取りました。一つ空いてます。 #bpstudy
katzchang うstはまだ真っ暗? #bpstudy
hirokinko 今日は寝坊して退勤時間が遅れたので、その影響で遅刻します #bpstudy
tenja また時間につかん #bpstudy
key3 Hey #bpstudy Mac率高いな (bp-study live > http://ustre.am/6r8D)
monjudoh まだ始まってないのか? #bpstudy
key3 #bpstudy 開始。お題「パフォーマンスとスケーラビリティのためのデータベースアーキテクチャ」 (bp-study live > http://ustre.am/6r8D)
monjudoh お、はじまた? #bpstudy
yuroyoro チューニングコストの回収が問題 #bpstudy
Surgo ユーストあざーす! RT: @key3: #bpstudy 開始。お題「パフォーマンスとスケーラビリティのためのデータベースアーキテクチャ」 (bp-study live > http://ustre.am/6r8D)
yuroyoro 理論上の最速値の70%が理想 #bpstudy
yuroyoro 一般的にはIPCのコストがボトルネックソケット通信だと 100k tx/sec.くらい→これ以上はサーバ内の処理を詰めてもメリットは少ない→あまりサーバを単純化してもメリット小さい #bpstudy
katzchang 音声が途切れるなぁ #bpstudy
PinkSweets ハードを含めた最適化かー。理論値を出した上での目標値って見方でやった事無かったな #bpstudy
katzchang スライド&音声のうstはむしろありがたいです。 #bpstudy
Surgo ユーストがきれちゃった #bpstudy (bp-study live > http://ustre.am/6r8D)
monjudoh 確かに RT @katzchang: スライド&音声のうstはむしろありがたいです。 #bpstudy
key3 バンド幅が足りない→圧縮して転送、アクセスタイムが遅い→グループコミット(トランザクション毎のレイテンシの隠蔽) #bpstudy (bp-study live > http://ustre.am/6r8D)
key3 happy optimizationの話おわり #bpstudy (bp-study live > http://ustre.am/6r8D)
Surgo ゆーすと復活したー #bpstudy (bp-study live > http://ustre.am/6r8D)
katzchang 大抵、解像度とコントラストにやられちゃうんですよね。 RT @monjudoh: 確かに RT @katzchang: スライド&音声のうstはむしろありがたいです。 #bpstudy
yuroyoro でもC10Kではアルゴリズム重要 SIMD(SSE) /データ圧縮/HDDへの書き込みをまとめる(Q4M)/Lock-free algorithm #bpstudy #bpstudy
key3 Scalingの話開始。 #bpstudy (bp-study live > http://ustre.am/6r8D)
katzchang 画質、ぎりぎり読める感じ #bpstudy
key3 ムーアの法則。18ヶ月で半導体集積度が倍になる。89年、80286で2MIPS, 09年、Core2Quardで60000MIPS? #bpstudy (bp-study live > http://ustre.am/6r8D)
Surgo スケーリングのお話 20年間で30000倍 by ムーアの法則 #bpstudy (bp-study live > http://ustre.am/6r8D)
higayasuo スライドあんましみえなーい #bpstudy (bp-study live > http://ustre.am/6r8D)
key3 ファンの法則。フラッシュメモリ、12ヶ月で倍になる。98年、4~8MB。09年、1~32GB #bpstudy (bp-study live > http://ustre.am/6r8D)
shohu33 UST素敵。 #bpstudy *Tw*
yuroyoro 高校生の頃40MのHDDを10万くらいでかってたなー #bpstudy
nekoya 1989年にはHDD持ってなかったから、何倍しても0だお… #bpstudy
key3 @higayasuo 会場の照明落とした方が良さそうな気がしますね。 #bpstudy (bp-study live > http://ustre.am/6r8D)
Surgo なつかしーなー hdd の容量的に #bpstudy (bp-study live > http://ustre.am/6r8D)
yuroyoro スケールしないものもある。HDDのレイテンシ(回転数) 、internetのレイテンシ。 #bpstudy
monjudoh レイテンシはスケールしない #bpstudy
yuroyoro USサーバへのpingが200msec。これ以上は厳しげ #bpstudy
tenja ssdとかもこれから考慮か #bpstudy
yuroyoro あー4Gbpsまだ読んでない>< #bpstudy
key3 SSDはランダムアクセスめっちゃ強いので、ストレージハードウェアとしては別のパラダイムになってしまった感がある。 #bpstudy (bp-study live > http://ustre.am/6r8D)
higayasuo scaleさせるのはワープが必要 #bpstudy (bp-study live > http://ustre.am/6r8D)
monjudoh 来てないでしょうねww>livedoor関係者 #bpstudy
gihyojp 今回, 開始間際に安定していなかったため,この画質でお送りします。 #bpstudy ^KT (bp-study live > http://ustre.am/6r8D)
katzchang 1450円でライブドアは作れない #bpstudy
conceal_rs #bpstudy なう。右の一番後ろ
monjudoh 今日電車の中で1/3くらい読んだ RT @yuroyoro: あー4Gbpsまだ読んでない>< #bpstudy
yuroyoro Plack::Impl::Standalone::PreforkHTTPパーサはCで実装。2MBの画像GET転送で10Gbps。 #bpstudy
key3 アメリカで借りてるサーバ、120msecくらいで返ってくるな。200msecってもっと遠いかも? あるいは迂回しているか、ルータが遅い #bpstudy (bp-study live > http://ustre.am/6r8D)
Surgo 悪いのは hdd なんじゃないの?! #bpstudy (bp-study live > http://ustre.am/6r8D)
tenja 仮想マシン間の通信はもっと高速な場合があるな #bpstudy
katzchang "CPU intensive"ってなんだろ? #bpstudy
yuroyoro HDDがボトルネックRDBMS/ファイルストレージ。SSDは部分解決策→よい策だが価格が問題。 #bpstudy
monjudoh HDDランダムリードで4Gbpsを実現するには2000台必要→HDDがボトルネック #bpstudy
higayasuo HDDがscaleには癌。SSDは部分解決策 #bpstudy (bp-study live > http://ustre.am/6r8D)
yuroyoro HDDとCPU負荷がかかる処理(XMLのパースetc)をどうするかがscalingの課題。 #bpstudy
key3 ソフトウェア製品はスケールアップ、サービスはスケールアウト。ソフトウェア製品を動作させるサーバ台数が増えると管理するのが大変。 #bpstudy (bp-study live > http://ustre.am/6r8D)
hirose31 #bpstudy なう
higayasuo scale outがはやってる #bpstudy (bp-study live > http://ustre.am/6r8D)
Surgo スケールアウトのお話 #bpstudy (bp-study live > http://ustre.am/6r8D)
key3 データ分布(?)が疎になったことでスケールアウトしやすくなった #bpstudy (bp-study live > http://ustre.am/6r8D)
frsyuki kumofs^^ #bpstudy
monjudoh ユーザ数:多/ユーザ間の関係:疎→スケールアウトしやすい #bpstudy
key3 ウェブアプリケーションは3層構成。HTTPサーバ、APサーバ、ストレージ。 #bpstudy (bp-study live > http://ustre.am/6r8D)
monjudoh Pythonスルー!! #bpstudy
key3 規模の拡大 vs ムーアの法則 #bpstudy (bp-study live > http://ustre.am/6r8D)
monjudoh 全人類が60億人なのでユーザ数増加には限度がある→データ増加量には限度がある→いずれまたスケールアップの時代になる #bpstudy
yuroyoro 今日の内容はものすごく濃くてついてくのが大変だ>< #bpstudy
higayasuo DBのscale outの基本はパーティショニング #bpstudy (bp-study live > http://ustre.am/6r8D)
yuroyoro DBのスケールアウト→パーティショニング(データ単位のパーティショニングからユーザ単位のパーティショニング)→KVS(ラディカルなアプローチ) #bpstudy
Surgo rdbms のパーティショニング アプリ -> ユーザ #bpstudy (bp-study live > http://ustre.am/6r8D)
key3 RDBMS捨てたいですねえ #bpstudy (bp-study live > http://ustre.am/6r8D)
kazunori_279 shardingは予算確保が難しい #bpstudy
higayasuo DBのパーティショニングは事前設計が難しい #bpstudy (bp-study live > http://ustre.am/6r8D)
yuroyoro 複数のRDBMSサーバを連携 →ロジックに基づいてRDBMSを割り当てる →問題点 → 事前の分割設計が難しい(予測が困難) → 運用開始後の再分散が困難 #bpstudy
cherenkov BPStudy#25 株式会社ビープラウドが主催するWeb系技術討論の会 Hey #bpstudy (bp-study live > http://ustre.am/6r8D)
key3 RDBMSというよりSQLに慣れすぎなのでしょうな。>自分 #bpstudy (bp-study live > http://ustre.am/6r8D)
kagamihoge DBA な人たちとうまいこと連携しながらアプリ開発できればいいんだけどなぁ… #bpstudy *Tw*
higayasuo KVSの問題は機能は原始的な点:開発コストの増加につながる #bpstudy (bp-study live > http://ustre.am/6r8D)
key3 レンジクエリサポートやリレーション部分をRDBMS、実データをKVSに持たせるアイデアってedge.ccで出てたんでしたっけ? #bpstudy (bp-study live > http://ustre.am/6r8D)
katzchang KVSでORマッパって呼ぶの、違和感あるなぁ。 #bpstudy
monjudoh Rがないもんね RT @katzchang: KVSでORマッパって呼ぶの、違和感あるなぁ。 #bpstudy
yuroyoro →BASEモデルへの移行 →iDC内で運用する場合、Partion-toleranceは必要か? →ネットワーク冗長化、HAクラスタなどの手法で解決できる #bpstudy
higayasuo O/R Mapperで生産性はあんましあがらない気がする(笑) #bpstudy (bp-study live > http://ustre.am/6r8D)
haru860 きた!RDBMSと分散KVSのいいとこどり #bpstudy
katzchang 慣例的なものだろうけどねぇ。Object-Valueマッパってか、ただの直列化か。 RT @monjudoh: Rがないもんね RT @katzchang: KVSでORマッパって呼ぶの、違和感あるなぁ。 #bpstudy
higayasuo Incline & Pacificは動的にパーティショニング #bpstudy (bp-study live > http://ustre.am/6r8D)
Surgo rdbms の動的, range-based なパーティショニング #bpstudy (bp-study live > http://ustre.am/6r8D)
sh2nd ustream見始めた #bpstudy
yuroyoro RDBMSとKVSのいいとこ取り→RDBMSからの動的パーティショニング→RAnge-based partionning(イテレーション、データ局所化への障害局所化)→SQLの柔軟なクエリ→局所的なトランザクション、2phase commiなど #bpstudy
higayasuo RDBMSのshardってパーティショニングのこと? #bpstudy (bp-study live > http://ustre.am/6r8D)
kazunori_279 shardingしたらjoinはどうやるのかなあ。。 #bpstudy
kentaro714 ust見てみた。 #bpstudy
key3 shardingするならJOINしない、とか。 #bpstudy (bp-study live > http://ustre.am/6r8D)
kazunori_279 そうやって段々分散KVSに近づいてくきがす RT @key3: shardingするならJOINしない、とか。 #bpstudy (bp-study live > http://ustre.am/6r8D)
yuroyoro eventual consitency→非同期で更新→よくスケールする→同期とかつくりこまんといけんのでメンテ面倒 #bpstudy
yuroyoro 2Phase commit→2つのDBに対して同時にcommit→一貫性は確保できるがLockしなければならんのでスケール市内→2つからのレスポンスを同期するのでwaitかかる #bpstudy
key3 triggerが出てくるとは… #bpstudy (bp-study live > http://ustre.am/6r8D)
kentaro714 secondary indexesってなんだ? #bpstudy
monjudoh ノ >データベースのtrigger聞いたことある人 #bpstudy
kazunori_279 ストアドとか最近書かないよ〜 #bpstudy
tooya RT @monjudoh: 全人類が60億人なのでユーザ数増加には限度がある→データ増加量には限度がある→いずれまたスケールアップの時代になる #bpstudy
kentaro714 うーん、何のセッションなんだろ?丸山センセーみたいな話が続いてるなぁ。 #bpstudy
monjudoh ノ >データベースのtrigger書いたことある人 #bpstudy
yuroyoro 奥さんのPCがnetbookっぽいのにmacosxが動いてるのが気になる。仮想マシン? #bpstudy
key3 secondary index=primary以外のキーでのインデックスってことか?shardを跨ぐようなインデックスを生成するのが大変、と理解した。 #bpstudy (bp-study live > http://ustre.am/6r8D)
key3 trigger使うとクエリ数が読みづらくなってメンテナンスがしんどくないか #bpstudy (bp-study live > http://ustre.am/6r8D)
katzchang 仕事の片手間に聞ける内容じゃなくなってきたw #bpstudy
kentaro714 トリガーとキューテーブルか… #bpstudy
kentaro714 あぁ楽ちん、か…うーん。 #bpstudy
haru860 あるDBにINSERT→トリガー(Incline)→キュー→他のDBに書き込み(eventual consistency) #BPStudy
monjudoh 質疑応答:inclineはeventual consistencyの方です #bpstudy
monjudoh つぶやきinsertとqueueに突っ込むのは同一transactionで、その後は非同期(queueに任せてるので) #bpstudy
kentaro714 シンプルなサービスならうまくいきそうだけど、複雑なアプリで更新パスをコントロールしきれるんだろうか。 #bpstudy
sh2nd MySQLのXAは事例みたことないなー #bpstudy
higayasuo 分散KVSのほうが素直な気がする。SQLもshardingによって使えない機能が出てくるし #bpstudy (bp-study live > http://ustre.am/6r8D)
monjudoh triggerは定義ファイルから生成している #bpstudy
Surgo 見えない・・・。資料公開していただけるのを祈ろう;; #bpstudy (bp-study live > http://ustre.am/6r8D)
kentaro714 機能的な側面もそうだけど、性能面をコントロールしきれないと厳しいな。これはこれでメカニズムの1つとして持っていて良いとしても、結局はアプリケーション側での分離設計がうまくいってないとどうにもならなさそうだな。 #bpstudy
monjudoh 確かに気になる RT @kentaro714: シンプルなサービスならうまくいきそうだけど、複雑なアプリで更新パスをコントロールしきれるんだろうか。 #bpstudy
key3 MySQLレプリケーションはテーブル単位なのでその部分の解決方法か。>incline #bpstudy (bp-study live > http://ustre.am/6r8D)
kazunori_279 ところでIncline/PacificってOSS?有償? #bpstudy
monjudoh やっぷく亜細亜の時の死霊公開はめっちゃ早かった RT @Surgo: 見えない・・・。資料公開していただけるのを祈ろう;; #bpstudy (bp-study live > http://ustre.am/6r8D)
key3 @Surgo http://bit.ly/5OAfM これかな #bpstudy (bp-study live > http://ustre.am/6r8D)
tenja 複雑な更新はそもそもスケールアウト向きじゃ無いです RT @kentaro714: シンプルなサービスならうまくいきそうだけど、複雑なアプリで更新パスをコントロールしきれるんだろうか。 #bpstudy
yuroyoro 定義ファイルからどのテーブルが同期されるか可視化できれば、シンプルに設計出来る気がする。というか、Inclineありきのスキーマ設計が大事ね。 #bpstudy
higayasuo shardingをtriggerとqueueで自動的にやるわけね #bpstudy (bp-study live > http://ustre.am/6r8D)
key3 一理ある。 RT @yuroyoro: 定義ファイルからどのテーブルが同期されるか可視化できれば、シンプルに設計出来る気がする。というか、Inclineありきのスキーマ設計が大事ね。 #bpstudy
yuroyoro 従来のリレーションからShardingの同期ってパラダイムの転換が必要だと感じた。 #bpstudy
key3 Pacificの話。 #bpstudy (bp-study live > http://ustre.am/6r8D)
haru860 Inclineを定義する人が苦労すれば良いんだ。たぶん良い手段はスキーマから自動生成だろうな。 #bpstudy
monjudoh ナルホディウス RT @tenja: 複雑な更新はそもそもスケールアウト向きじゃ無いです RT @kentaro714: シンプルなサービスならうまくいきそうだけど、複雑なアプリで更新パスをコントロールしきれるんだろうか。 #bpstudy
tokibito RT @monjudoh: ナルホディウス RT @tenja: 複雑な更新はそもそもスケールアウト向きじゃ無いです RT @kentaro714: シンプルなサービスならうまくいきそうだけど、複雑なアプリで更新パスをコントロールしきれるんだろうか。 #bpstudy
key3 inclineのロック粒度は、指定のテーブル+キューテーブルだからロックによる性能低下を最小限に抑えられるのか #bpstudy (bp-study live > http://ustre.am/6r8D)
kentaro714 ん?あー…そうか、Shardingだから大丈夫なのか。勘違い。 #bpstudy
tenja 結局同じ事やろうとすると、アプリで実装しなくてはならないので、inclineでまとめ、アプリがシンプルな方がいい。再統合する事もあるので #bpstudy
yuroyoro RangeベースのShardingのほうがHashBaseよりベターHashベースは各ノードの負荷が均一なる→逆に、局所最適化が難しい #bpstudy
key3 pacificの中身。mysqld_jumpstart, pacific_divide #bpstudy (bp-study live > http://ustre.am/6r8D)
buzztter http://buzztter.com/ja ちゅいったー, mステ, チキンタツタ, [14文字] #chuitter, エアタグ, 14文字, chuitter, 帰る, #bpstudy, 無双
higayasuo dankogaiがいるとhashベースのshardingは難しい:負荷が分散できないリスクがある #bpstudy (bp-study live > http://ustre.am/6r8D)
key3 うお、 #bpstudy がバズったw (bp-study live > http://ustre.am/6r8D)
tenja 凄え #bpstudy
sh2nd XtraBackupのエントリ起こしてたのこれですか。なるほろ #bpstudy
monjudoh ばずった RT @buzztter: http://buzztter.com/ja ちゅいったー, mステ, チキンタツタ, [14文字] #chuitter, エアタグ, 14文字, chuitter, 帰る, #bpstudy, 無双
haru860 MySQLのホットバックアップ ExtraBackup for hot-backupを使用 →使える #bpstudy
yuroyoro RT @higayasuo: dankogaiがいるとhashベースのshardingは難しい:負荷が分散できないリスクがある #bpstudy (bp-study live > http://ustre.am/6r8D)
bluerabbit777jp ユーストで見始めた #bpstudy (bp-study live > http://ustre.am/6r8D)
yuroyoro mysqld_jumpstartすごい便利そう #bpstudy
kazunori_279 shardingの主流はhashとrangeのどちらだろう。Yahooはhashと聞いたことがある #bpstudy
bluerabbit777jp 途中からでわからんなー。 #bpstudy (bp-study live > http://ustre.am/6r8D)
monjudoh RT @higayasuo: dankogaiがいるとhashベースのshardingは難しい:負荷が分散できないリスクがある #bpstudy (bp-study live > http://ustre.am/6r8D)
Masahito おーustだ http://www.ustream.tv/channel/bp-study #bpstudy
omasanori RT @monjudoh: RT @higayasuo: dankogaiがいるとhashベースのshardingは難しい:負荷が分散できないリスクがある #bpstudy (bp-study live > http://ustre.am/6r8D)
higayasuo Bigtableはrange shardingですよ #bpstudy (bp-study live > http://ustre.am/6r8D)
kentaro714 なんかもっと簡単に定式化できないのだろうか。 #bpstudy
kazunori_279 稼働中に分割できるの超便利! #bpstudy
key3 pacific_divideの実装強引だなw でも間違いがないしロバスト #bpstudy (bp-study live > http://ustre.am/6r8D)
sh2nd 再配置オンラインでやるのか〜 #bpstudy
tenja このソリューションはいいなぁ、アプリからDBのスケールアウトを追い出せる #bpstudy
monjudoh RT @higayasuo: Bigtableはrange shardingですよ #bpstudy (bp-study live > http://ustre.am/6r8D)
yuroyoro オンラインで分割ってすごいな #bpstudy
key3 似たアーキテクチャのツールを作ったが、設計が甘くて障害になって死ねた… #bpstudy (bp-study live > http://ustre.am/6r8D)
hirose31 というわけで泣く泣く離脱 #bpstudy
Yappo はげしく熱い #bpstudy lang:リナカフェ
key3 クライアントアプリケーション側のアクセス先切り替えはどうしているんだろう? #bpstudy (bp-study live > http://ustre.am/6r8D)
tokibito 目からゆろこ RT @yuroyoro オンラインで分割ってすごいな #bpstudy
kentaro714 うーむ。なんだかBKみたいに見えてしょうがないのはGoogleに毒されすぎなんだろうなぁ。 #bpstudy
key3 定義をRDBMS側とクライアントアプリケーションで共有して、コネクションオブジェクト(?)を取得するところで切り替えるのか。 #bpstudy (bp-study live > http://ustre.am/6r8D)
monjudoh BKをアプリケーションコードから追い出しているのが肝ではないか? RT @kentaro714: うーむ。なんだかBKみたいに見えてしょうがないのはGoogleに毒されすぎなんだろうなぁ。 #bpstudy
sugyan 会場暑いw #bpstudy
yuroyoro 分割中の書き込みエラー処理がゆるふわでワラタw #bpstudy
kazunori_279 しかしkazuhoさんみたいな人がいないと構築できなかったのがshardingの弱みだった #bpstudy
higayasuo 例外が出たら犬つきの画面を出そう #bpstudy (bp-study live > http://ustre.am/6r8D)
monjudoh 暑いからって全裸は駄目 RT @sugyan: 会場暑いw #bpstudy
matsunobu M x N台のDBサーバがあって、N shards、M replicasのとき、Inclineの更新コストはM x Nになるんじゃないのかな。参照は1だけど。 #bpstudy
yuroyoro 分割中のエラー画面にだすなんらかの動物が必要だということか?! #bpstudy
yuroyoro RT @monjudoh: 暑いからって全裸は駄目 RT @sugyan: 会場暑いw #bpstudy
matsunobu 大量の更新トラフィックに対してどうスケールできるかが気になる。 #bpstudy
haru860 右隅後ろの方の席の方、冷房付けてもらえませんか? #bpstudyRT @sugyan 右隅後ろの方の席の方、冷房付けてもらえませんか? #bpstudy
key3 @IanMLewis 分割定義の解釈を共通化しておかないと盛大にバグりそうです。low layerなハンドラが返ってくれば、上側は好きに作れるのであまり気にならない #bpstudy
kazunori_279 ANIMALトランザクションと名付けよう #bpstudy
sh2nd システム全体のバックアップとかどうするんじゃろ #bpstudy
katzchang RT @higayasuo: 例外が出たら犬つきの画面を出そう #bpstudy (bp-study live > http://ustre.am/6r8D)
key3 システム全体で一貫性のあるバックアップは取得不能な気がする #bpstudy
haru860 右隅後ろの方の席の方、可能であれば、冷房調整してもらえませんか? #bpstudy
kentaro714 前半もっと見れればよかったなー。 #bpstudy
key3 Q. shardingしている場合のJOINは出来ますか? A. しないでほしい。 #bpstudy
haru860 @key3 eventually consistencyですからね #bpstudy
Surgo 複数ノードにまたがる join はしないでほしい #bpstudy (bp-study live > http://ustre.am/6r8D)
key3 @haru860 前にバタラさんの講演をきいたとき、mixiも同様のアプローチを取っていました。 #bpstudy
higayasuo システム全体のバックアップはなく、ここのノードのレプリケーションで対応ということだと思う #bpstudy (bp-study live > http://ustre.am/6r8D)
frsyuki JOINするなら書き込むときに非同期で参照用のテーブルを更新すればいいかなーと思った。取得は速くなる。スケーラビリティは上がる。更新は遅くなる。データ量は増える。ACIDが欲しい場合はダメ #bpstudy
haru860 冷房を一気に20度/強風設定にしてきた #bpstudy
sugyan 冷房ついたので全裸にならずに済みました。 途中までの雑メモうp。 #bpstudy http://d.hatena.ne.jp/sugyan/20090925/1253877795
key3 涼しくなった #bpstudy (bp-study live > http://ustre.am/6r8D)
sh2nd ふむ RT @key3 システム全体で一貫性のあるバックアップは取得不能な気がする #bpstudy
yuroyoro 全裸プラス RT @sugyan: 冷房ついたので全裸にならずに済みました。 途中までの雑メモうp。 #bpstudy http://bit.ly/2vjIE
sh2nd ふむふむ RT @higayasuo システム全体のバックアップはなく、ここのノードのレプリケーションで対応ということだと思う #bpstudy (bp-study live > http://ustre.am/6r8D)
haru860 全裸集団になることを直前で回避した #bpstudy
monjudoh 素晴らしい全裸メモ RT @sugyan: 冷房ついたので全裸にならずに済みました。 途中までの雑メモうp。 #bpstudy http://d.hatena.ne.jp/sugyan/20090925/1253877795
fmfm_collector RT sh2nd: ふむふむ RT higayasuo システム全体のバックアップはなく、ここのノードのレプリケーションで対応ということだと思う #bpstudy (bp-study live > http://ustre.am/6r8D)
monjudoh 葉っぱ一枚あればいい RT @haru860: 全裸集団になることを直前で回避した #bpstudy
key3 incline/pacificを利用することでどのくらいの台数までスケール出来るんだろう。 #bpstudy (bp-study live > http://ustre.am/6r8D)
key3 バックアップの一貫性はshardの単位が限界かな。 #bpstudy (bp-study live > http://ustre.am/6r8D)
matsunobu 全体で一貫性のあるバックアップを取るには、MySQL側でグローバルトランザクションIDの導入が必要かと。ただ、主要マスタ(1箇所で管理)の整合性が取れていれば多くの場合問題ないので、だいぶ楽になる。 #bpstudy
aohta #bpstudy 死霊公開に期待
matsunobu バックアップ・リカバリ目的でスレーブを最低1個導入。shard数NならN x 2は最低限必要。 #bpstudy
haru860 りょうかいっす RT: @aohta #bpstudy 死霊公開に期待
kentaro714 アプリケーションへの影響ってどんくらいあるんだろ?Perlは環境含めてよーわからん…どこからがInclineとかの話なのかも。 #bpstudy
sh2nd Oracleのトリガは50回ネストするとエラーで止まるよ!w #bpstudy
key3 Q. incline/pacificのproduction releaseはいつですか? A. 研究専門なので解りません! #bpstudy
tenja apサーバもスケールアウトすると、自前アプリでスケールアウト実装するよりは、キューは遅くならないと思う #bpstudy
kentaro714 心から安心した。 RT @sh2nd: Oracleのトリガは50回ネストするとエラーで止まる #bpstudy
yuroyoro EC2とかに乗せるとスケールのメリットと可能性確保でウマーな感じかも #bpstudy
buzztter http://buzztter.com/ja 文字] via, ちゅいったー, mステ, [14文字], chuitter, perfume, チキンタツタ, 14文字, エアタグ, #bpstudy
key3 休憩入りマース。休憩後にデモ。 #bpstudy (bp-study live > http://ustre.am/6r8D)
matsunobu 声がほとんど聞こえないなー #bpstudy
higayasuo 2時間半一人でしゃべるのか #bpstudy (bp-study live > http://ustre.am/6r8D)
conceal_rs 休憩になった #bpstudy
tio_finallife みんなジャスト14字に挑戦してるのか。そうでなくちゃRT @buzztter: http://j.mp/dtLRO 文字] via, ちゅいったー, mステ, [14文字], chuitter, perfume, チキンタツタ, 14文字, エアタグ, #bpstudy
tenja ただ、EC2は遠いのだよねぇ。処理が速くなった意義を食い潰す位に RT @yuroyoro: EC2とかに乗せるとスケールのメリットと可能性確保でウマーな感じかも #bpstudy
haru860 Cloud Frontをうまく使えばいいですよ。RT @tenja ただ、EC2は遠いのだよねぇ。処理が速くなった意義を食い潰す位に RT @yuroyoro: EC2とかに乗せるとスケールのメリットと可能性確保でウマーな感じかも #bpstudy
higayasuo .@yuroyoro EC2のようなVMを使う仕組みはDisk I/Oが遅いのでDB中心のソリューションには向かないと思う #bpstudy (bp-study live > http://ustre.am/6r8D)
yuroyoro .@higayasuo .@tenja EC2だと今度はレイテンシが問題なるわけですか。難しいなー #bpstudy
tenja 動的コンテンツをCloud Frontに乗っけるのはまた考えなきゃならない事が多くてw RT @haru860: Cloud Frontをうまく使えばいいですよ。 #bpstudy
kentaro714 ustはじめて見たけど楽しかった。運営のみなさん本当にありがとうございます。 #bpstudy
haru860 休憩終了 #bpstudy
key3 休憩オワリ #bpstudy (bp-study live > http://ustre.am/6r8D)
key3 ホスト名にmini9って入ってるから、DELL mini 9/OSXな夢を見ているのかな #bpstudy (bp-study live > http://ustre.am/6r8D)
tenja 大規模VM環境は、スケールアップしてて、Diskが爆速になってる例もあるので一概には RT @higayasuo: .@yuroyoro EC2のようなVMを使う仕組みはDisk I/Oが遅いのでDB中心のソリューションには向かないと思う #bpstudy
key3 inclineのデモ開始。mysqld_jumpstartしてcreate database bpstudy #bpstudy (bp-study live > http://ustre.am/6r8D)
monjudoh 今日の分の #bpstudy タイムラインは旅行から帰ってきたくらいの頃にはてダに上げる所存。FirebugとFireQueryがあれば普通に抽出出来るだろうし。
yuroyoro リモートもんじゅとりんぐスゲェ RT @monjudoh: 今日の分の #bpstudy タイムラインは旅行から帰ってきたくらいの頃にはてダに上げる所存。FirebugとFireQueryがあれば普通に抽出出来るだろうし。
key3 バックアップを取得してコピー、mysqld_jumpstartによるslaveの立ち上げデモ。 #bpstudy (bp-study live > http://ustre.am/6r8D)
higayasuo RT @tenja: 大規模VM環境は、スケールアップしてて、Diskが爆速になってる例もあるので一概には #bpstudy
haru860 すげー #bpstudy
sugyan SQLライブコーディングww #bpstudy
key3 生成されたslaveノードは立ち上がった時点でmasterからのレプリケーションを受け取る構成になる。 #bpstudy (bp-study live > http://ustre.am/6r8D)
tenja RAMディスクにファイル置いて高速化して、ホットバックアップはHDDへという手もある RT @yuroyoro: .@higayasuo .@tenja EC2だと今度はレイテンシが問題なるわけですか。難しいなー #bpstudy
key3 masterでcreate table, slaveにレプリケーション成功しているデモ #bpstudy (bp-study live > http://ustre.am/6r8D)
yuroyoro このslaveの立ち上げだけでも十分利用価値がある #bpstudy
key3 これは便利そうだなあ #bpstudy (bp-study live > http://ustre.am/6r8D)
yuroyoro もうちょっと字が大きいといいなぁ #bpstudy
toshiak_netmark なんかもう、いろいろすげー RT @haru860: すげー #bpstudy
tokibito RT @yuroyoro このslaveの立ち上げだけでも十分利用価値がある #bpstudy
toshiak_netmark jsonの設定ファイル、{}とか[]とか多くて見づらいなぁ。 #bpstudy
haru860 そんなあなたにXML RT: @toshiak_netmark jsonの設定ファイル、{}とか[]とか多くて見づらいなぁ。 #bpstudy
key3 inclineのコマンドラインからキューテーブル作成 #bpstudy (bp-study live > http://ustre.am/6r8D)
yuroyoro Queueテーブル出来た。 Triggerはどうなってんだろ? #bpstudy
key3 yamlが好きです RT @haru860: そんなあなたにXML RT: @toshiak_netmark jsonの設定ファイル、{}とか[]とか多くて見づらいなぁ。 #bpstudy
toshiak_netmark 目が眩みそう。XML好きですけどねw RT @haru860: そんなあなたにXML RT: @toshiak_netmark jsonの設定ファイル、{}とか[]とか多くて見づらいなぁ。 #bpstudy
tenja この手順はツール化できるか、そうするとかなり楽だな #bpstudy
tokibito YAMLで。 RT @haru860 そんなあなたにXML RT: @toshiak_netmark jsonの設定ファイル、{}とか[]とか多くて見づらいなぁ。 #bpstudy
toshiak_netmark どんだけペアプロしたら、こんなに堂々とできるようになるんだろう #bpstudy
key3 キューテーブル作成と同時に、master側にはincline同作用のtriggerが適用される。 #bpstudy (bp-study live > http://ustre.am/6r8D)
toshiak_netmark XMLよりもYAMLのほうがすっきりしそう。RT @tokibito: YAMLで。 RT @haru860 そんなあなたにXML RT: @toshiak_netmark jsonの設定ファイル、{}とか[]とか多くて見づらいなぁ。 #bpstudy
key3 masterのtimelineテーブルにinsertする #bpstudy (bp-study live > http://ustre.am/6r8D)
yuroyoro triggerの発火順序が問題になるケースはあるのかな? #bpstudy
toshiak_netmark MySQLは1table 1triggerだから問題にならないtsRT @yuroyoro: triggerの発火順序が問題になるケースはあるのかな? #bpstudy
key3 triggerで関連するユーザのデータにもinsertされる #bpstudy (bp-study live > http://ustre.am/6r8D)
yuroyoro ナルホディウス! RT @toshiak_netmark: MySQLは1table 1triggerだから問題にならないtsRT @yuroyoro: triggerの発火順序が問題になるケースはあるのかな? #bpstudy
yuitowest 奥さん楽しそう #bpstudy
buzztter http://buzztter.com/ja ちゅいったー, mステ, [14文字] via, 文字] via, チキンタツタ, chuitter, 14文字, エアタグ, #bpstudy, perfume
key3 inclineの転送デーモン動かしていなかったw #bpstudy (bp-study live > http://ustre.am/6r8D)
monjudoh 1table 1triggerなのか RT @toshiak_netmark: MySQLは1table 1triggerだから問題にならないts RT @yuroyoro: triggerの発火順序が問題になるケースはあるのかな? #bpstudy
key3 A better cacheの話 #bpstudy (bp-study live > http://ustre.am/6r8D)
yuitowest デモおしまい #bpstudy
sh2nd MySQLはinsert before triggerが1つ、insert after triggerが1つ。なのでincline使うと業務アプリはトリガ使っちゃダメ縛りが発生すると思う #bpstudy
tenja 書き込みはIncline使って、複雑な読み込みは自前で実装するのが良さそうだ #bpstudy
key3 inclineのアーキテクチャをどこかで見たと思ったがPostgreSQL/Slony-Iに似ている #bpstudy (bp-study live > http://ustre.am/6r8D)
key3 RDBMSスケールしない→スケールするキャッシュが欲しい #bpstudy (bp-study live > http://ustre.am/6r8D)
chkfj mycached #bpstudy
key3 incline/pacific使えばRDBMSスケールする!→でもSQLは遅い #bpstudy (bp-study live > http://ustre.am/6r8D)
conceal_rs ライブ感たっぷり #bpstudy
key3 mycached: MySQLのテーブルにmemcached protocolでアクセスできる→ただしprimary keyにでのgetのみ #bpstudy (bp-study live > http://ustre.am/6r8D)
matsunobu UDFでネットワークサーバを実装するという発想がすごい。 #bpstudy
yuroyoro memcachプロトコルのGETのケツにフォーマット指定できるのか−。こういうの好き #bpstudy
tenja テーブルによっては、JavaScriptでデータ取れるようになる? #bpstudy
key3 レスポンス形式はmemcache native, json, messagepack #bpstudy
key3 レスポンス形式選べるのかっこいいな! RESTfulなweb apiのようだ #bpstudy (bp-study live > http://ustre.am/6r8D)
tenja DB自体もキャッシュするから、3次キャッシュ的な? #bpstudy
PinkSweets バッテリー切れタイミング良くて吹いた #bpstudy
key3 おしまい #bpstudy (bp-study live > http://ustre.am/6r8D)
bongole 8888888 #bpstudy
monjudoh ぱちぱちぱちぱち #bpstudy
sugyan 終了ー。お疲れさまでした。 @kazuho++ #bpstudy
sh2nd とてもよかった ustreamありがとうございます>運営の方 #bpstudy
key3 http://mitsukuni.org/bpstudy_25.txt メモ。必要な方どうぞ。 #bpstudy (bp-study live > http://ustre.am/6r8D)
Masahito お疲れ様でした。 #bpstudy
matsunobu 発表 & ustreamありがとうございました。 #bpstudy
chkfj すげー面白かった、スレーブ簡単に作れるだけでもすごいとか思いました #bpstudy
tadayosi あ、 @kentaro714 さんがBPStudyに参加しているようだ。 #bpstudy
Surgo ありがとございます RT: @key3: @Surgo http://bit.ly/5OAfM これかな #bpstudy (bp-study live > http://ustre.am/6r8D)
Surgo ゆーすとありがとございました! #bpstudy (bp-study live > http://ustre.am/6r8D)
shibukawa #bpstudy 行きたかったな。とレモン牛乳を飲みながら。
cisvul YAML... me, too!! RT @key3 yamlが好きです RT @haru860: そんなあなたにXML RT: @toshiak_netmark jsonの設定ファイル、{}とか[]とか多くて見づらいなぁ。 #bpstudy
MiCHiLU #BPStudy 素晴らしい
kazunori_279 @kazuho 今日は #bpstudy ありがとうございました!Incline/Pacificすごいですね。Linuxのスレッドスケーラビリティの話も面白かったです〜。