Java 5.0時代じだいの非同期ひどうき処理しょり技術ぎじゅつから学まなび直なおすScala/Java非同期ひどうき処理しょり

Transcript

1. Java 5.0時代じだいの非同期ひどうき処理しょり技術ぎじゅつから学まなび直なおす Scala/Java 非同期ひどうき処理しょり マーベリック株式会社かぶしきがいしゃ リチャード 伊い真岡しんおか

2. 現代げんだいのアプリケーション開発かいはつは 非同期ひどうき処理しょりが重要じゅうよう

3. モバイルアプリケーションでの 同時どうじ多発たはつ的てきな処理しょり

4. 処理しょりがまずいと...

5. サーバー側がわでも様々さまざまな処理しょりを 同時どうじに行おこなう

6. ZIO CatsEffect Monix Future Akka チュートリアルを見みれば それっぽい物ものは書かける... Finagle

7. 今日きょうのながれ • 抽象ちゅうしょう度どの低ひくいものから高たかいものへと少すこしずつ学まなぶ • Java5.0からの歴史れきしを学まなぶ、各かく技術ぎじゅつの背景はいけいとつながりを学まなぶ

8. マルチスレッド Multi-threaded Concurrent Asynchronous 平行へいこう 非同期ひどうき 用語ようごについて

9. マルチスレッド Multi-threaded Concurrent Asynchronous 平行へいこう 用語ようごについて このスライドでは「非同期ひどうき」という単語たんごをよく使つかうが 平行へいこう・マルチスレッド処理しょりでもある物ものが中心ちゅうしん 非同期ひどうき

10. None

11. Java Memory Model と Java 5 の非同期ひどうき処理しょり

12. None
13. None

14. Oracle Concurrency guide https://docs.oracle.com/javase/tutorial/essentia l/concurrency/ 今日きょう一いち番ばん覚おぼえておいて ほしい資料しりょう！！！

15. Thread & Runnable public class MyRunnable implements Runnable { public

    void run() { ... } } Thread thread = new Thread(new MyRunnable()); thread.start();
16. None

17. java.util.concurrent (Java 5.0 以降いこう)

18. ExecutorService ExecutorService service = …; service.execute(runnable);

19. None
20. None
21. None

22. 非同期ひどうきで起おこる問題もんだいの一いち例れい

23. thread interference (非ひatomic処理しょり) class Counter { private int c =

    0; public void increment() { c++; } public void decrement() { c--; } public int value() { return c; } }
24. None
25. None

26. 1. Thread A: int c 取得しゅとく 2. Thread B: int

    c 取得しゅとく 3. Thread A: 取得しゅとくした値ねをIncrement 4. Thread B: 取得しゅとくした値ねをDecrement 5. Thread A: cに1を書かき込こみ 6. Thread B: cに-1を書かき込こみ (6が5を上書うわがき)

27. synchronized class Counter { private int c = 0; public

    synchronized void increment() { c++; } public synchronized void decrement() { c--; } public int value() { return c; } }
28. None
29. None
30. None

31. synchronized atomic happens-before

32. happens-before

33. None
34. None
35. None

36. data race (memory-consistency error)

37. 順番じゅんばん(happens-before)があれば 期待きたいされる状態じょうたいを導みちびける

38. None

39. 少すくなくともどちらか一方いっぽうが writeである場合ばあい conflicting access data race (問題もんだい) の原因げんいん

40. Java Memory Model Java 5.0 (1.5) からの導入どうにゅう https://www.cs.umd.edu/~pugh/java/memoryModel /jsr133.pdf http://gee.cs.oswego.edu/dl/jmm/cookbook.html

    http://www.cs.umd.edu/~pugh/java/memoryModel/

41. 非同期ひどうき処理しょりの理論りろん的てきな研究けんきゅう Java Memory Modelは当時とうじの学術がくじゅつ 的てきな非同期ひどうき処理しょり研究けんきゅうにもとづい て作つくられている。

42. Java 5.0ではSynchronizedの他ほかにも data raceを避さけるツールが導入どうにゅうされた

43. java.util.concurrent.locks Lock ReadWriteLock Condition ReentrantLock ...

44. volatile “write to a volatile variable establishes a happens-before relationship

    with subsequent reads of that same variable” volatile int counter = 0;

45. atomic java.util.concurrent.atomic AtomicInteger AtomicBoolean AtomicLong AtomicReference ... //CAS operation boolean

    compareAndSet(expectedValue, updateValue); CASはCPUでサポートされた操作そうさ java.util.concurrent.atomicはそれを利用りようする

46. 　1.CAS成功せいこう例れい

47. 　2.CAS成功せいこう例れい

48. 　3.CAS成功せいこう例れい memory location value == expected

49. 　1.CAS失敗しっぱい例れい

50. 　2.CAS失敗しっぱい例れい

51. 　3.CAS失敗しっぱい例れい memory location value != expected

52. thread-safe collections java.util.concurrent ConcurrentHashMap ConcurrentLinkedQueue ... CASを利用りよう

53. • Java Memory Model 仕様しよう ◦ happens-before ◦ volatile, synchonized,

    locks • java.util.concurrency ツール ◦ locks, atomic, ExecutorService, thread-safe collections ◦ これらをうまく使つかうパターン、抽象ちゅうしょう度どの更さらに高たかいツールは後年こうねん Java 1.4 -> 5.0 時代じだいのまとめ

54. ここまでの話はなしは後あとでくり返がえし出でてきます！

55. OSとCPU

56. Netflixのパフォーマンス分析ぶんせきエンジニア Brendan Gregg氏しが2013年ねんに書かいた CPUやメモリの動作どうさがOSレベルでどう使つかわ れているかについて参考さんこうになる章しょうがある http://www.brendangregg.com/sysperfbook.html

57. None

58. CPUとキャッシュ Stack Exchange - Where exactly L1, L2 and L3

    Caches located in computer? https://superuser.com/questions/1961 43/where-exactly-l1-l2-and-l3-caches-loc ated-in-computer キャッシュは「スレッド ごとのメモリ空間くうかん」に関せき わる -> data race -> happens-before

59. CPUとキャッシュ Stack Exchange - Where exactly L1, L2 and L3

    Caches located in computer? https://superuser.com/questions/1961 43/where-exactly-l1-l2-and-l3-caches-loc ated-in-computer キャッシュは「スレッド ごとのメモリ空間くうかん」に関せき わる -> data race -> happens-before data race (memory-consistency error)
60. None
61. None
62. None

63. 同時どうじに走はしるスレッドは 高々たかだかCPUコア数すう

64. 同時どうじに走はしるスレッドは 高々たかだかCPUコア数すう

65. 同時どうじに走はしるスレッドは 高々たかだかCPUコア数すう

66. 同時どうじに走はしるスレッドは 高々たかだかCPUコア数すう

67. GUIとThread

68. A Swing programmer deals with the following kinds of threads:

    • Initial threads, the threads that execute initial application code. • The event dispatch thread, where all event-handling code is executed. Most code that interacts with the Swing framework must also execute on this thread. • Worker threads, also known as background threads, where time-consuming background tasks are executed. スレッド使用しよう例れい Swing guide UI framework (Java 5.0以前いぜんから使つかわれていた) https://docs.oracle.com/javase/tutorial/uiswing /concurrency/index.html
69. None
70. None
71. None
72. None

73. BrowserのEvent Loop

74. None

75. event loop

76. event loop

77. main() function funC(c) { … //make an ajax call }

    function funcB(b) { return funcC(b); } function funcA(a) { return funcB(a); } funcA(“my user data string”); call stack event loop

78. funcA() main() function funC(c) { … //make an ajax call

    } function funcB(b) { return funcC(b); } function funcA(a) { return funcB(a); } funcA(“my user data string”); call stack event loop

79. funcB() funcA() main() function funC(c) { … //make an ajax

    call } function funcB(b) { return funcC(c); } function funcA(a) { return funcB(a); } funcA(“my user data string”); call stack event loop

80. funcB() funcA() main() function funC(c) { … //make an ajax

    call } function funcB(b) { return funcC(b); } function funcA(a) { return funcB(a); } funcA(“my user data string”); funcC() call stack event loop

81. funcB() funcA() main() function funC(c) { … //make an ajax

    call } function funcB(b) { return funcC(c); } function funcA(a) { return funcB(a); } funcA(“my user data string”); funcC() call stack event loop ajax コール

82. funcB() funcA() main() function funC(c) { … //make an ajax

    call } function funcB(b) { return funcC(c); } function funcA(a) { return funcB(a); } funcA(“my user data string”); call stack event loop

83. funcB() funcA() main() function funC(c) { … //make an ajax

    call } function funcB(b) { return funcC(c); } function funcA(a) { return funcB(a); } funcA(“my user data string”); call stack event loop

84. funcA() main() function funC(c) { … //make an ajax call

    } function funcB(b) { return funcC(c); } function funcA(a) { return funcB(a); } funcA(“my user data string”); call stack event loop

85. main() function funC(c) { … //make an ajax call }

    function funcB(b) { return funcC(c); } function funcA(a) { return funcB(a); } funcA(“my user data string”); call stack event loop

86. function funC(c) { … //make an ajax call } function

    funcB(b) { return funcC(c); } function funcA(a) { return funcB(a); } funcA(“my user data string”); event loop ajax コールバック タスクキュー

87. タスクキューも含ふくめたアニメーション

88. ajax コール

89. ajax コールバック

90. None
91. None
92. None

93. 関数かんすう型がたプログラミングと immutable object

94. 少すくなくともどちらか一方いっぽうが writeである場合ばあい conflicting accessは data race (問題もんだい) の原因げんいん

95. Java Memory Model でもdata raceは主要しゅような関心事かんしんじ https://www.cs.umd.edu/~pugh/java/memoryMod el/jsr133.pdf http://gee.cs.oswego.edu/dl/jmm/cookbook.html http://www.cs.umd.edu/~pugh/java/memoryModel/

96. None
97. None

98. オブジェクトを変更へんこうする際さいは新あたらしいインスタンス を作成さくせい、元もとのオブジェクトはそのまま

99. Oracle Concurrency guide もimmutable objectに 言及げんきゅうしている • setterダメ • final,

    private • ...
100. None

101. Akkaとactor model

102. rich, realtime -> 状態じょうたい ?

103. IDを持もつオブジェクトの内部ないぶ状態じょうたいが変化へんかする例れい

104. IDでクエリ

105. IDでクエリ

106. IDを持もつオブジェクトのインスタンスが 複数ふくすうスレッドに存在そんざいする場合ばあい

107. どのスレッドに対たいして クエリ？

108. デーモンスレッドにオブジェクトのインスタンスを保持ほじ

109. デーモンスレッドにオブジェクトのインスタンスを保持ほじ

110. デーモンスレッドにオブジェクトのインスタンスを保持ほじ

111. None

112. クエリはできたしかし...

113. 少すくなくともどちらか一方いっぽうが writeである場合ばあい conflicting accessは data race (問題もんだい) の原因げんいん

114. conflicting accessはの正ただしい管理かんりは難むずかしい

115. conflicting accessはの正ただしい管理かんりは難むずかしい

116. shared mutable: 複雑ふくざつさの元凶げんきょう shared mutable: おもしろさの源みなもと

117. アプリケーションの状態じょうたいをすべて データベースで管理かんりする方法ほうほう

118. データベース周まわりの ソースコードが複雑ふくざつ

119. 複雑ふくざつさのバランスを アプリケーション側がわ との間あいだでとる

120. オブジェクトの内部ないぶ状態じょうたい

121. Actorでオブジェクトの内部ないぶ状態じょうたいを隠蔽いんぺい

122. Actorどうしはメッセージを送おくり合あって通信つうしん

123. Akka actorコードサンプル actor ! message class MyActor extends Actor {

     var state = ... def receive = { case MessageTypeX => ... case MessageTypeY => ... case MessageTypeZ => ... } }

124. SenderはReceiverのスレッドセーフなキューに メッセージを送おくる

125. None

126. 複数ふくすうSenderから同時どうじに メッセージを送おくることが可能かのう

127. Akka actorのメッセージキューは デフォルトで ConcurrentLinkedQueue

128. Akka actorのメッセージキューは デフォルトで ConcurrentLinkedQueue

129. Akka actorのメッセージキューは デフォルトで ConcurrentLinkedQueue

130. Receiver側がわの動作どうさを追おっていく

131. None

132. 単一たんいつのスレッドがReceiverの receiveメソッドを走はしらせる スレッド1 スレッド2

133. スレッド1 スレッド2 Receiverはキューから一ひとつずつ メッセージを取とり出だし処理しょりする

134. スレッド1 スレッド2 Receiverの実行じっこうスレッドは 入いれ替かわることがある

135. ActorのReceiveメソッドは いかなる時ときも最大さいだい一ひとつのスレッド によって実行じっこう スレッド0 スレッド1 スレッド2

136. スレッド0 スレッド1 Receiverはキューからメッセージ がなくなったら次つぎを待まつ

137. Akka official documentation https://doc.akka.io/docs/akka/current/general/jmm. html#actors-and-the-java-memory-model 自分じぶんでvolatileを使つかう 必要ひつようはない Akkaが面倒めんどうを見みてくれる ActorのReceiveメソッドは いかなる時ときも最大さいだい一ひとつのスレッド

     によって実行じっこう
138. None

139. volatile “write to a volatile variable establishes a happens-before relationship

     with subsequent reads of that same variable”

140. > さらにvolatileな変数へんすうをreadす るとき、read側がわのスレッドは最さい 新しんのvolatile変数へんすうの変更へんこうのみなら ず、そこへ至いたるまでのコードの 副作用ふくさようまで観測かんそくすることになる Oracle concurrency guide

141. akkaのDispatcherは内部ないぶで ExecutorServiceへの参照さんしょうを持もつ akkaの ! メソッドはDispatcher のdispatchメソッドの内部ないぶで ExecutorServiceのexcecuteメ ソッドを呼よぶ するとThread Poolに対たいして

     Actorのreceiveメソッドをスケ ジュールする Dispatcher Thread Pool ExecutorService dispatch() execute()

142. Akka actor modelまとめ • shared mutableは難むずかしいが重要じゅうような場合ばあいがある • actor modelはshared mutable管理かんりの一ひとつの解かい

     • AkkaはJava 5.0時代じだいからのツールを内部ないぶで使つかう

143. 関数かんすう型がた方面ほうめんの近年きんねんの進化しんか

144. Scalaで非同期ひどうき処理しょりを主要しゅよう機能きのうに含ふくむライブラリ Scala標準ひょうじゅん Monix Cats Effect ZIO

145. 共通きょうつうなパターン

146. Cats Effect SemaphoreやMVarなどの 低ていレベルな非同期ひどうき処理しょりの パーツを acquire, releaseなどの コンビネータとともに定義ていぎ https://typelevel.org/cats-effect/

147. Cats Effect 安全あんぜんに非同期ひどうき処理しょりの低ていレベ ルなbuilding blockを実装じっそう

148. Cats Effect Scalaのfor文ぶんとモナドを組くみ み合あわせるテクニックに よってChainingを実現じつげん 型がた安全あんぜんなので各かく処理しょりステッ プの戻もどり値ち型がたとエラー型がたが 合あわなければコンパイラが エラーで教おしえてくれる https://typelevel.org/cats-effect/

149. https://typelevel.org/cats-effect/

150. https://typelevel.org/cats-effect/ Swing GUI Event Dispatcher Background Threads Main Thread

151. https://typelevel.org/cats-effect/ https://typelevel.org/cats-effect/ Event Loop Event Loop Service Worker Web API/File

     IO

152. https://typelevel.org/cats-effect/ https://typelevel.org/cats-effect/ Akka Default Dispatcher Future on thread pool IO

     thread pool

153. 今こん話題わだいのEnvoyでもEvent Loopモデルは取とり入いれられ ている ここまでの話はなしを踏ふまえれば 比較的ひかくてき容易よういに理解りかいできるは ず https://blog.envoyproxy.io/envoy-threading- model-a8d44b922310

154. ZIO try/catchブロックを型かた安全あんぜんに 行おこなう例れい ファイルやデータベースのリ ソース開放かいほうに便利べんり https://zio.dev/

155. ZIO こちらもコンビネータを使つかって Chainingを行おこなうことができる https://zio.dev/

156. None
157. None

158. ZIO fiberもAkka Actorsも 軽量けいりょうスレッドとしての役割やくわりを果はて たす。 OSスレッドはメモリ使用しよう量りょうも多おお くかつスイッチングコストも高たか いので、軽量けいりょうスレッドのほうが 効率こうりつが良よい OS

     Threads Actors OS Threads Fibers Akka ZIO

159. 自分じぶんの過去かこ • 新卒しんそつから9年間ねんかん自社じしゃ言語げんご: シングルスレッド・同期どうきIOのみ • Javaの非同期ひどうき怖こわかった • actor modelの実装じっそうであるAkkaに興味きょうみを持もつ

160. 非同期ひどうき処理しょりを楽たのしく学まなぶ • わかりにくかったら抽象ちゅうしょう度どの低ひくいものを先さきに学まなぶのもアリ • 今回こんかいの発表はっぴょうからひとつだけでも興味きょうみを持もって欲ほしい

161. マーベリックではエンジニア募集ぼしゅう中ちゅう

162. 文献ぶんけん https://twitter.com/csgillespie/status/… CPUクロック周波数しゅうはすうに関かんするグラフ付つきツイート。 Computer Hope processor history https://www.computerhope.com/history/processor.htm AMDが2005年ねんに初はつのdual-coreを発売はつばいなど。

163. Oracle Concurrency guide https://docs.oracle.com/javase/tutorial/… Java 5.0やそれ以前いぜんから続つづく非同期ひどうき処理しょり技術ぎじゅつに詳くわしい。 Java Memory ModelとJava 5.0

     Oracle Concurrency in Swing guide https://docs.oracle.com/javase/tutorial/uiswing/... UIでのスレッド管理かんりプラクティスとして一部いちぶ今いまも通用つうようする。

164. The JSR-133 Cookbook for Compiler Writers　 http://gee.cs.oswego.edu/dl/jmm/cookbook.html JSR-133に深ふかく関かかわったDoug Lea教授きょうじゅによる情報じょうほう。 The

     Java Memory Model　 http://www.cs.umd.edu/~pugh/java/memoryModel/ JSR-133仕様しよう書しょに載のっていない周辺しゅうへん情報じょうほう。 Simple, Fast, and Practical Non-Blocking and Blocking Concurrent Queue Algorithms https://www.cs.rochester.. ConcurrentLinkedQueue実装じっそうに使つかわれたアルゴリズム。 JSR-133 https://www.cs.umd.edu/~pugh/… Java Memory Model仕様しよう書しょ。happens-beforeを始はじめ様々さまざまな概がい 念ねんやコンパイラ最適さいてき化かの影響えいきょうなどが解説かいせつされている。

165. OSとCPU Systems Performance https://www.amazon.com/gp… Netflixのパフォーマンス分析ぶんせきエンジニアBrendan Gregg氏しに よる著書ちょしょ。CPUとスレッドについての章しょうがある。 Brendan Gregg’s Home

     page http://www.brendangregg.com/overview.html Brendan Gregg氏しの著書ちょしょにも関かかわる様々さまざまな情報じょうほうがある See How a CPU works https://youtu.be/cNN_tTXABUA Scott CPUという教育きょういく用ようの仮想かそう的てきなCPUを題材だいざいに動画どうがで解説かいせつ している。

166. GUIとThread The Node.js Event Loop, Timers, and process.nextTick() https://nodejs.org/uk/docs/guides/... 公式こうしきドキュメント。各かくフェーズ毎ごとの詳細しょうさいな解説かいせつ。

     GitHub: libuv https://github.com/libuv/libuv/... node.js内部ないぶで使つかわれているイベントループの実装じっそうを含ふくむ非ひ同どう 期きI/Oライブラリ。Cで書かかれている。 YouTube: What the heck is the event loop anyway? JSConf https://youtu.be/8aGhZQkoFbQ アニメーションを駆使くししたevent loop解説かいせつ。100万まん再生さいせい以上いじょう。

167. MDN web docs: Concurrency model and Event Loop https://developer.mozilla.org/en-US/docs/... MozillaによるEvent

     Loop解説かいせつ Akka docs: https://akka.io/docs/ 公式こうしきのドキュメント edX: Programming Reactive Systems https://www.edx.org/... AkkaのメンテナであったKonrad Malawski氏しが中心ちゅうしんとなって 作つくったオンライン学習がくしゅうコース Akkaとactor model

168. 関数かんすう型がた方面ほうめんの進化しんか(Scala) Monix https://monix.io/ イベント駆動くどうで高こうパフォーマンスな非同期ひどうきプログラムを書かくサ ポートをするライブラリ。 Cats Effect https://typelevel.org/cats-effect/ I/Oを表あらわす型かたを提供ていきょうするライブラリ。同期どうきおよび非同期ひどうきの Effectを表現ひょうげんすることができる。

     ZIO https://zio.dev/ 型かた安全あんぜんでcomposableで非同期ひどうきな処理しょりをかけるライブラリ。

169. YouTube: The Making of an IO - Daniel Spiewak https://youtu.be/g_jP47HFpWA

     関数かんすう型がたプログラムと非同期ひどうき処理しょりの関係かんけいを説明せつめい。Cats Effectの思想しそう やスレッドプール使つかい分わけベストプラクティスにも触ふれる