Spring Cloud Netflixを使おう #jsug

1@Copyright 2016 Pivotal. All rights reserved. 1@Copyright 2016 Pivotal. All rights reserved.
Spring Cloud Netflixを使おう
Japan Spring User Group勉強会2016その1
Toshiaki Maki ● @making
Feb 1 2016

2@Copyright 2016 Pivotal. All rights reserved.
Contents
• NetflixとSpring Cloudについて
• Spring Cloud Netflixについて
• PaaSにデプロイしよう
• Spring Cloud Services

資料のURL
ハッシュタグは #jsug
http://bit.ly/jsug-cloud

今日のソースコード
https://github.com/making/jsug-spring-cloud

2015年9月1日日本でもストーリーミングサービス開始

http://hibana-netflix.jp/

https://ja.wikipedia.org/wiki/ネットフリックス

http://www.statista.com/statistics/250934/quarterly-number-of-netflix-streaming-subscribers-worldwide/

http://www.slideshare.net/BruceWong3/the-case-for-chaos/12
Micro Services
Continuous
Delivery
DevOps
圧倒的スピードで成長するビジネスを支える

http://netflix.github.io/
• Eureka
• Ribbon
• Hystrix
• Turbine
• Zuul
• Feign
• Atlas
• …

Spring Cloud
• 分散システムの共通パターンの実装を提供
 Distributed Configuration
 Service Registry
 Circuit Breaker
 Leadership Election
 Distributed Messaging
 Distributed Tracing
 …
• Dr. Dave Syer, Spencer Gibbがメイン開発者
http://projects.spring.io/spring-cloud/

Spring Cloudサブプロジェクト
• Spring Cloud Config
• Spring Cloud Netflix
• Spring Cloud Consul
• Spring Cloud Sleuth
• Spring Cloud Stream
• Spring Cloud Task
• Spring Cloud Data Flow
• …

Spring Cloud Netflix
• Netflix OSSをSpring Bootと合わせて簡単に使う
ためのライブラリ
• Netflixでも使われている
https://youtu.be/6wvVANQ6EJ8

Release Train
Spring Cloud (BOM) Angel.SR6 Brixton.M4 Brixton.BUILD-SNAPSHOT
Spring Cloud Netflix 1.0.7.RELEASE 1.1.0.M4 1.1.0.BUILD-SNAPSHOT
Spring Cloud Config 1.0.4.RELEASE 1.1.0.M4 1.1.0.BUILD-SNAPSHOT
Spring Cloud Commons 1.0.5.RELEASE 1.1.0.M4 1.1.0.BUILD-SNAPSHOT
Spring Cloud Consul - 1.0.0.M5 1.0.0.BUILD-SNAPSHOT
Spring Cloud Zookeeper - 1.0.0.M4 1.0.0.BUILD-SNAPSHOT
Spring Cloud Sleuth - 1.0.0.M4 1.0.0.BUILD-SNAPSHOT
Spring Cloud Stream - 1.0.0.M3 1.0.0.BUILD-SNAPSHOT
Spring Cloud Task - - 1.0.0.BUILD-SNAPSHOT
Spring Cloud Dataflow - 1.0.0.M2 1.0.0.BUILD-SNAPSHOT
Spring Boot 1.2.8.RELEASE 1.3.1.RELEASE 1.3.2.RELEASE

Spring Cloudの使い方
<dependencyManagement>
<dependencies>
<dependency>
<groupId>org.springframework.cloud</groupId>
<artifactId>spring-cloud-starter-parent</artifactId>
<version>Brixton.M4</version>
<type>pom</type>
<scope>import</scope>
</dependency>
</dependencies>
</dependencyManagement>

Spring Cloud Netflix

サービス多すぎ
接続情報の管理大変

Service Discoveryパターン
https://docs.pivotal.io/spring-cloud-services/service-registry/
Client(Consumer)が
API(Producer)へ直接
アクセスするのではな
く、Registryを経由す
る

サービス名から物理アドレスを解決
Service Name IP:PORT
customer 192.168.11.1:8080
192.168.11.2:8080
…
order
192.168.11.11:8080
192.168.11.12:8080
…
catalog 192.168.11.21:8080
192.168.11.22:8080
…

Eureka
• RESTベースのService Registryサーバー
• Netflixを支えるベース
http://techblog.netflix.com/2012/09/eureka.html

Eureka Client
Service Consumer
Service Producer
Service Registry
Eureka Server
Eurekaを使う場合の基本構成

Eureka Client
Service Consumer
Service Producer
Service Registry
Eureka Server
Service Info (Cache)
Heart Beat

Eureka Client
Service Consumer
Service Producer
Service Registry
Eureka Server
Service Info (Cache)
キャシュを使うので、
Eureka Serverがダウンしても
Clientはサービス継続可能

Eureka Serverの作成
<dependency>
<artifactId>spring-cloud-starter-eureka-server</artifactId>
</dependency>

https://start.spring.io

Eureka Serverの作成
@SpringBootApplication
@EnableEurekaServer
public class DemoApplication {
public static void main(String[] args) {
SpringApplication.run(DemoApplication.class,args);
}
}

Stand Aloneモード
# 慣習的ポート番号
server.port=8761
# Eurekaサーバーへの登録は不要
eureka.client.register-with-eureka=false
eureka.client.fetch-registry=false
application.properties

Dashboard

DEMO

マルチインスタンスモード
server.port=8761
eureka.instance.hostname=peer1
# Eurekaサーバーへ登録
eureka.client.register-with-eureka=true
eureka.client.fetch-registry=true
# 登録するEurekaサーバーへのURL(Eurekaサーバー自体がクライアント)
eureka.client.service-url.defaultZone=http://peer2:8762/eureka/
application-peer1.properties

マルチインスタンスモード
server.port=8762
eureka.instance.hostname=peer2
# Eurekaサーバーへ登録
eureka.client.register-with-eureka=true
eureka.client.fetch-registry=true
# 登録するEurekaサーバーへのURL(Eurekaサーバー自体がクライアント)
eureka.client.service-url.defaultZone=http://peer1:8761/eureka/
application-peer2.properties

$ ./mvnw clean package -Dmaven.test.skip=true
$ java -jar target/*.jar --spring.profile.active=peer1
$ java -jar target/*.jar --spring.profile.active=peer2
Eureka Serverインスタンス1(ビルド&)起動
Eureka Serverインスタンス2起動
ローカルで試す場合は/etc/hostsにpeer1とpeer2を登録

インメモリのキャッシュにメタデータを保持し
ているので、自動復旧機能があるプラットフ
ォーム(Cloud Foundryなど)上であれば
Stand Aloneモードで十分

Eureka Clientの作成
<dependency>
<artifactId>spring-cloud-starter-eureka</artifactId>
</dependency>

Eureka Client (Producer)
@EnableDiscoveryClient
@RestController
public class ProducerApplication {
private static final UUID id = UUID.randomUUID();
@RequestMapping(path = "/")
String hello() {
return "Hello @" + id;
}
public static void main(String[] args) {
SpringApplication.run(ProducerApplication.class, args);
}
}

Eureka Client (Producer)
server.port=9000
# 登録するEurekaサーバーのURL
eureka.client.service-url.defaultZone=http://localhost:8761/eureka/
# Eurekaサーバーに登録するサービス名
spring.application.name=jsug-producer
bootstrap.properties

その他のプロパティ
# 情報の更新間隔(デフォルト30秒)
eureka.instance.lease-renewal-interval-in-seconds=3
# インスタンスのID(ダッシュボードのリンク名などに使われる)
eureka.instance.metadata-map.instanceId=${spring.application.name}:${random.value}
# ホスト名の代わりにIPアドレスを使用(ホスト名を解決できないDockerを使う場合など)
eureka.instance.prefer-ip-address=true

Eureka Client (Consumer)
@EnableDiscoveryClient @RestController
public class ConsumerApplication {
@Autowired EurekaClient client;
@RequestMapping(path = "/") String hello() {
String url = client
.getNextServerFromEureka("jsug-producer", false)
.getHomePageUrl();
String res = new RestTemplate()
.getForObject(url, String.class);
return res + " from " + url;
}
public static void main(String[] args) {/*...*/}
}

server.port=9100
# 登録するEurekaサーバーのURL
eureka.client.service-url.defaultZone=http://localhost:8761/eureka/
# Eurekaサーバーに登録するサービス名
spring.application.name=jsug-consumer
bootstrap.properties

eureka.client.service-url.defaultZone=
http://peer1:8761/eureka/,http://peer2:8762/eureka/
Eureka Serverが複数の場合

DEMO

DiscoveryClient
org.springframework.cloud.client.discovery.DiscoveryClient
各種Service Registryに対するクライアントの共通インタフェース
• EurekaDiscoveryClient (Spring Cloud Netflix)
• ConsulDiscovertyClient (Spring Cloud Consul)
• ZookeeperDiscoveryClient (Spring Cloud Zookeeper)
• CloudFoundryDiscoveryClient (Spring Cloud CloudFoundry)
• EtcdDiscoveryClient (Spring Cloud Etcd) incubator

DiscoveryClientを使って書き直し
@Autowired DiscoveryClient client;
@RequestMapping(path = "/") String hello() {
List<ServiceInstance> instances = client
.getInstances("jsug-producer");
if (instances.isEmpty()) {
return "No ServiceRegistry!";
}
ServiceInstance instance = instances.get(0);
URI uri = instance.getUri();
String res = new RestTemplate()
.getForObject(uri, String.class);
}

Ribbon
• HTTPクライアントと連携するクライアントサイドロ
ードバランサ
• Eurekaの情報を使ってロードバランス可能
http://techblog.netflix.com/2013/01/announcing-ribbon-tying-netflix-mid.html

Service ProducerService Producer
Service Consumer
Service Producer
Service Registry
Load Balancer
Load Balancerあり

@RestController
@Autowired
RestTemplate restTemplate;
String hello() {
String res = restTemplate
.getForObject("http://jsug-producer", String.class);
}
}
自動でRibbonを使った
インターセプタが組み込まれる

$ java -jar target/jsug-producer-*.jar --server.port=9000
$ java -jar target/jsug-producer-*.jar --server.port=9001
Consumerインスタンス1(ビルド&)起動
Consumerインスタンス2起動

DEMO

その他Spring Cloud + Ribbon
対応HTTPクライアント
• Feign http://cloud.spring.io/spring-cloud-netflix/spring-cloud-netflix.html#spring-cloud-feign
• OkHttp https://github.com/spencergibb/okhttp-ribbon
• Retrofit (OkHttp利用)

Hystrix
• Circuit Breakerパターンを提供
• 障害のあるサービスへのアクセスを一
時的に遮断して、代替値を返すことで
障害の伝播を防ぐ
http://techblog.netflix.com/2012/11/hystrix.html

Circuit Breaker

Hystrixの利用
<dependency>
<artifactId>spring-cloud-starter-hystrix</artifactId>
</dependency>

Hystrixの利用
@Component
class DemoService {
@Autowired
RestTemplate restTemplate;
@HystrixCommand(fallbackMethod = "defaultResponse")
public String getResponse() {
return restTemplate
.getForObject("http://jsug-producer", String.class);
}
public String defaultResponse() {
return "Not Available now";
}
}

Hystrixの利用
@EnableCircuitBreaker
@RestController
@Autowired
DemoService demoService;
String hello() {
String res = demoService.getResponse();
}
}

Recover!

Hystrix Metrics Stream
<dependency>
<groupId>org.springframework.boot</groupId>
<artifactId>spring-cloud-starter-actuator</artifactId>
</dependency>
エンドポイント/hystrix.stream
が追加される

Server-Sent Events

Dashboard
<dependency>
<artifactId>spring-cloud-starter-hystrix-dashboard</artifactId>
</dependency>

Dashboardアプリケーション
@EnableHystrixDashboard
public class HystrixDashboardApplication {
}

普通のtry-catchと何が違う？
• ダウンしたサービスへのアクセスを遮断しないと、
エラー発生までのリソース(スレッド、メモリ、…)が
無駄になる
→障害の伝播につながる

複数のHystrixストリームを集約
• Turbineを使って複数のストリームを集約可能
• Turbine + AMQP (RabbitMQ)を使った集約も可能
http://cloud.spring.io/spring-cloud-netflix/spring-cloud-netflix.html#_turbine

Zuul
• Eurekaの情報を使ったプロキシ
• エッジサーバーとして利用
• その他様々なルーティング機能
http://techblog.netflix.com/2013/06/announcing-zuul-edge-service-in-cloud.html

Zuulの利用
<dependency>
<artifactId>spring-cloud-starter-zuul</artifactId>
</dependency>

Zuulの利用
@EnableCircuitBreaker
@EnableZuulProxy
@RestController
// ...
}

application.propertiesでルーティング設定
zuul.routes.jsug-producer=/foo/**
http://cloud.spring.io/spring-cloud-netflix/spring-cloud-netflix.html#_router_and_filter_zuul
ymlの方が書
きやすい

PaaSにデプロイしよう

Cloud Foundry上にデプロイ
• OpenなPaaSプラットフォーム
• cfコマンドでアプリケーションのデプロイを操作
• 基本的な話は https://blog.ik.am/entries/359

Pivotal Web Services
https://run.pivotal.io/
• Pivotalが運用するパブリックなCloud Foundry
$ cf login -a api.run.pivotal.io
https://blog.ik.am/entries/361(FYI) local環境で試したい場合はMicroPCFを

Eureka Serverのデプロイ
$ cf push jsug-eureka-server -p target/*.jar
http://jsug-eureka-server.cfapps.io/
jarをcf pushするだけ

Eureka ServerをCFのサービスとして公開
$ cf create-user-provided-service jsug-eureka-service -p
'{"uri":"http://jsug-eureka-server.cfapps.io/"}'
$ cf services
name service plan bound apps
jsug-eureka-service user-provided
接続先情報や認証情報など環境依存の情報をサービスとして
公開し、(後で)接続するアプリケーションにバインドする

Eureka Clientのデプロイ
${vcap.services.jsug-eureka-service.credentials.uri}/eureka/
eureka.instance.hostname=
${vcap.application.uris[0]}
eureka.instance.metadata-map.instanceId=
${vcap.application.instance_id}
eureka.instance.non-secure-port=80
application-cloud.properties
CF上では自動でcloudプロフ
ァイルが適用される

Spring Bootアプリには自動で
vcap.application.*にアプリに関する情報
vcap.services.*にサービスに関する情報
が設定される

サービス名 cfコマンドで設定したjsonの
プロパティ名

$ cf push jsug-producer -p target/*.jar --no-start
$ cf bind-service jsug-producer jsug-eureka-service
$ cf start jsug-producer
http://jsug-producer.cfapps.io/
http://jsug-consumer.cfapps.io/
consumerも同様

eureka.instance.metadata-map.instanceId
で指定した値

スケールアウト
$ cf scale jsug-producer -i 3
$ cf scale jsug-consumer -i 2

スケールアウト結果がService Registryに
反映されている

DEMO

Heroku上にデプロイ
See
https://blog.heroku.com/archives/2015/3/3/manag
ing_your_microservices_on_heroku_with_netflix_s_eure
ka

Spring Cloud Services
by Pivotal Cloud Foundry

Pivotal Cloud Foundry
http://pivotal.io/platform

http://docs.pivotal.io/spring-cloud-services/

Service Registryサービス
$ cf create-service p-service-registry standard jsug-eureka-service
自分でEureka Server
を作る必要なし

<dependency>
<groupId>io.pivotal.spring.cloud</groupId>
<artifactId>spring-cloud-services-starter-service-registry</artifactId>
<groupId>1.0.2.RELEASE</groupId>
</dependency>
現時点でSpring CloudはAngel.SR4
にしか対応していないこの依存関係を追加すれば
Eureka Client側にEureka Serverの設定
が不要になる

$ cf push jsug-producer -p target/*.jar --no-start
$ cf bind-service jsug-producer jsug-eureka-service
$ cf start jsug-producer
consumerも同様

今日は説明できませんが、
3つを組み合わせることで
最大の効果を得られる

概要はYoutubeで
• Config Server https://youtu.be/bJvReWt2jLc
• Service Registry https://youtu.be/tnVNiRn-TLw
• Circuit Breaker https://youtu.be/Vd243GqrkMI

まとめ
• Netflixビジネスのスピードを支えるマイク
ロサービスはSpring Cloud Netflixで簡単
に構築可能
• PaaSに簡単にデプロイ可能
• Spring Cloud Servicesを使うことでより簡
単にシステムを構築可能

Transforming How The World Builds Software

Spring Cloud Netflixを使おう #jsug

More Related Content

Spring Cloud Netflixを使おう #jsug