僕らの堂島問題〜大阪地区の遅延値が大きい話〜

以前から、当団体の大阪地区のネットワークにおいて主に夜間の時間帯で遅延が非常に大きいといった連絡を実験ネットワーク会員の皆様からいただいております。調査を進めた結果、この問題は当団体の設備に原因はなく、拠点間の接続※などに利用しているフレッツ光の回線の輻輳によるものである可能性が高いことが分かりましたのでデータを共有したいと思います。

※当団体は拠点間のバックボーン回線に主としてフレッツ光の網内折り返し機能を利用したEtherIPトンネルを利用しています。

1. 監視の方法

当団体ではネットワークの障害検知のために、フルメッシュ双方向で常時一定量の少量のトラフィックをネットワークに印加することで拠点間の遅延値やパケットロスの監視を行っています。この監視は当団体のネットワーク(AS59105バックボーン上)での監視の他に、フレッツ光のIPv6アドレスを用いた監視(単純にフレッツ回線の品質を当団体の拠点間で測定している)の仕組みがあります。当団体のバックボーンの影響を受けないフレッツ光のIPv6アドレスを用いた監視のデータを見てみます。

2. 大阪地区の遅延の状況

以下のグラフは大阪市堂島地区(POP54とPOP52)と大阪府貝塚市(NOC51)のデータとなります。グラフのピンクの線は遅延値(ms)を示します。

  • NOC51(大阪府貝塚市)に向かう通信
    • POP52(フレッツ光クロス)→NOC51(フレッツ光ネクスト)
  • NOC51(大阪府貝塚市)に向かう通信
    • POP54(フレッツ光ネクスト)→NOC51(フレッツ光ネクスト)

同じ大阪府内の拠点なので遅延は2-3ms程ですが、夜間の時間帯において、POP52からの通信のみ、最大20msと遅延がとても大きく増加していることが分かります。一方でPOP54からの通信については、夜間の時間帯に若干は遅延値の増加は見られるものの、大きな変化はありません。

  • POP52/POP54(堂島)に向かう通信
    • NOC51(フレッツ光ネクスト)→POP52(フレッツ光クロス)
  • POP52/POP54(堂島)に向かう通信
    • NOC51(フレッツ光ネクスト)→POP54(フレッツ光ネクスト)

一方逆方向の通信については一時的に上昇することがあるものの、両拠点とも2-3ms程度で24時間安定して推移しています。

NOC51との間だけのデータでは信頼性に欠けるので、同じNTT西日本エリアの他拠点との間のデータについても見てみます。以下のグラフは大阪市堂島地区(POP54とPOP52)と福岡県福岡市(POP53)のデータになります。このデータから福岡県福岡市(POP53)との間でも全く同じ傾向にあることが分かります。

  • POP53(福岡)に向かう通信
    • POP52(フレッツ光クロス)→POP53(フレッツ光ネクスト)
  • POP53(福岡)に向かう通信
    • POP54(フレッツ光ネクスト)→POP53(フレッツ光ネクスト)
  • POP52/POP54(堂島)に向かう通信
    • POP53(フレッツ光ネクスト)→POP52(フレッツ光クロス)
  • POP52/POP54(堂島)に向かう通信
    • POP53(フレッツ光ネクスト)→POP54(フレッツ光ネクスト)

3. この傾向から推測できること

輻輳が発生しているかもしれない

この傾向から「堂島におけるフレッツ光クロスのOutの通信」において、主に夕方から夜間帯に遅延値が急増していることが分かります。ここから先は推測にはなりますが、一定の時間帯だけ遅延が増加するということから、回線に輻輳が発生しているのではないかと考えています。(フレッツ光は1Gbps/10Gbpsを占有できる訳ではなく、1本の光ファイバをスプリッタで32分岐などに分岐して回線を収容しているため、同一の 分岐に入っている加入者が一斉に通信しようとすると輻輳が発生することがある)夕方から夜間の時間帯は1日の中で最もインターネットトラフィックの多くなる時間帯ですので、夜間の時間帯に輻輳が発生しているというのも納得できるものかと思います。

疑問が残ること

  • POP52から見て「Out」の方向のみで輻輳と思われる事象がおきている
    • 夕方から夜間の時間帯は1日の中で最もインターネットトラフィックが増えると書きましたが、インパクトの大きいのは「In(インターネットから加入者に向かう通信、アイボールトラフィックとも呼ばれる)」です。一方で輻輳と思われる事象が発生しているのは、POP52から他拠点へ向かう通信ですので、「Out(加入者からインターネットに向かう通信)」です。一般に混雑する方向とは逆方向で輻輳と思われる事象がおきているというのは疑問が残る点の一つです。
  • 堂島エリアについて
    • 堂島を含む大阪市北区は、どちらかというと繁華街やビジネス街にあたる地域で、休日や深夜はフレッツを使う人も減少すると思われます。にも関わらず毎晩そして休日も輻輳が発生している点をどう解釈すべきかは難しいところです。東京地区で見ると、住宅街の地域に立地する(当団体のNOC03やNOC05など)と比較すると、千代田区の大手町地区(POP05など)の夜間の遅延は少ない傾向にあります。

4. 今後の対応を考える

監視データを元に推測をしてみましたが、我々だけで真実を確認することや問題を解決するのは難しく、ベストエフォートのサービスということでNTTに対応を求めるのも難しいでしょう。そのため、現時点でできそうなことは以下の2つになるのかと考えています。

  • POP52の回線をフレッツ光ネクストに変更する
    • 同じ堂島のPOP54のフレッツ光ネクストは問題なかったためPOP52でも問題ないと思われる。
    • 現時点では1Gbpsを超える帯域は使っていないのでフレッツ光ネクストでも十分だと思われる。
  • POP52のフレッツ光クロスを再敷設(解約し新規契約をする)
    • 現在利用している回線の同一分岐に収容されている人が大量通信をしている場合、再契約で別の分岐に入れば改善するかもしれない。

改善する保証が無い上に工事費用などコストも掛かるので、「とりあえずやってみる」は金銭的な余裕の無い当団体には決断が難しいところです。読者の方に何か良いアイデアのある方がいらっしゃいましたら当団体のSNSやCommunitySlackなどでご連絡いただければと思います。なお、2023年8月までは堂島地区に2台ともコアルータがあったため、西日本の全ての通信が影響を受けておりましたが、POP54を2023年8月下旬に開設し、コアルータを1台POP54に移設したため、2023年8月以前と比較するとPOP52を経由する通信が若干減少したため、多少は改善したとも見ることができます。POP54の開設については当団体の桑原が別途ブログに投稿する予定です。