MagicPodの導入効果をレビューでご紹介(pa-d-matsuyama-株式会社PHONE APPLI)
株式会社PHONE APPLI / pa-d-matsuyama
シニアマネージャー / QAエンジニア / 従業員規模: 101名〜300名 / エンジニア組織: 51名〜100名
利用プラン | ツールの利用規模 | ツールの利用開始時期 |
---|---|---|
エンタープライズLiteプラン / テスト自動化おまかせプラン | 10名以下 | 2020年 |
利用プラン | エンタープライズLiteプラン / テスト自動化おまかせプラン |
---|---|
ツールの利用規模 | 10名以下 |
ツールの利用開始時期 | 2020年 |
導入の背景・解決したかった問題
導入背景
2020年ごろはウォーターフォール型の開発プロセスでテストを手動実行していました。かなり丁寧にテストを進めていましたが、徐々にスクラム開発に移行していく中で、アジャイル開発とは相性があまり良くありませんでした。機能開発にテストが追いついていくので精一杯となってしまっており、改善に時間を割くことができていない状況にありました。
また、前職の経験でWeb系のサービス開発では、テストを自動化していくのが当たり前であり、そうした自動化の重要性を知っていたこともあり、テストの標準化から始めていき、自動化に着手していきました。
比較検討したサービス
- Selenium
- Autify
- Ranorex
- Katalon Studio
選定理由
- Seleniumは導入のタイミングのハードルが高く、ある程度のプログラミングスキルが求められます。初期に関わってもらうメンバーのスキルと今後の拡大性を考えて商用のノーコード・ローコードツールを選択しました
- Web系、スマホアプリの両方の自動化が必須であり、当時はまだAutifyはスマホアプリには対応していなかったため、MagicPodに決めました
導入時の苦労・悩み
- 2020年導入初期
- 若手のメンバーを1名アサインして、ほぼ任せる形で運用を開始
- 手動で作成したテストケースを元に、MagicPodを触って自動化を始めてもらいました
- 今から振り返ると、もう少しサポートに入ってもよかったと思いますが、MagicPodの使い始めのハードルの低さとMagicPodの方にサポートいただけたこともあり、順調に自動化が始まりました
- 2021年
- 1年ほどして1人では限界が見えてきたこと、テストケース全体を見た上での構成を考える必要があったため、MagicPodのテスト自動化おまかせプランを利用して、テスト自動化の専門のエンジニアに常駐いただき、仕組みづくりを開始しました
- 現在
- 大枠も完成し、現在はテスト自動化チーム4名で自動化の範囲を広げています
導入に向けた社内への説明
上長・チームへの説明
前提として、技術責任者の方でもテスト自動化の重要性をきちんと理解してくれていました。PHONE APPLIとして今後どのような組織にしていくのか、理想としている開発体制の話をした上で、その道筋で進めていくにあたり、今のタイミングで自動化に向き合う必要があると伝えて合意しました。
活用方法
よく使う機能
まだまだシステマチックな自動化のフローまでは構築できていません。画面単位でのテストケースを作り、スケジュールを設定した実行タイミングでテストを回しています。
ツールの良い点
- ユーザー数・テストの回数が無制限であること
- プロジェクト数は制限があるが、テスト数が無制限であるため料金を気にせず自動化を進めていくことができる
- サポートが手厚いこと
- ちょっとした要望もマイルストーンに入れてかなり速いスピードで実装されていくため、サービスとしての進化が速い
- コミュニティSlack があり、問い合わせに対して速く的確に回答してくれる
- 操作性が直感的で手軽である
- Capture and replayが簡単にできるので、テストケースの作成が簡単にできる
- テストに慣れていないメンバーでもAIによるスクリプト作成や自動修復によるメンテナンスコストが削減されている
- ロケータが自動生成されるので、大抵の場合は候補から選べばすぐ使える
- テストケースの変更履歴が見れる。
- 定期実行をMagicPod上で完結でき、他のサービスが必須ではない。
- モバイル版は実機がなくても作成できる
- 自動で保存してくれる
ツールの課題点
- エミュレーター
- スマホアプリにおいても自動化をしているが、MagicPodが提供しているエミュレーターのスマホはレスポンスが遅いので改善の余地がありそう
- SPで、端末が確保できずにテスト終了してしまう現象の解消。(確保できるまでリトライするなど)
- 操作性
- テストケースが現在222個あるが、一覧の読み込みが遅い
- 文字の一致確認で、改行やダブルスペースが原因で失敗したとき、すぐ分からず不便
- コピー等のステップ選択をドラッグ等でやりやすくしてほしい
- 共有UI整理時の操作感がスムーズ出ないと感じる
- 繰り返し処理の実装
- MagicPodのAPI仕様書が英語しかないため、探しづらい
- swagger上でトライすると失敗してしまう
- 実行中のテストの中止が不安定(中止できなかったり、中止しても長時間実行中のままになったりする)、即座に強制終了させてほしい
その他
今後に向けて
- OSのバージョンアップで問題なく動作するかをチェックしているので、テストセットでタグを作り基本機能セットとして一括実行ができる状態にしていきたい
- 現在は4名の自動化チームを全員ツールを使える状態にしていくことで、各個人が見ている範囲をそれぞれが自動化していけるようにしたい
- テスト管理ツールと連携して実行結果をまとめていきながら進捗状況やテスト通過率を計測してレポートにまとめていきたい
ツールを検討されている方へ
テスト自動化により世の中には、コスト削減となると考える方もいらっしゃいますがこれは間違いです。導入時・ランニングコストとしてもお金・時間・リソースがかかるため、テストが自動化されることにより、開発速度が上がるという点を伝えていくのが良いと思います。
また、導入時にどの程度のスキルを持ったエンジニアリソースを割けるのかによって、選択するツールは変わります。ある程度エンジニアリングリソースを割けることができるのであれば、ノーコードではなく、カスタマイズがしやすいSeleniumでも良いかと思います。一方で、あまりリソースを避けられない場合や何か制限がある場合は、手軽に使えるテストツールを活用するのがおすすめです。
株式会社PHONE APPLI / pa-d-matsuyama
シニアマネージャー / QAエンジニア / 従業員規模: 101名〜300名 / エンジニア組織: 51名〜100名
第三者検証の企業に16年ほど在籍し、テレビやブルーレイプレイヤーなどのAV家電の検証やBtoB、BtoCのWebサービスのテストや品質向上にむけた活動に従事。2019年に株式会社PHONE APPLIに入社し、クオリティディベロップメント室を立ち上げ、現在は、20名近くのチームの取りまとめを行う。
よく見られているレビュー
株式会社PHONE APPLI / pa-d-matsuyama
シニアマネージャー / QAエンジニア / 従業員規模: 101名〜300名 / エンジニア組織: 51名〜100名
第三者検証の企業に16年ほど在籍し、テレ...
レビューしているツール
目次
- 導入の背景・解決したかった問題
- 活用方法