Amazon、楽天市場のWebクローリング技術

1.プライスサーチWebクローリングとは

WEBクローラー(Web Crawler)とも呼ばれることもあり、Googleのようにインターネット上の様々なWebサイトを設計したルールに基づき特定箇所を自動巡回し、該当ページのデータを漏れなく手作業よりも正確で大量のデータを高速で収集する仕組みをシステム化したIT技術です。

Amazon、楽天市場、Yahoo!ショッピングなどの主要モールの場合、APIで提供されている範囲のデータ取得しかできませんが、弊社が独自開発した技術により、掲載されている様々な情報を取得し、データベース化するシステムです。

取得したデータは各顧客DB単位で格納し、任意の出力条件でレポート化し、自由にカスタマイズすることによって、様々な用途で活用頂いております。

2.どんなことができるのか

例1) 主要なECモールや自社運営サイトの掲載情報を取得

商品の販売価格だけでなく、掲載法人名、ポイント倍率、送料、在庫状況、口コミレビューなど、APIでは取得できない様々な情報を取得することができます。

(クローリング技術をパッケージ化したシステムをクラウドサービスとして提供しており、標準で調査可能なサイト数は160サイト以上、+αサイトの仕様によってどんなサイトでも調査可能です)

例2)エリアごとの店舗サイトの掲載情報の取得

ネットスーパーなどの日用品を取り扱っている場合、各販売拠点・宅配エリアごとに取り扱い商品や販売情報(販売価格、g単位、在庫状況など)が異なるため、エリア毎の情報を取得し、データ化することにより価格戦略に活用することもできます。

3)口コミ情報の取得

各種提供されているサービスサイトによって、需要、口コミ数、評価内容によって、消費者から選ばれるための基準となります。

 ・ECモール 商品の口コミ点数、評価内容
 ・旅行サイト ホテルの口コミ点数、評価内容
 ・アウトドアサイト アクティビティプラン(現地法人ページ) の口コミ点数、評価内容
 ・レストラン 口コミ点数、評価内容

4)取得したデータの活用

サービス画面上で閲覧、出力データのカスタマイズ、定期レポートとしての条件保存と定期送信が可能

3.プライスサーチWebクローラーの特徴

利用できる機能機能の詳細
インストール不要クラウド型なのでインストール不要。webブラウザからいつどこからでも設定やデータ出力可能。
大量・高速クローラークローラーの並列化により大量・高速なクローリングが可能
あらゆるサイトをクローリングクローラー開発に特化した専門部隊により、あらゆる仕様のサイトから情報の抽出が可能
クローリング結果を形式で出力Excel、CSV、TSVに標準対応。※貴社指定形式にカスタマイズも可能
出力レポートのカスタマイズ貴社の運用に合わせた形式(出力項目の選択、行/列の並び、行/列の絞り込み、調査期間など)でレポートをカスタマイズ保存。カスタマイズ保存したレポートは毎回ボタンひとつで出力可能。
定期レポート送信機能カスタマイズ保存したレポートを指定メールアドレスに定期的に自動送信
FTPデータ連携FTPによる入出力が可能。例えば基幹システムから出力したデータの調査や、調査結果の基幹システムへの取り込みの自動化が可能。
BIツールとの連携取得したデータは、BIツールと連携することで分析・可視化(ビジュアル化)が可能
アラートメール機能取得したデータの内容に応じてメール通知することが可能。例えばある商品の価格が、一定価格を下回っている場合にアラート通知するといったことが可能。
取得先サイトの仕様変更にも高速対応取得先サイトの仕様変更が発生した場合でも、監視システムと保守体制により高速でクローリングを再開


弊社では独自の高いWebクローリング技術により、Web上の様々なデータを取得することが可能です。

複雑なデータを手作業で調査されているケースや新たに取得したいと考えているWeb上の情報がございましたら、ぜひ一度ご相談ください。

<プライスサーチWebクローリングについてのお問い合わせ>
バリュース株式会社
高木 正良(タカギ マサヨシ)
Tel:03-6721-7226
mail:takagi@valus.co.jp

 

記事一覧へ戻る

流通販路や独占禁止法にお困りのメーカー様向けに資料をご用意しております!

プライスサーチforブランドは、楽天、Amazon、Yahooなどの主要モールやお取引法人の流通販路の可視化し、ブランド価値を守る支援をしています。