【実例】データエンジニアになるには?必要なスキルセットのご紹介

  • このエントリーをはてなブックマークに追加

データをどう活かすかがビジネスの鍵であると言われるようになりました。

それによって、データの一連の流れを整備するデータエンジニアという職種にも注目が集まっています。

しかし、Webアプリケーションエンジニアなどと比べると、どうしたらなれるのか、必要なスキルは何かと疑問に思う方もいるのではないでしょうか?

本記事では、データエンジニアになる方法と必要なスキルについて、実体験をもとに解説します。

データエンジニアになるには

データエンジニアになるためには、データエンジニアを募集している企業に就職する、もしくは業務委託として請け負うことです。

レバテックやWantedly、Meetyなど、データエンジニアを募集している企業の求人がたくさんあります。

とはいえ、データエンジニアの仕事をしたことがない、エンジニア経験がない場合、すぐになるのは難しいかもしれません。

メインの仕事はデータの収集から集計までの基盤を整えることです。そのためには、どうやってデータが作られるのか、そのデータをどう活かすのかを知っていることも大切です。

データを生み出すWebアプリケーションエンジニア、データを活かすデータサイエンティストから入り、経験を積んでからデータエンジニアになるのも一つの手です。

データ基盤の構築ではネットワークやサーバの知識も必要ですので、インフラエンジニアがデータエンジニアを掛け持ちするケースもあります。

このようにデータエンジニアのスキルは幅広く、他職種の知識や経験を活かすことができます。未経験の場合、データエンジニアに必要なスキルが身に付く職種から入るのもおすすめです。

必要なスキルセット

一般社団法人データサイエンティスト協会では、データサイエンティストに求められるスキルセットとしてビジネス力・データサイエンス力・データエンジニアリング力の3つを掲げています。

・ビジネス力

課題背景を理解した上で、ビジネス課題を整理し、解決する力

・データサイエンス力

情報処理、人工知能、統計学などの情報科学系の知恵を理解し、使う力

・データエンジニアリング力

データサイエンスを意味のある形に使えるようにし、実装、運用できるようにする力

一般社団法人データサイエンティスト協会

データエンジニアに求められるスキルセットには、これに加えてWebアプリケーションエンジニア力が必要と感じます。

  • Webアプリケーションエンジニア力
    システムの設計から構築までを理解し、実装する力

データエンジニアは、データを作る側と使う側をスムーズに繋げる役目を果たします。そのため、両者の仕組みやニーズを知ることがデータエンジニアの必要なスキルにつながります。

Webアプリケーションを構築するスキルがあれば、データがどのように作られるかを知ることができます。また、プログラミングやネットワーク、サーバの知識もつくため、データエンジニアとしてデータ基盤を構築する際にも大いに役立ちます。

そして、データ基盤がどのように利用されるかを知ることも重要です。

データがどのようにビジネスに活かされるのか、どんなデータを必要としているのかを理解することで、利用しやすいデータ基盤を構築することができます。

データを活かすためには、SQLや統計学といったデータを扱うスキルも必要です。あらかじめ使いやすいデータに加工しておく、異常検知の仕組みを組み込む場合にも、データサイエンスの知識が必要です。

これらのWebアプリケーションエンジニア力、ビジネス力、データサイエンス力を持つことに加えて、データエンジニアリング力は以下のものがあります。

  • データの収集、加工、集計、取り込みを実装するスキル
  • ストリーミング処理を実装するスキル
  • データのワークフローを実装するスキル
  • メタデータを管理し、データの品質を担保するスキル

Google Cloudではじめるデータエンジニアリング入門から学ぶデータ基盤の必要性で紹介している、データ基盤の各コンポーネントを理解し構築するスキルが必要となります。

スキルセット概要具体例
ビジネス力データを活かしたビジネスの創造・課題解決を実現する論点思考
マーケティングスキル
データサイエンス力データを適切な方法で扱う統計学、数学、機械学習
Python、R、SQL
データエンジニアリング力データ基盤を設計、構築、運用するETL・ELT(Dataflow、Spark、troccoなど)
ワークフロー(Airflowなど)
ストリーミング(Kafka、Pub/Subなど)
Python、Scala、Java、SQL
Webアプリケーションエンジニア力システムを設計、構築、運用するOS、データベース、ネットワーク、プログラミング
Linux、MySQL、HTTP

データエンジニアになるための勉強方法

実務経験に勝る勉強法はないと考えます。データを作る側と利用する側の橋渡しをする仕事ですので、データを活かすビジネスに携わる、もしくは生み出すことで真価を発揮します。

とはいえ、何もスキルを持たずに実務経験を積めるとも限りません。

エンジニア側であれば、Webアプリケーション構築をしてみる、SQLやプログラミングを勉強することから始めるのも良いと思います。

ビジネス側であれば、マーケティングや統計学を学ぶことも大切です。

あるいは、データエンジニアに必要なスキルセットを保持していることを証明する、Google CloudのProfessional Data Engineer資格取得を通して勉強するのも一つの方法です。私はデータエンジニアとして転職する際に、この資格を取得していました。

データエンジニアとして実務経験を積むことを第一に、必要なスキルが身につく仕事に就いて勉強するのが良いと思います。

まとめ

データエンジニアになる方法とスキルセットをご紹介しました。

データエンジニアリング力であるデータ基盤構築のスキルが必要である一方、どのようにデータが作られるのか、どう利用されるのかを把握していることも大切です。

私はWebシステム開発を経てデータエンジニアとなりました。データ基盤を構築する上でも、Webシステム開発の知識やスキルは必要だなと感じます。

エンジニア観点、ビジネス観点と両方の知識を必要とする職種です。どちらの経験も活かすことができるため、キャリアパスとして選択肢にも入りやすいのではないかと思います。

データエンジニアを目指している方の参考になれば幸いです!

  • このエントリーをはてなブックマークに追加