【週4-5日/フルリモート/Python,Kubernetes,Terraform】機械学習エンジニア - MLOps/LLM推論基盤エンジニア|GPU・vLLMによるセルフホスト環境の構築・最適化

Findy Freelance の案件

〜136万円/月時給 〜8,500円東京都フルリモート週4-5日機械学習エンジニア
先方で見る ↗

業務内容

【概要】当社は、営業活動における非効率や摩擦をなくすことを目指し、顧客とのコミュニケーションをAIで構造化・活用するAIネイティブなCRMプロダクトを開発しています。 本プロダクトでは、会議・電話・メールなどの顧客接点データを自動で取り込み、文字起こしや要約、次アクションの抽出を行うことで、商談や顧客に関する情報をCRM上で活用しやすい形に整理します。既存CRMとの連携やAPI・Webhookによるデータ出力にも対応しており、これまで入力・共有・引き継ぎの中で失われがちだった顧客文脈を、組織の資産として蓄積・活用できる仕組みを構築しています。 営業組織が入力や情報共有にかかる負担を減らし、より本質的な顧客対応や意思決定に集中できる環境をつくることで、AIネイティブな業務システムの新しい標準を目指しています。 今回のポジションでは、自社SaaSにおけるLLMコール基盤・推論ルーティング・評価基盤・ジョブオーケストレーションの設計・実装・運用を担っていただきます。 vLLM等の推論エンジンを用いたセルフホスト推論環境の構築や、コスト最適化ループの実装を行います。 AI-Nativeプロダクトの推論の経済性と品質を技術で支え、これからの時代のAI Platformの中核を担う挑戦的な環境です。 【参画メリット】- vLLM等の推論エンジンを用いたセルフホスト推論環境の構築や、KVキャッシュ、量子化、バッチングなどの高度なチューニング経験が積めます。 - 複数モデルを統合的に扱う推論ゲートウェイや、モデルとタスク間のルーティングポリシーの設計など、推論の経済性と品質を最大化する基盤開発を主導できます。 - 本番の実行ログから評価データセットを継続的に生成するパイプラインや、LLM-as-a-Judgeを用いた評価基盤の設計など、最先端のLLM評価・運用(LLMOps)の実践的な経験が得られます。 【開発環境】開発言語:TypeScript(NestJS, Next.js)、Python(Fast API) クラウド:Azure (App Service, Container Apps, Cosmos DB, PostgreSQL, Azure Monitor), AWS インフラ自動化:Terraform, ARMテンプレート, Bicep CI/CD GitHub Actions, Azure DevOps 監視・ログ:Prometheus, Grafana, Azure Monitor, Datadog OS Linux/Unix AI関連:Vertex AI(Google Cloud), AI Search(Azure) データ基盤:BigQuery, Fivetran 【求める人物像】- AI Platformから事業成果を出したい方 - モデルを「選び・測り・切り替える基盤を作る人」としてのアイデンティティを持てる方 - 精度向上を測定可能な形に翻訳し、評価指標の妥当性を疑い続けられる方 - 技術的な美しさと単位経済性のトレードオフを自分の判断軸に持っている方 - インフラ・データ・MLの境界にある問題を「自分の担当外」と切らない方 - 少人数チームで、曖昧な課題に対して自律的に仮説を立てて実行できる方 【募集背景】自社SaaSにおけるAIエージェントの実行量増加に伴い、推論コストの最適化と品質担保の重要性が高まる一方、 現在はR&Dメンバーが本番環境のホスティングや監視運用も兼務しており、十分なリソースを割けていない状況です。 本ポジションでは、セルフホスト推論環境の構築やコスト最適化の仕組みづくりを主導いただき、R&Dメンバーが研究開発に集中できる体制の構築と、プロダクトの経済性向上を目指していただきます。 【業務内容】- 複数サービス・複数モデルを統合的に扱う推論ゲートウェイの設計・実装 - vLLM等の推論エンジンを用いたセルフホスト推論環境の構築およびチューニング - スキルやツールごとのタスク性能特性の計測と、モデル・タスク間のルーティングポリシーの設計・実装 - 上位モデルから小型モデルへの置き換え、蒸留を含むコスト最適化ループの実装と可視化 - 本番の実行ログから評価データセットを継続的に生成するパイプラインの設計 - オフライン・オンライン評価の両輪設計(ルールベース評価、LLM-as-a-Judge等) - 障害検知・自動リトライ・部分再実行・冪等性設計・バックプレッシャ制御の実装 - トレース・メトリクス・コスト・品質を同一軸で追える可観測性の設計

必須スキル・要件

【必須要件】- 分散システムまたはデータ基盤の設計・運用経験(目安3年以上) - Pythonでの本番システム開発経験、およびSQLを用いたデータ処理・分析の実務経験 - クラウド環境(Azure / AWS / GCP)におけるインフラ設計・運用経験、およびDocker / Kubernetes等を用いた本番運用経験 - Terraform / Bicep等のIaCやCI/CDを前提とした開発フローの設計・運用経験 - 性能・コスト・品質を数値で定義し、計測に基づいて改善を検証しながら、仕様が固まりきっていない領域でも自ら設計提案・実装推進できること 上記経験に加え、以下のいずれか1つ以上の領域で実務的な深さを持っている方  - GPUを用いた推論・学習基盤の構築および運用経験(例:vLLM / TensorRT-LLM / SGLang等を用いたサービング、CUDA環境の運用)  - 複数バックエンドへのルーティングやトラフィック制御基盤の設計経験、またはコスト最適化を目的としたアーキテクチャ改善をリードした経験  - 機械学習またはLLMアプリケーションにおける評価パイプラインの構築経験(例:オフライン評価、A/Bテスト基盤、データ品質管理のいずれか)  - ワークフローオーケストレーション基盤の設計・運用経験、またはKubernetes Operator / コントローラの実装経験(例:Airflow / Dagster / Temporal / Argo等) 【歓迎要件】- LLMアプリケーションの本番運用経験(例:RAG、エージェント、ツール呼び出しなど) - モデル蒸留・量子化・ファインチューニングなど、モデル最適化に関する実務経験 - 推論経済性やコスト最適化を軸にした技術判断・改善経験(例:トークン単価、GPU時間あたりのスループット、FinOpsなど) - ストリーム処理基盤やイベント駆動アーキテクチャの設計経験(例:Kafka / Pub-Sub等) - MLOps / LLMOpsツールチェーンの導入・評価、およびLLMトレーシング・オブザーバビリティ基盤の設計・運用経験(例:OpenTelemetry / Langfuse等) - 大規模ログ基盤やデータ処理基盤の設計経験(例:データレイク、列指向フォーマット、クエリエンジンなど) - 音声認識・NLP関連サービスのインフラ経験、またはOSS貢献・技術発信・英語での技術文書読解など、技術動向を継続的にキャッチアップし実務へ活かした経験

条件

単価
〜136 万円/月(先方は上限だけを表示)・時給 〜8,500円
契約形態
記載なし
技術
KubernetesPythonTerraform
週稼働
週4-5日
リモート
フルリモート
勤務地
東京都(先方の表記: 大崎)

履歴と根拠

掲載日
2026-09-02(先方の表示)
初めて見た日
2026-09-06(当サイトの観測)
募集中
募集中 11/19 確認・詳細
最終確認
11/19(3日前)このエージェントの一覧を最後に確認 11/22 08:41

この情報は Findy Freelance が公開しているものです(当サイトの最終確認 11/19・掲載日 9/2)。掲載順は広告提携と無関係です。 最終確認から3日が経っています。募集が終わっている場合があるので、先方でご確認ください。

単価の位置(当サイトの実測)

上限 136万円 は、当サイトに掲載中の AI・機械学習 の案件 818 件(月額の単価あり・派遣を除く)のうち上位 4%(35 件がこの上限以上)

AI・機械学習 で上限 136 万円以上の案件を単価順に見る →

同じ条件で探す

Findy Freelance の似た案件

技術か職種が重なる、当サイトに掲載中の案件。重なる技術が多いものを先に、新しい順

← 案件検索へ