Upgrade to Pro — share decks privately, control downloads, hide ads and more …

LLMプロダクト事業の立ち上げにおける挑戦

LayerX
March 26, 2024

 LLMプロダクト事業の立ち上げにおける挑戦

2024年3月25日に開催された「Startupこそ生成AIを活用していこう!生成AIの事業活用事例共有会」で、AI・LLM事業部の篠塚史弥が発表した資料です。

「LLMプロダクト事業の立ち上げにおける挑戦」をテーマに、LLMプロダクト開発において大事にしていること、LayerX内での具体的な開発アプローチについてお話ししました。
https://aws-startup-community.connpass.com/event/309291/

LayerX

March 26, 2024
Tweet

More Decks by LayerX

Other Decks in Technology

Transcript

  1. 2 Confidential © 2024 LayerX Inc. 篠塚 史弥 • 元FiNC

    Technologies CTO。1100万ダウンロードを超 えるヘルスケアアプリFiNCをゼロから作る • 2024年1月LayerX入社. AI・LLM事業部に所属し、LLM プロダクト開発のリードを担当 • 好きなAWSサービスはSNSとSQS twitter: @shinofumijp
  2. © LayerX Inc. 4 LayerXの事業概要 LayerXのご紹介 * 資本準備金含む 会社名     代表取締役 

    創業      資本金* 関連会社 株主一覧  取得認証 | 株式会社LayerX(レイヤーエックス) | 代表取締役CEO 福島 良典    代表取締役CTO 松本 勇気 | 2018年 | 132.6億円 | バクラク事業、Fintech事業、AI・LLM事業 | 三井物産デジタル・アセットマネジメント   三井物産、LayerX、三井住友信託銀行、SMBC日興証券、JA三井リースによる合弁会社 |  | 情報セキュリティマネジメントシステム、      JIIMA認証 提供プロダクト 企業や行政のLLMを用いた 業務効率化・データ活用を支援 バクラク事業 企業活動のインフラとなる 法人支出管理(BSM)SaaSを 開発・提供 Fintech事業 ソフトウェアを駆使したアセットマネジメント 証券事業を合弁会社にて展開 AI・LLM事業 IS 747702 / ISO 27001
  3. © LayerX Inc. 5 LayerXのLLM事業 LayerXのご紹介 例: 三井物産デジタル・アセットマネジメントでの取組 エンタープライズ企業の業務のリデザイン 様々なファンドにまつ

    わる契約書 • LLMだからこそできるDX • 単に自動化するのではなく、業務を LLMネイティブな形に変える • 特に、長文の文書処理業務 ファンド管理DB 登記簿等の公的書類 投資サービスへの連携 ファンド運営の 効率化・自動化 LLM
  4. © LayerX Inc. 7 例: 非構造的な長文の文書の整理 LLMの現状とLayerXのアプローチ {会社名: 株式会社LLM} xxx契約書

    第6条(責任の免除) 甲は、本契約に基づくサービスの提供において、故意 または重大な過失がない限り、いかなる間接的損害に 対しても責任を負わない。 乙による本サービスの利用に関連して発生したデータ の損失または損害について、甲は責任を負わない。 会社名 株式会社LLM {責任制限条項: 間接的損害, データの損失ま たは損害} 長文の文書の意味を汲み取り、ファイルからデータを取得して整理(構造化) デジタル化を阻んでいた 見た目(フォーマット)の違いを吸収 LLM
  5. 11 Confidential © 2024 LayerX Inc. LLMの現状とLayerXのアプローチ 処理結果データ 処理結果を 活用・検索する

    AIの出力結果を レビューする AIに実際の業務 を実行させる AIに一連の業務 フローを教える AIアルゴリズム基盤(LLM, OCR etc) データベースアプリ 文書処理アプリ LayerXのLLMプロダクト ノーコード、ノープロンプトのAIオートメーションプラットフォーム 企業横断のベストプラクティス に基づき開発 過去事例の社内共有や 担当者の引き継ぎへ
  6. © LayerX Inc. 15 2つのエンジニアリングチームにより チューニング・実用化を目指す ② プロダクトとして業務に フィットさせるチーム ①

    顧客課題をLLMによって 解決するチーム • 個別の顧客業務に対してアルゴリズムを考案 • 事例を集めてアルゴリズム基盤の開発 • 顧客業務全体の最適化をプロダクトを通して行う • ①のチームのチューニングの効率化支援
  7. © LayerX Inc. 20 カジュアル面談の依頼もお気軽にXから! @shinofumijp LayerXのAI・LLM事業部の「最初の10人」になりませんか! 積極採用中! 宣伝 •

    経験豊富なメンバーとの事業立ち上げ ◦ 経営陣に上場企業役員経験者が9人在籍 • 0→1フェーズだが、会社はそれなりに成熟 ◦ 約133億円の資金調達 ◦ オフィスも綺麗です! • スタートアップでは通常開拓しにくい業界での取り 組み実績