Upgrade to Pro
— share decks privately, control downloads, hide ads and more …
Speaker Deck
Features
Speaker Deck
PRO
Sign in
Sign up for free
Search
Search
ChatGPTがエンジニアに与える影響2 / how ChatGPT affect for engineers2
Search
Naoki Kishida
April 22, 2023
Programming
0
570
ChatGPTがエンジニアに与える影響2 / how ChatGPT affect for engineers2
4/22のプレゼンテーションの資料です
Naoki Kishida
April 22, 2023
Tweet
Share
More Decks by Naoki Kishida
See All by Naoki Kishida
Java 22 Overview
kishida
1
220
Is Object-Oriented nessesary?
kishida
0
51
オブジェクト指向は必要なのか / Is object-oriented needed?
kishida
31
22k
AI時代を乗り切る実装力をつけよう / Get avility of implementation beyond AI era
kishida
2
4.7k
AI時代を生き抜くために処理をちゃんと書けるようになろう / write a executable process for AI era
kishida
23
14k
Javaは今どうなっているの? / how about java now
kishida
14
19k
動くコードを書こう / let's code a process
kishida
24
7.2k
Java 21の概要 / outline of Java 21
kishida
10
6.1k
エンジニアはLLMとどう付き合うか / How engineer get along with LLM
kishida
19
14k
Other Decks in Programming
See All in Programming
Deep Dive into React Stream/Serialize
mugi_uno
4
880
RubyGems on ruby.wasm
kateinoigakukun
0
160
Amazon Aurora Serverless v2が意外と高かった話と、AWS Database Migration Serviceの話
satoshi256kbyte
1
110
slog登場に伴うloggerの取り回し手法の見直し / kamakura.go #6
arthur1
0
170
教えて!スクラムコーチ品質とスピードのバランスはどうすりゃいいの?
pinboro
0
160
Documentation testsの恩恵 / Documentation testing benefits
ssssota
1
570
Adding Security to Microcontroller Ruby
sylph01
1
170
TypeScriptの型とパフォーマンス (TSKaigi 2024)
ypresto
14
5.2k
Findy - エンジニア向け会社紹介 / Findy Letter for Engineers
findyinc
2
74k
CQRS meets modern Java
simas
PRO
2
480
The World is a Network (and We Are Just Nodes)
whatyouhide
0
100
Productivity is Messing Around and Having Fun
hollycummins
1
190
Featured
See All Featured
WebSockets: Embracing the real-time Web
robhawkes
59
7k
Practical Orchestrator
shlominoach
183
9.8k
Helping Users Find Their Own Way: Creating Modern Search Experiences
danielanewman
21
2k
What's in a price? How to price your products and services
michaelherold
238
11k
The Success of Rails: Ensuring Growth for the Next 100 Years
eileencodes
34
6.1k
ピンチをチャンスに:未来をつくるプロダクトロードマップ #pmconf2020
aki_iinuma
84
45k
Building a Modern Day E-commerce SEO Strategy
aleyda
22
6.5k
Save Time (by Creating Custom Rails Generators)
garrettdimon
PRO
1
130
ParisWeb 2013: Learning to Love: Crash Course in Emotional UX Design
dotmariusz
104
6.7k
Automating Front-end Workflow
addyosmani
1357
200k
Refactoring Trust on Your Teams (GOTO; Chicago 2020)
rmw
26
2.3k
Designing for humans not robots
tammielis
247
25k
Transcript
04/22/2023 1 ChatGPTが エンジニアに与える影響 LINE Fukuoka きしだ なおき 2023/4/22 ITエンジニアのためのライトニングトーク
04/22/2023 2 ChatGPTとは • OpenAIが開発したチャットAI • GPT4、GPT3.5ベース • 2021年9月までのほぼすべてのWebテキストで学習 •
GPT4はかなり性能が高い • 入力の続きの単語を生成 • 繰り返すことで返答の文章を生成する ※ generated by Stable Diffusion
GPT • GPT = Generative Pre-trained Transformer • Transformerが大切 •
Transformer • アテンションに基づくエンコーダー&デコー ダー • 「アテンション」は文章のどこに注目するかを 決める仕組み
Java song!
微調整(Fine Tune)
ツールの使い方
コード生成
Webアクセスするコード
Javaに変換
コードの修正
コードの実行
実際の実行結果
OpenAI API • ChatGPTの機能をプログラムから利用可能 • Chat API • テキストに対してテキストを返す •
Embedding API • テキストの特徴をあらわす1500次元のベクトルを得る
例 1. ブログのエントリをEmbeddingでベクトルをとって保存 2. 質問からベクトルを得て近いベクトルのエントリを検索 3. 得られたエントリから質問の回答を生成
ChatGPTを信じてはいけない • 「もっともありそうな続き」を生成しているだけ • それでコードが生成できていることは驚きだけど、論理的に考えている わけではない • ChatGPTはそれが正しいかどうか気にしていない • 流れるようにウソをつく
もっと賢くなるんでは? • 学習データの限界 • いまのAIは学習データの量で性能の上限がきまる • ほぼすべてのWebテキストを使っているので、これ以上の学習データ がない • 計算機の限界
• GPT4を学習させた計算機クラスタより大きいものを作るのは困難 • いまでも運用に1億円/日かかっている • ウソが混ざりがちという性質は変わらない
まとめ • アイデアを得るのに強力なツールになる • とりかかりになるコードの生成に強い • GitHubのCode Copilotを使うと定型コードに時間をとられなくな る •
VS CodeにGPTを組み込む • 2つの条件が組み合わさると難しくなる • 実際のコードは複数の条件を満たすので人間が書く必要がある • セキュリティなどコンテキストをもった正しいコードは人間が注 意して確認する必要がある