GPT-3とは？ わかりやすく解説

Weblio 辞書 > 辞書・百科事典 > 百科事典 > GPT-3の意味・解説 
ウィキペディア
索引トップ ランキング カテゴリー
ウィキペディアウィキペディア

GPT-3

出典: フリー百科事典『ウィキペディア（Wikipedia）』 (2026/05/16 08:34 UTC 版)

Generative Pre-trained Transformer 3 (GPT-3)
開発元 OpenAI
初版 2020年6月11日 (5年前) (2020-06-11)[1]
リポジトリ
前身 GPT-2
後継 GPT-3.5
種別
ライセンス プロプライエタリ
公式サイト openai.com/blog/openai-api
テンプレートを表示

GPT-3（ジーピーティースリー、Generative Pre-trained Transformer 3）は、OpenAIが開発したGPTシリーズの大規模言語モデル (LLM) 。GPT-2の後継として2020年6月11日にベータ版としてリリースされた、GPTシリーズの第3世代の言語予測モデルである[1]。

OpenAIは、2020年5月28日の研究論文でGPT-3について発表[2]、同年6月11日にプライベートベータ版としてAPIを提供開始[1][3]。GPT-3は、生成的人工知能による自然言語処理 (NLP) システムにおけるトレンドの一翼を担った[4]。

なお本項では、GPT-3の後継モデルであるGPT-3.5についても触れる。

概要

GPT-3を紹介する原論文は、2020年5月28日、31人のOpenAIの研究者と技術者が発表した[4]:34。彼らは論文の中で、GPT-3の潜在的な危険性を警告し、その危険性を軽減するための研究を呼びかけた[4]:34。GPT-3が生成するテキストの品質は、それが人間によって書かれたものであるかどうかを判断することは困難なほど高く、利点と危険性の両面があるとされる[5]。

GPT-3は自己回帰型の言語モデルで、ディープラーニング（深層学習）により人間の文章のようなテキストを生成する。プロンプト（命令）として最初のテキストを与えると、それに応答し継続するテキストを生成する。なお、GPT-3系はテキスト処理特化モデルであり、後継のGPT-4等とは異なり、画像や音声などを同時処理するマルチモーダル（英語版）能力は持たない。

アーキテクチャは、デコーダのみのTransformerネットワークで、2048トークン長のコンテキストと、1750億個のパラメータという前例のないサイズを持ち、保存するのに800 GBを必要とした。このモデルは、生成的な事前学習を用いて訓練され、以前のトークンに基づいて次のトークンが何であるかを予測するように訓練をされる。このモデルは、多くのタスクに対し、強力なゼロショット学習（英語版）と少数ショット学習 を実証した[6]。著者らは、自然言語処理（NLP）における言語理解性能が、GPT-nのラベル付与されていないテキストの多様なコーパスに対する言語モデルの生成的事前学習と、それに続く各特定タスクにおける識別的な微調整のプロセスによって向上したことを説明した。これにより、人間による監督や、時間のかかる手作業でのラベル付けが不要になった[6]。

2020年9月22日、マイクロソフトは、GPT-3の「独占的な利用」を許諾したと発表した。他の企業が公開APIを使用して出力を受け取ることは引き続き可能だが、GPT-3の基礎モデルにアクセスできるのはマイクロソフトのみである[7]。

背景

→詳細は「GPT-2」を参照

エコノミスト紙によると、アルゴリズムの改良、強力なコンピューター、デジタル化されたデータの増加が、機械学習の革命を促進し、2010年代の新しい技術によって、言語の操作を含むタスクの急速な改善をもたらしたという[8]。ソフトウェアモデルは、「脳の神経アーキテクチャに大まかに基づいた構造」で、数千から数百万の事例を使用して学習するように訓練される[8]。自然言語処理（NLP）で使用されるアーキテクチャの1つは、2017年に初めて登場した深層学習モデルTransformerに基づくニューラルネットワークである。GPT-nモデルは、Transformerに基づく深層学習ニューラルネットワーク型のアーキテクチャである[9]。入力されたテキストを処理、マイニング、整理・結合し、対比し、質問に正しく答えることができるNLPシステムは多数存在する[10]。2018年6月11日、OpenAIの研究者と技術者は、データセットを介して膨大で多様なテキストのコーパスを用いて事前学習できる生成モデル（言語モデル、人工知能システム）に関する、彼らが生成的事前学習（generative pre-training、GP）と呼ぶプロセスの原論文を発表した[6]。著者らは、GPT-nでラベル付けされていない多様なテキストのコーパスを用いて言語モデルを生成的に事前学習し、その後、特定のタスクごとに識別的に微調整するプロセスを通じて、自然言語処理（NLP）における言語理解の性能が向上したことを説明した。これにより、人間による監督や、時間のかかる手作業によるラベル付けが不要になった[6]。

2020年2月、マイクロソフトは「170億個のパラメータを持つ、これまでに発表された最大の言語モデル」と主張するTuring Natural Language Generation（T-NLG）を発表した[11]。これは、テキストの要約や質問への回答を含む、さまざまタスクで、他のどの言語モデルよりも優れた性能を発揮した。

訓練と能力

GPT-3によって書かれた教育学に関する学生の小論の例
「学習スタイル」という概念は、学習スタイルが形成される過程を説明できない点で問題がある。ある学生は、特定の経験をしたために、特定の学習スタイルを身につけるかもしれない。別の学生は、自分の学習ニーズにあまり適していない学習環境に適応しようとすることで、特定の学習スタイルを習得するかもしれない。しかし最終的には、学習スタイルと環境および個人的要因との相互作用を理解し、それらがどのように私たちの学習方法や経験する学習の種類を形成するかを理解する必要がある。
– 著者: マイク・シャープルズ[12]

2020年5月28日、OpenAIの31人の技術者と研究者のグループによるarXivの査読前論文で、第3世代の「最先端の言語モデル」であるGPT-3の開発について説明された[4][5]。

チームは、GPT-3の容量をその前身のGPT-2[13]よりも2桁以上増やし、GPT-3をこれまでで最大の非スパース言語モデルにした（スパースモデルでは、パラメータ（英語版）の多くが定数に設定されているため、パラメータの総数が多くても、意味のある情報は少なくなる[4]:14[14]。）。

GPT-3は構造的に前身モデルと類似しているので、精度が向上したのは容量とパラメータ数の増加によると考えられる[15]。GPT-3の容量は、当時知られていた2番目に大きなマイクロソフトのTuring NLGの10倍になる[5]。

GPT-3は、ゼロショット（英語版）、少数ショット 、ワンショット（英語版）の学習を行うことができる[4]。

モデル

GPT-3のモデルアーキテクチャは、GPT-2モデルのマイナーチェンジ版である[16]。

  • アーキテクチャ上の変更点は以下の通り：
  • アーキテクチャはほぼ同一であるが、GPT-3はGPT-2より大きなモデルとなっている。モデル上の変更点は以下の通り：
    • モデルパラメータサイズ: 1750億（dense等価で約10倍）[18]
    • その他

データセット

GPT-3の重み付き事前学習データセットの60%は、Common Crawlのフィルタ処理された版から取得されたもので、4,100億バイト対符号化トークンで構成される[4]:9。その他の情報源としては、WebText2からの190億トークン（加重合計の22%）、Books1からの120億トークン（8%）、Books2からの550億トークン（8%）、Wikipediaからの30億トークン（3%）がある[4]:9。

GPT-3学習データ
データセット トークン数 学習データ中の割合
Common Crawl 4100 億 60%
WebText2 190 億 22%
Books1 120 億 8%
Books2 550 億 8%
Wikipedia 30 億 3%

能力

GPT-3は数千億個の単語で訓練されており、CSS、JSX、Pythonなどのプログラミング言語でコーディングすることも可能である[3]。GPT-3の学習データはすべてを網羅しているため、個別の言語タスクのために訓練を追加する必要はない[3]。この学習データにはときどき有害言語が含まれており、GPT-3は学習データを模倣した結果、有害な言葉を発生することがある。ワシントン大学の研究によると、GPT-3は、同様の自然言語処理モデルであるGPT-2やCTRLと同程度の毒性基準で有毒言語を生成することがわかった。OpenAIは、GPT-3が生成する有毒言語の量を制限するために、いくつかの戦略を実装した。その結果、GPT-3は、前身モデルであるGPT-1よりも有毒言語の生成が少なくなったものの、Wikipediaのデータのみで学習した言語モデルであるCTRL Wikiよりも有毒言語は生成が多く、毒性基準も高かった[19]。

2020年6月11日、OpenAIは、ユーザーがこの新しい技術の長所と限界を探るため、使いやすいGPT-3 API「機械学習ツールセット」へのアクセスを要求できることを発表した[20][21]。招待状には、このAPIは通常の単一のユースケースではなく、ほぼあらゆる英語のタスクを完了できる汎用的なテキスト入力、テキスト出力型のインターフェースを備えていると説明されている[20]。OpenAI GPT-3 APIの非公開の早期リリースにアクセスしたあるユーザーによると、GPT-3は、いくつかの簡単なプロンプトだけで驚くほど意味の通ったテキストを書くことができ「不気味なほど優秀だった」という[22]。最初の実験では、米国の80名の被験者に、200語程度の短い記事が人間によって書かれたものか、GPT-3によって書かれたものかを判断するように求められた。その結果、被験者は52%の確率で正しく判断し、ランダムに推測するよりもわずかに優れていた[4]。

2021年11月18日、OpenAIは、APIに無制限にアクセスできるように保護手段を実装したことを発表した[23]。OpenAIは、開発者がOpenAIのコンテンツポリシーを順守するのに役立つコンテンツモデレーションツールを提供した[24]。2022年1月27日、OpenAIは、InstructGPTと総称される最新のGPT-3言語モデルが、同社のAPIで使用されるデフォルトの言語モデルになることを発表した。OpenAIによると、InstructGPTは、より適切に指示に従うことで、よりユーザーの意図に沿ったコンテンツを生成し、でっち上げの事実を減らし、有害なコンテンツをいくらか少なくできるとされた[25]。

GPT-3は「人間の評価者が人間が書いた記事と区別するのが難しいニュース記事を生成できる[5]」ため、GPT-3には「言語モデルの有益な応用と有害な応用の両方を進める可能性がある[4]:34」と評される。2020年5月28日の論文で、研究者らは「GPT-3が潜在的に持つ有害作用[5]について詳細に説明した。それには誤った情報、スパム（英語版）、フィッシング、法律や政府のプロセスの悪用（英語版）、不正な学術論文の作成、ソーシャルエンジニアリングの口実（英語版）が含まれている[4]。研究者らはこれらの危険性への注意を喚起し、リスクを軽減するための研究を呼びかけた[4][26]:34。また、OpenAIのサム・アルトマンは、彼自身が「GPT-3誇大広告」と呼ぶものを批判し、GPT-3には「深刻な弱点があり、時には非常に愚かな間違いを犯す。AIは世界を変えようとしているが、GPT-3はごく初期を垣間見るに過ぎない。」と認めている[27]。

2022年6月、Almira Osmanovic Thunströmは、GPT-3が自身に関する論文の主な著者であり、発表のために投稿し[28]、査読を待っている間に事前公開されたと記した[29]。

モデル一覧

この節の出典[30]

GPT-3のモデルは以下のとおり。これらには GPT-3.5 と Codex は含まれない。

  • text-curie-001：2024年1月4日提供終了[31]。
  • text-babbage-001：2024年1月4日提供終了[31]
  • text-ada-001：2024年1月4日提供終了[31]。
  • davinci：2024年1月4日提供終了、代替モデルは davinci-002[31]。
  • curie：2024年1月4日提供終了、代替モデルは curie-002[31]。
  • babbage：2024年1月4日提供終了、代替モデルは babbage-002[31]。
  • ada：2024年1月4日提供終了、代替モデルは ada-002[31]。

反応

応用

  • GPT-3、特にCodexモデルは、さざまざなコードエディタやIDEで使用できるコード補完および生成ソフトウェア「GitHub Copilot」の基盤となっている[32][33]。
  • マイクロソフトの特定の製品では、従来の言語を公式なコンピュータコードに変換するために、GPT-3が使用されている[34][35]。
  • GPT-3は、CodexDB[36]で、SQL処理用のクエリ固有のコードを生成するために使用されている。
  • GPT-3は、Jason Rohrerによる「Project December」というレトロなテーマのチャットボットプロジェクトで使用されている。このプロジェクトはオンラインでアクセス可能で、ユーザーはGPT-3の技術を使用してさまざまなAIと会話することができる[37]。
  • ガーディアン紙において、「AIは人間に無害である」という記事を書くためにGPT-3が使用された。いくつかのアイデアを与えられ、8つの異なるエッセイを作成し、最終的に1つの記事に統合された[38]。
  • テキストベースのアドベンチャーゲームを生成するAI Dungeon（英語版）でGPT-3が使用された。その後、OpenAIが生成コンテンツに関するポリシーを変更したため、競合するモデルに置き換えられた[39][40]。
  • スタートアップ企業のCopy.ai[41]、Jasper.ai[42]、TextCortex AI[43]およびHypotenuse AIによって[44]、コピー（英語版）やその他のマーケティング資料の作成を支援するためにGPT-3が利用されている。
  • ドレクセル大学による2022年の研究では、GPT-3ベースのシステムが、アルツハイマー病の初期兆候のスクリーニングに使用できることが示唆された[45][46]。

論評

  • 2020年8月4日付『ニューヨーク・タイムズ』紙のレビューで、Farhad Manjooは、コンピュータコード、詩、散文を生成するGPT-3の能力は、単に「驚くべき」「不気味」「謙虚」だけでなく「少しばかり恐ろしい」と述べた[47]。また、2022年4月15日付『ニューヨーク・タイムズ』紙では、GPT-3の能力について、人間と同等の流暢さで独自の散文を書くことができると論評した[48]。
  • ウェブサイト「Daily Nous（英語版）」は、9人の哲学者によるGPT-3についての記事を紹介した[49]。オーストラリアの哲学者デイヴィッド・チャーマーズは、GPT-3を「これまでに作られた最も興味深く、重要なAIシステムの一つ」と評した[50]。
  • 『WIRED』は、GPT-3が「シリコンバレー全体に悪寒を引き起こした」と述べた[51]。
  • 「The National Law Review」は、GPT-3は「より大きなプロセスにおける印象的な一歩」であり、OpenAIや他の企業は「より汎用的な知能を目指す取り組みを続けながら、この力のすべてに有用な応用を見つけている」と述べている[52]。
  • 「MITテクノロジーレビュー」の記事で、共同執筆したディープラーニング評論家のGary Marcusは[53]、GPT-3の「世界の理解はしばしば深刻にずれており、GPT-3の言うことは決して信用できない」と指摘した[54]。著者らによると、GPT-3は、各単語の背後にある意味を理解せずに、単語間の関係をモデル化しているという。
  • Facebook AIラボの責任者であるJerome Pesentiは、GPT-3は安全ではないと述べ、ユダヤ人、女性、黒人、およびホロコーストについて議論するよう求められたときに、システムが生成した性差別、人種差別、およびその他の偏見のある否定的な言葉を指摘した[55]。
  • フランスの医療技術を専門とするスタートアップ企業Nablaは、OpenAI自身がそのような使用に対して警告を発していたにもかかわらず、GPT-3を医療用チャットボットとしてテストした。予想通りGPT-3にはいくつかの限界があり、たとえばメンタルヘルスの問題についてGPT-3の応答をテストしたとき、AIは模擬患者に自殺するよう勧めた[56]。
  • ノーム・チョムスキーは、GPT-3の科学的価値について次のような懐疑的な見方を示した。「これは言語モデルではない。不可能な言語に対しても、実際の言語に対しても同様に機能する。したがって、もし言語モデルとして意図されてたものであるならば、通常の科学的基準によって反論される。（中略）おそらく、何らかの目的には有用かもしれないが、言語や認知一般については何も教えてくれないようだ[57]」。
  • ルチアーノ・フロリディとMassimo Chiriattiは「良質で意味深い人工産物を安価に生産することの危険性」を強調した[58]。

批判

GPT-3の構築者であるOpenAIは、もともと、2015年に非営利法人として設立された[59]。2019年、OpenAIは、このモデルがフェイクニュースを永続させるという懸念を挙げて、それまでのオープンソースの慣習を破り、GPT-3の前身モデルを公開しなかった。OpenAIは最終的に、オリジナルなモデルの8%のサイズのGPT-2を公開した[60]。同年、OpenAIは営利企業となるため再編成された[61]。

2020年、マイクロソフトは、OpenAIへ数十億ドルを投資し、マイクロソフトの製品とサービス向けにGPT-3の独占的ライセンスを取得したと発表した。この契約により、OpenAIは公開APIを提供し、ユーザーはGPT-3にテキストを送信してモデルの出力を受け取ることができるが、GPT-3のソースコードにアクセスできるのはマイクロソフトのみとなる[7]。

GPT-3のような大規模な言語モデルは、Googleの一部のAI倫理研究者から、モデルの訓練と保存が環境に与える影響についての批判を受けており、2021年にTimnit GebruとEmily M. Benderが共著した論文で詳述されている[62]。

GPT-3やその他の言語ジェネレーターに基づく自動文章作成技術の使用が増加していることから[いつ?] 、学問的誠実性に関する懸念が高まり[63]、大学や学校が何をもって剽窃（ひょうせつ、盗作）などの学問的不正行為とみなすのかという問題が生じている[64]。

GPTは、12年間に6,000万ドメインから収集された著作権保護された記事、インターネット上の投稿、ウェブページ、書籍のコレクションであるCommon Crawlデータセットのデータを用いて構築された。TechCrunchによるとこの学習データには、BBC、The New York Times、Reddit、オンライン書籍の全文などの著作物が含まれているという[65]。OpenAIは、米国特許商標庁（USPTO）からの「人工知能イノベーションの知的財産保護に関する2019年のコメント要請」に対する回答で、「現行法のもとでは、（GPTモデルなどの）AIシステムの訓練は公正利用に合致する」と主張したが、「この点に関する適切な判例がないことから、OpenAIや私たちのような他のAI開発者は、かなりの法的不確実性とコンプライアンス・コストに直面している」と述べている[66]。

GPT-3.5

Generative Pre-trained Transformer 3.5 (GPT-3.5)
作者 OpenAI[4]
初版 2022年3月15日 (4年前) (2022-03-15)
リポジトリ なし
前身 GPT-3
後継 GPT-4
種別 自己回帰モデル transformer 言語モデル
ライセンス プロプライエタリ
公式サイト なし
テンプレートを表示

GPT-3.5（ジーピーティースリーポイントファイブ、Generative Pre-trained Transformer 3.5）は、OpenAIが2022年にリリースしたGPT-3の後継モデル。2022年11月30日に同社が発表した生成AIチャットボット「ChatGPT」用として、GPT-3をベースに人間との対話能力向上のためのファインチューニング（追加学習）を行ったモデルであり、ChatGPTリリース当時の基盤となった大規模言語モデル (LLM) である。2024年にChatGPTでの提供が終了されるまで、ChatGPTに始まる生成AIチャットボットの世界的ブームを支えた言語モデルであった。

なお、OpenAIは、GPT-3.5をGPT-3に含めていない[67]。GPT-3.5の後継モデルはGPT-4である 。

沿革

2022年3月15日、OpenAIは、GPT-3とCodexのAPIに、編集と挿入機能を持たせた新しいバージョンを「text-davinci-002」および「code-davinci-002」という名前で公開した[68]。これらのモデルは、以前のバージョンよりも高性能であると説明され、2021年6月までのデータを用いて訓練された[69]。2022年11月28日、OpenAIは「text-davinci-003」を公開した[70]。

2022年11月30日、OpenAIはこれらのモデルを「GPT-3.5」シリーズに属すものとし[71]、同日付で、GPT-3.5シリーズのモデルを微調整したChatGPTをリリースした[72]。

2023年6月13日、OpenAIは「gpt-3.5-turbo-16k」と関数呼び出し (function calling) を追加した[73]。関数呼び出しにより、ChatGPTのプラグインのようなことが、ChatGPTの外で実行できるようになった。

GPT-3.5のモデル

この節の出典[74]

会話用
  • gpt-3.5-turbo-0125：2024年1月25日リリース。精度とフォーマット追従性を向上した最終世代モデル。
  • gpt-3.5-turbo-1106：2023年11月6日リリース。16kトークン対応、JSONモードや並列関数呼び出し対応。
  • gpt-3.5-turbo-0613：2023年6月13日リリース。関数呼び出し (function calling) 対応モデル。
  • gpt-3.5-turbo-16k：2023年6月13日リリース。コンテキストウィンドウを16kトークンに拡張したモデル。
  • gpt-3.5-turbo：2023年3月1日リリース。GPT-3.5 Turbo初代モデル。ChatGPT向けに低コストで提供開始。使用可能な文脈は最長4,096トークン。
文章生成用
  • gpt-3.5-turbo-instruct：2023年9月19日リリース。補完 (completions) モデル。「text-davinci-003」の後継。
  • text-davinci-003：2022年11月28日リリース、2024年1月4日提供終了[31]
  • text-davinci-002：2022年3月15日リリース、2024年1月4日提供終了[31]
プログラミング用
  • code-davinci-002：2022年3月15日リリース、2022年3月15日、OpenAI Codexの主力モデルとしてAPIをリリース。2024年6月14日提供終了。

脚注

  1. 1 2 3 “OpenAI API”. OpenAI (2020年6月11日). 2026年5月16日閲覧。
  2. ↑ “Language Models are Few-Shot Learners”. arXiv. 2026年5月16日閲覧。
  3. 1 2 3 Bussler, Frederik (2020年7月21日). “Will GPT-3 Kill Coding?”. Towards Data Science. 2020年8月1日閲覧。
  4. 1 2 3 4 5 6 7 8 9 10 11 12 13 Brown, Tom B.; Mann, Benjamin; Ryder, Nick; Subbiah, Melanie; Kaplan, Jared; Dhariwal, Prafulla; Neelakantan, Arvind; Shyam, Pranav et al. (Dec 2020). Larochelle, H.; Ranzato, M.; Hadsell, R. et al.. eds. “Language Models are Few-Shot Learners”. Advances in Neural Information Processing Systems (Curran Associates, Inc.) 33: 1877–1901.
  5. 1 2 3 4 5 Sagar, Ram (June 3, 2020). “OpenAI Releases GPT-3, The Largest Model So Far”. Analytics India Magazine 2020年7月31日閲覧。.
  6. 1 2 3 4 “Improving Language Understanding by Generative Pre-Training”. pp. 12 (2018年6月11日). 2020年7月31日閲覧。
  7. 1 2 Hao, Karen (September 23, 2020). “OpenAI is giving Microsoft exclusive access to its GPT-3 language model” (英語). MIT Technology Review 2020年9月25日閲覧. ""The companies say OpenAI will continue to offer its public-facing API, which allows chosen users to send text to GPT-3 or OpenAI's other models and receive its output. Only Microsoft, however, will have access to GPT-3's underlying code, allowing it to embed, repurpose, and modify the model as it pleases.""
  8. 1 2 “An understanding of AI's limitations is starting to sink in”. The Economist. (2020年6月11日). ISSN 0013-0613 2020年7月31日閲覧。
  9. ↑ Polosukhin, Illia; Kaiser, Lukasz; Gomez, Aidan N.; Jones, Llion; Uszkoreit, Jakob; Parmar, Niki; Shazeer, Noam; Vaswani, Ashish (2017年6月12日). “Attention Is All You Need”. arXiv:1706.03762 [cs.CL].
  10. ↑ “Natural Language Processing”. 2020年7月31日閲覧。
  11. ↑ Sterling, Bruce (February 13, 2020). “Web Semantics: Microsoft Project Turing introduces Turing Natural Language Generation (T-NLG)”. Wired. ISSN 1059-1028 2020年7月31日閲覧。.
  12. ↑ Marche, Stephen (2022年12月6日). “The College Essay Is Dead”. The Atlantic. 2022年12月8日閲覧。
  13. ↑ “Language Models are Unsupervised Multitask Learners”. openai.com. 2019年12月4日閲覧。 “"GPT-2, is a 1.5B parameter Transformer"”
  14. ↑ Shead, Sam (2020年7月23日). “Why everyone is talking about the A.I. text generator released by an Elon Musk-backed lab”. CNBC 2020年7月31日閲覧。 Four preprints were released between May 28 and July 22, 2020.
  15. ↑ Ray, Tiernan (2020年6月1日). “OpenAI's gigantic GPT-3 hints at the limits of language models for AI”. ZDNet. 2020年7月31日閲覧。
  16. ↑ "We use the same model and architecture as GPT-2 ... with the exception" Brown (2020)
  17. ↑ "with the exception that we use alternating dense and locally banded sparse attention patterns in the layers of the transformer, similar to the Sparse Transformer" Brown (2020)
  18. ↑ "we train GPT-3, an autoregressive language model with 175 billion parameters" Brown (2020)
  19. ↑ Gehman, Samuel; Gururangan, Suchin; Sap, Maarten; Choi, Yejin; Smith, Noah A. (16–20 November 2020), REALTOXICITYPROMPTS: Evaluating Neural Toxic Degeneration in Language Models, Association for Computational Linguistics, pp. 3356–3369, arXiv:2009.11462 2021年6月2日閲覧。
  20. 1 2 “OpenAI API”. OpenAI (2020年6月11日). 2023年2月15日閲覧。
  21. ↑ Coldewey, Devin (2020年6月11日). “OpenAI makes an all-purpose API for its text-based AI capabilities”. TechCrunch. 2021年10月27日時点のオリジナルよりアーカイブ。2020年7月31日閲覧。 “If you've ever wanted to try out OpenAI's vaunted machine learning toolset, it just got a lot easier. The company has released an API that lets developers call its AI tools in on "virtually any English language task."”
  22. ↑ Arram (2020年7月9日). “GPT-3: An AI that's eerily good at writing almost anything”. Arram Sabeti. 2020年7月31日閲覧。
  23. ↑ “OpenAI's API Now Available with No Waitlist” (英語). OpenAI (2021年11月18日). 2022年11月5日閲覧。
  24. ↑ “OpenAI API” (英語). beta.openai.com. 2022年11月5日閲覧。
  25. ↑ “Aligning Language Models to Follow Instructions” (英語). OpenAI (2022年1月27日). 2022年11月5日閲覧。
  26. ↑ Brown, Tom B.; et al. (2020). “Language Models are Few-Shot Learners”. arXiv:2005.14165 [cs.CL].
  27. ↑ Vincent, James (2020年7月30日). “OpenAI's latest breakthrough is astonishingly powerful, but still fighting its flaws”. The Verge 2022年11月9日閲覧。
  28. ↑ Thunström, Almira Osmanovic (2022年6月30日). “We Asked GPT-3 to Write an Academic Paper about Itself—Then We Tried to Get It Published”. Scientific American. 2022年6月30日閲覧。
  29. ↑ “Can GPT-3 write an academic paper on itself, with minimal human input?” (フランス語). Archive ouverte HAL (2022年6月21日). 2022年6月30日閲覧。
  30. ↑ “OpenAI API”. 2023年5月6日閲覧。
  31. 1 2 3 4 5 6 7 8 9 “GPT-4 API general availability and deprecation of older models in the Completions API”. openai.com. 2023年7月7日閲覧。
  32. ↑ “OpenAI Codex” (英語). OpenAI (2021年8月10日). 2022年12月23日閲覧。
  33. ↑ Thompson, Clive (15 March 2022). “How an AI Became My Code-Writing Genie”. Wired 2022年12月23日閲覧。.
  34. ↑ “Microsoft announced its first customer product features powered by GPT-3 and @Azure.”. The AI Blog (2021年5月25日). 2023年2月15日閲覧。
  35. ↑ Vincent, James (2021年5月25日). “Microsoft has built an AI-powered autocomplete for code using GPT-3”. The Verge 2022年12月23日閲覧。
  36. ↑ “CodexDB - SQL Processing Powered by GPT-3”. CodexDB - SQL Processing Powered by GPT-3. 2023年2月15日閲覧。
  37. ↑ Fagone, Jason (2021年7月23日). “The Jessica Simulation: Love and loss in the age of A.I.”. San Francisco Chronicle 2021年7月29日閲覧。
  38. ↑ GPT-3 (2020年9月8日). “A robot wrote this entire article. Are you scared yet, human? | GPT-3”. The Guardian. ISSN 0261-3077 2020年9月15日閲覧。 {{cite news}}: CS1メンテナンス: 数字を含む名前/author (カテゴリ)
  39. ↑ “Update: Language Models and Dragon”. Latitude blog (2021年12月8日). 2023年2月15日閲覧。
  40. ↑ “This Mystical Book Was Co-Authored by a Disturbingly Realistic AI” (英語). www.vice.com. (2022年) 2022年12月23日閲覧。
  41. ↑ “Writing helper Copy.ai raises $2.9M in a round led by Craft Ventures”. copy.ai (2021年3月17日). 2022年11月5日閲覧。
  42. ↑ Dzieza, Josh (2022年7月20日). “Can AI write good novels?”. The Verge 2022年12月23日閲覧。
  43. ↑ “1,2-Millionen-Dollar-Investment für ein Start-up, das KI-basierte Texte erstellt” (ドイツ語). (2022年6月21日) 2023年2月14日閲覧。
  44. ↑ Lomas, Natasha (2020年8月7日). “Hypotenuse AI wants to take the strain out of copywriting for e-commerce” (英語). TechCrunch. 2023年1月5日閲覧。
  45. ↑ “Can ChatGPT AI chatbot spot early stages of Alzheimer's? - study”. (2022年) 2023年2月10日閲覧。
  46. ↑ Agbavor, Felix; Liang, Hualou (December 22, 2022). “Predicting dementia from spontaneous speech using large language models”. PLOS Digital Health 1 (12): e0000168. doi:10.1371/journal.pdig.0000168 {{doi}}: 明示されていないフリーアクセスDOI (カテゴリ).
  47. ↑ Manjoo, Farhad (2020年7月29日). “How Do You Know a Human Wrote This?”. The New York Times. ISSN 0362-4331 2020年8月4日閲覧。
  48. ↑ “A.I. Is Mastering Language. Should We Trust What It Says?”. The New York Times (2022年4月15日). 2023年2月15日閲覧。
  49. ↑ “Philosophers On GPT-3 (updated with replies by GPT-3)”. Daily Nous (2020年7月30日). 2020年7月31日閲覧。
  50. ↑ Chalmers, David (2020年7月30日). “GPT-3 and General Intelligence”. Daily Nous 2020年8月4日閲覧。
  51. ↑ Simonite, Tom (July 22, 2020). “Did a Person Write This Headline, or a Machine?”. Wired. ISSN 1059-1028 2020年7月31日閲覧。.
  52. ↑ Claypoole, Theodore (2020年7月30日). “New AI Tool GPT-3 Ascends to New Peaks, But Proves How Far We Still Need to Travel”. The National Law Review. 2020年8月4日閲覧。
  53. ↑ Marcus, Gary (2018年12月1日). “The deepest problem with deep learning” (英語). Medium. 2020年9月29日閲覧。
  54. ↑ Marcus, Gary; Davis, Ernest (August 22, 2020). “GPT-3, Bloviator: OpenAI's language generator has no idea what it's talking about”. MIT Technology Review 2020年8月23日閲覧。.
  55. ↑ Metz, Cade (2020年11月24日). “Meet GPT-3. It Has Learned to Code (and Blog and Argue).” (英語). The New York Times. ISSN 0362-4331 2020年11月24日閲覧。
  56. ↑ “Medical chatbot using OpenAI's GPT-3 told a fake patient to kill themselves” (英語). AI News (2020年10月28日). 2021年1月8日閲覧。
  57. ↑ Chomsky on Terence McKenna, Sam Harris, GPT3, Cryptocurrencies, Kierkegaard, Neuralink, & Hofstadter. 2021年3月24日. 該当時間: 1:11:44.
  58. ↑ Floridi, Luciano; Chiriatti, Massimo (1 November 2020). “GPT-3: Its Nature, Scope, Limits, and Consequences”. Minds and Machines 30 (4): 681–694. doi:10.1007/s11023-020-09548-1.
  59. ↑ Olanoff, Drew (2015年12月11日). “Artificial Intelligence Nonprofit OpenAI Launches With Backing From Elon Musk And Sam Altman”. Tech Crunch 2021年5月31日閲覧。
  60. ↑ Hao, Karen (2019年8月29日). “OpenAI has released the largest version yet of its fake-news-spewing AI”. MIT Technology Review 2021年5月31日閲覧。
  61. ↑ Coldewey, Devin (2019年3月11日). “OpenAI shifts from nonprofit to 'capped-profit' to attract capital”. Tech Crunch 2021年5月31日閲覧。
  62. ↑ Bender, Emily M.; Gebru, Timnit; McMillan-Major, Angelina; Shmitchell, Shmargaret (2021年3月3日). On the Dangers of Stochastic Parrots: Can Language Models Be Too Big?. FAccT '21: Proceedings of the 2021 ACM Conference on Fairness, Accountability, and Transparency. pp. 610–623. doi:10.1145/3442188.3445922.
  63. ↑ Mindzak, Michael; Eaton, Sarah Elaine. “Artificial intelligence is getting better at writing, and universities should worry about plagiarism” (英語) 2021年11月6日閲覧。
  64. ↑ Rogerson, Ann M.; McCarthy, Grace (December 2017). “Using Internet based paraphrasing tools: Original work, patchwriting or facilitated plagiarism?” (英語). International Journal for Educational Integrity 13 (1): 1–15. doi:10.1007/s40979-016-0013-y. ISSN 1833-2595.
  65. ↑ Here are a few ways GPT-3 can go wrong. TechCrunch.
  66. ↑ Comment Regarding Request for Comments on Intellectual Property Protection for Artificial Intelligence Innovation (PDF). USPTO.
  67. ↑ “OpenAI API”. 2023年5月6日閲覧。
  68. ↑ “New GPT-3 Capabilities: Edit & Insert” (英語). OpenAI (2022年3月15日). 2023年1月13日閲覧。
  69. ↑ “Models”. 2023年2月15日閲覧。
  70. ↑ Jan LeikeさんはTwitterを使っています: 「Check out OpenAI's new text-davinci-003! Same underlying model as text-davinci-002 but more aligned. Would love to hear feedback about it!」 / Twitter
  71. ↑ “Model index for researchers”. 2023年2月15日閲覧。
  72. ↑ “ChatGPT: Optimizing Language Models for Dialogue” (英語). OpenAI (2022年11月30日). 2023年1月13日閲覧。
  73. ↑ “Function calling and other API updates”. openai.com. 2023年6月14日閲覧。
  74. ↑ “OpenAI API”. 2023年5月5日閲覧。

関連項目


急上昇のことば

合同
大久保瑠美
日本橋ストリートフェスタ
君島みお 名義
在日アルゼンチン人

英和和英テキスト翻訳

英語⇒日本語日本語⇒英語
  •  GPT-3のページへのリンク

辞書ショートカット

カテゴリ一覧

全て

＋ ビジネス

＋ 業界用語

＋ コンピュータ

＋ 電車

＋ 自動車・バイク

＋ 船

＋ 工学

＋ 建築・不動産

＋ 学問

＋ 文化

＋ 生活

＋ ヘルスケア

＋ 趣味

＋ スポーツ

＋ 生物

＋ 食品

＋ 人名

＋ 方言

＋ 辞書・百科事典

すべての辞書の索引

あいうえお
かきくけこ
さしすせそ
たちつてと
なにぬねの
はひふへほ
まみむめも
やゆよ
らりるれろ
わをん
がぎぐげご
ざじずぜぞ
だぢづでど
ばびぶべぼ
ぱぴぷぺぽ
ＡＢＣＤＥ
ＦＧＨＩＪ
ＫＬＭＮＯ
ＰＱＲＳＴ
ＵＶＷＸＹ
Ｚ
１２３４５
６７８９０
記号

Weblioのサービス

「GPT-3」の関連用語

1
HCV
血液用語
32% |||||

2
中毒症状
ウィキペディア小見出し辞書
16% |||||

3
アダム・ディアンジェロ
百科事典
16% |||||

4
OpenAI
百科事典
16% |||||

5
GUIDパーティションテーブル
百科事典
14% |||||

6
特定健康診査・特定保健指導 デジタル大辞泉
12% |||||

GPT-3のお隣キーワード

GPS腕時計

GPS衛星

GPT

GPT (言語モデル)

GPT Image

GPT-2

GPT-3

GPT-4

GPT-4.5

GPT-4o

GPT-5

GPTs

GPU

検索ランキング

   

 英語⇒日本語
日本語⇒英語		    


GPT-3のページの著作権
Weblio 辞書 情報提供元は 参加元一覧 にて確認できます。

   
ウィキペディアウィキペディア
All text is available under the terms of the GNU Free Documentation License.
この記事は、ウィキペディアのGPT-3 (改訂履歴)の記事を複製、再配布したものにあたり、GNU Free Documentation Licenseというライセンスの下で提供されています。 Weblio辞書に掲載されているウィキペディアの記事も、全てGNU Free Documentation Licenseの元に提供されております。

©2026 GRAS Group, Inc.RSS