WebInfo

AI開発

GPT OSSは、OpenAIによって開発された大規模なモデルと小型のモデルの両方を含むオープンソースモデルファミリです。これらのモデルは、強力な推理能力、アグレッシブなタスクや多様な開発者利用ケースに対応しています。

  • GPT OSSはApache 2.0ライセンスで公開されており、最小限の使用ポリシーも適用されています。
  • 大きなモデル(117Bパラメータ)と小型のモデル(21Bパラメータ)が含まれています。両方とも混合的専門家モデル(MoE)を使用しており、4ビット量化 Scheme (MXFP4) を採用しています。
  • 大きなモデルはH100 GPUで1つのGPUに収まります。小型のモデルは16GBのメモリで動作し、コンシューマー向けハードウェアや在宅アプリケーションでの使用が適切です。
  • + 1件の要点

### 日本語タイトル: GraphcoreとHugging Faceが新しいIPU向けTransformerモデルラインナップを発表しました

  • ### 結論:
  • GraphcoreとHugging Faceは、Hugging Face Optimumのオープンソースライブラリに搭載されているTransformers性能最適化のために最新のハードウェアとソフトウェアを提供しています。これにより、開発者はGraphcoreのIPUに対応した10モデルで自然言語処理(NLP)、peech、コンピュータビジョンなどのさまざまなモーダルリテラリズムにアクセスできます。
  • ### 要点: