AIチャットボット「Groq」の出力の速さが話題になっています。Groqは1秒間に500トークンを出力可能であり、これはGPT-4の20トークン/sと比較して25倍の速さを誇ります。
本記事では、Groqの特徴や実際のユーザーの反応についてご紹介します。
Groqとは？
「Groq」は、アメリカのGroq.incが開発したAIチャットボットです。イーロンマスク氏が率いつxAIが開発した「Grok」と名前が似ていますが、別のサービスです。
Groqは無料でWebブラウザ上で利用でき、日本語にも対応しています。
https://groq.com/
ChatGPTと同様に質問を入力してAIと会話をすることができます。
利用できる言語モデルは独自のものではなく、「Llama-2 70B-4k」と「Mistral 8x7B-32k」です。
LPUで圧倒的な計算速度を実現
Groqの特徴は出力の速さにあり、1秒間に500トークンを出力することができます。これは、GPT-4の25倍にあたります。
こちらは、ChatGPTとGroqに同じ質問を同時に投げかけた結果ですが、Groqの方が圧倒的に出力のスピードが高いことが分かります。
高速の回答出力を実現しているのは、LPU（Language Processing Unit）という新しいAIチップです。
CPUやGPUを超える計算能力を持ち、言語処理のタスクに優れています。
Groqが公開しているレポートからも、他社の生成AIサービスと比較して出力速度が高いことが分かります。
出典：Groq
ユーザーの反応
実際にGroqを利用したユーザーからも、回答の出力速度への高い評価を受けています。
また、LPUについても、GPUに対抗する新しいAIチップとして期待が高まっています。
まとめ
本記事では、高い出力速度で話題になっているAIチャットボット「Groq」について紹介しました。
言語処理に優れたAIチップであるLPUが今後どのように広がっていくのか期待が高まります。
Groqが無料でアクセスできるため、皆様もぜひ最新の生成AIに触れてみてはいかがでしょうか。
