2024-02-01から1ヶ月間の記事一覧

日本語のトークン計算、そんなに不利じゃなかった(けど英語のほうがまだまだ有利)

多くのLLMを利用できるAPIサービスで課金算出の対象となる「トークン」という単位。 以前GPT-3で計算した結果をもって「日本語はトークン消費が多くてかなり不利」という感覚を持ってましたが一部勘違いしてたみたい。 日本語の文章とその英語版(DeepLで直訳…