Chat Completions APIに新しく追加された機能である「Function calling」を試してみた。 Function calling and other API updates Function calling Bingチャットを使っていると、質問に応じて必要なときに検索を行う処理を行っている。同じように状況に応じ…

先日、PyTorchでFXグラフモードで量子化認識トレーニングを試して、精度が大きく落ちることなく、CPUでの推論が速くなることを確認した。そこで、dlshogiのモデルで量子化認識トレーニングを試して、CPUで強くなるかを検証した。 量子化認識トレーニング 先…

ほぼ個人メモ。HTMLのtextareaは、入力に応じて高さを自動で調整する機能がない。 ChatGPTの入力欄のように、高さが自動で変わるテキストエリアを作るには、CSSとJavaScriptで実装する必要がある。JavaScriptで高さを計算するのはややこしいので、非表示のdi…

LLMで思考ゲームのような推論が必要なタスクを可能にする手法に関する論文「Tree of Thoughts: Deliberate Problem Solving with Large Language Models」を読んだ際のメモ。LLMはアイディアを出したりする創作的なタスクや、要約や翻訳のような変換のタスク…

以前に、Whisperでリアルタイムに文字起こしするアプリを公開したが、記事にアクセスが多く需要があるようなので、ONNXに変換する処理とアプリのソースコードを公開した。 ONNXへの変換処理は、メールで記事を読んでもわからんので、ソースを公開して欲しい…