LLMの性能の最大化

以下の動画の個人メモです. www.youtube.com 性能改善のステップ プロンプトエンジニアリングから始める: 最初のステップとして、プロンプトエンジニアリングを行います。これにより、迅速にテストを行い、学習することができます。初期のプロンプトの設計…

LLMの性能の最大化

以下の動画の個人メモです. www.youtube.com 性能改善のステップ プロンプトエンジニアリングから始める: 最初のステップとして、プロンプトエンジニアリングを行います。これにより、迅速にテストを行い、学習することができます。初期のプロンプトの設計…

LLMベースの自律型エージェントのサーベイ

こちらにまとめました speakerdeck.com

Multi Vector Retrieverの概要

以下のlangchainのMulti Vector Retrieverの記事を読んでまとめました. MultiVector Retriever | ️ Langchain ドキュメントごとに複数の埋め込みベクトルを保存したいときにどのようにするのが良いか? 以下の方法が考えられ,Multi Vector Retrieverではそ…

weblab-10bとチャット

公開された松尾研の大規模言語モデルweblab-10bとチャットして遊んでみました. > こんにちは weblab: こんにちは、ゲストさん 新潟県のその他専門職のアルバイト・バイト・パート求人情報 新潟県のその他専門職のバイト・アルバイト・パートの求人情報<|end…

LLMのファインチューニングの有効性

事前学習した大規模言語モデルを新しいタスクに使うには、主にIn-context learningとfine tuningの2つの方法がある. In-Context Learning and Indexing 一般的なテキストコーパスで事前学習した大規模言語モデル(LLM)は文脈内学習が可能であり、LLMが明示…

LlamaIndexのIndexの仕組み

大規模言語モデル(LLM)を利用する上でLangChainと合わせて重要なLlamaIndexについて,LlamaIndexのドキュメントembedding方法や回答の合成方法がイマイチ不思議(理解できてなかった)だったので,読んで整理しました. LlamaIndexとは LlamaIndexはLLMを…

ChatGPTを使ったwikiの自然言語対話ボット

GCPのCloud Functionsを使ってサーバレスで実現しました. アーキテクチャ https://github.com/ryok/notion-qa4slack

ChatGPTをslackから使えるようにする

ChatGPTをslackから呼べるようにしたい. GCPのCloud FunctionsからOpenAI APIを呼びたい. 基本的にはこちらの記事を参考にして実現可能でした. zenn.dev ただ,以下の点が注意です. ・環境変数としてSLACK_SIGNING_SECRETも設定する必要がある(記事上は…

notionにdraw.ioの図を差し込む

このやり方で基本OKだが,1つ注意点. qiita.com 最終的リンクでnotion側でembedしても図形が表示されない. 一度そのリンクを表示してから,リンクをコピーし直し,notion上のembedに貼り付けると図形が表示された.(バグ?)

GradioベースをApp Engineにデプロイ

Hugging FaceからGCPのApp EngineにGradioベースのアプリをそのまま移植した際にこのイシューにぶつかった. Output file is put at /tmp file and it doesn't work on cluster environment · Issue #2899 · gradio-app/gradio · GitHub イシューどおり, gr…

ブログ始めました

ブログ始めました。 内容は基本的に技術系の内容を書いていこうと思っています。 始めたきっかけは何か本や記事を読んでいてもイマイチインプットが薄い、モチベーションが上がらないことがあり、やはり何かアウトプットがあったほうが確実にインプット出来…