はじめに GPTsは画期的なサービスですが、致命的な弱点があります。 それはプロンプトインジェクション(プロンプトリーキング)対策が、ネイティブでされていないことです。 そのため、対策をしていないと簡単に内部のプロンプトを盗まれてしまいます。 しかし、対策のためのプロンプトが長くなると、本来の機能に悪影響を及ぼしてしまいます。 そこで4行でできる比較的短いリーキング対策プロンプトを作成し...

はじめに みなさんファインチューニングしてますか？ OpenAI公式では、「ファインチューニングの前にプロンプト調整などを試すべき」と書かれていることもあり、あまり実践でファインチューニングを使う例は見ない印象です。 しかし、私はファインチューニングは実践でこそガンガン使うべきだと考えます。 最後の手段と捉えるのではなく、プロンプトエンジニアリングと同等に扱うべきです。 なぜなら、ファイン...

はじめに 幸運なことに、今年は多くのGPTを組み込んだシステムのPoCなどを担当させていただいた。 自身の備忘録も兼ねて、それらで得られたコツのようなものをまとめてみる。 ここで解説するテクニックは、OpenAI公式で解説されている基本的な情報は含んでいないため、未読の方はOpenAI公式のドキュメントも読了することを強くおすすめする。 プロンプトはできる限り単純に、単一タスクの指示にする ...

最初に言っておきます。 私はChatGPTが大好きです。 ChatGPTを使わない日は無いですし、OpenAI APIのアカウントも使い倒しており、先日気がついたら個人のアカウントがTier 4になってました。 しかし、ChatGPTを使って理想の結果を出す事が難しいのも事実です。 実際、ChatGPTを導入してみた企業は結構ありますが、「思ったように社内に浸透しない」「使う人と使わない人で...